Kullback-Leibler-divergenssi
Kullback-Leibler-divergenssi, jota kutsutaan myös relatiiviseksi entropiaksi tai informaatiodivergenssiksi, mittaa kahden todennäköisyysjakauman välistä asymmetristä eroa. Solomon Kullbackin ja Richard Leiblerin vuonna 1951 esittelemä informaatioteoreettinen mitta kvantifioi, kuinka paljon yksi todennäköisyysjakauma poikkeaa referenssijakaumasta. Sen arvo vaihtelee 0:sta (identtiset jakaumat) äärettömään. Se on perustavanlaatuinen informaatioteoriassa, koneoppimisessa ja päätöksenteossa, jossa käytetään todennäköisyyskehyksiä.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Menetelmäkartta
Lähimenetelmien naapurusto — valitse solmu tutkiaksesi.
Lähteet
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/fi/decision-making/kullback-leibler-divergence
Mikä menetelmä?
Aseta tämä menetelmä lähimpien sukulaistensa rinnalle ja lue niitä yhdessä — kirjasto asettaa teokset pöydälle; valinta on sinun.
- Hellinger-etäisyysPäätöksenteko↔ vertaa
- Jensen-Shannon-divergenssiPäätöksenteko↔ vertaa
Tähän viittaavat
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →