Kullback-Leibler Divergentie
Kullback-Leibler divergentie, ook wel relatieve entropie of informatiedivergentie genoemd, meet het asymmetrische verschil tussen twee kansverdelingen. Geïntroduceerd door Solomon Kullback en Richard Leibler in 1951, kwantificeert deze informatietheoretische maat hoeén kansverdeling afwijkt van een referentieverdeling, variérend van 0 (identieke verdelingen) tot oneindig. Het is fundamenteel in informatietheorie, machine learning en besluitvorming met probabilistische kaders.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Methodenkaart
De omgeving van verwante methoden — selecteer een knooppunt om te verkennen.
Bronnen
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Deze pagina citeren
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/nl/decision-making/kullback-leibler-divergence
Welke methode?
Plaats deze methode naast haar naaste verwanten en lees ze naast elkaar — de bibliotheek legt de boeken op tafel; de keuze is aan u.
- Hellinger AfstandBesluitvorming↔ vergelijken
- Jensen-Shannon DivergentieBesluitvorming↔ vergelijken
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →