Kullback-Leibler-divergens
Kullback-Leibler-divergens, også kaldet relativ entropi eller informationsdivergens, måler den asymmetriske forskel mellem to sandsynlighedsfordelinger. Denne informationsteoretiske måling, introduceret af Solomon Kullback og Richard Leibler i 1951, kvantificerer, hvor meget én sandsynlighedsfordeling afviger fra en referencefordeling, og spænder fra 0 (identiske fordelinger) til uendelig. Den er fundamental inden for informationsteori, maskinlæring og beslutningstagning med probabilistiske rammer.
Læs hele metoden
Log ind med en gratis konto for at læse dette afsnit.
Method map
The neighbourhood of related methods — select a node to explore.
Kilder
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Sådan citerer du denne side
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/da/decision-making/kullback-leibler-divergence
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Hellinger-afstandBeslutningstagning↔ compare
- Jensen-Shannon DivergensBeslutningstagning↔ compare
Refereret af
Har du fundet en fejl på denne side? Indberet den eller foreslå en rettelse →