Divergencia Kullbacka-Leiblera
Divergencia Kullbacka-Leiblera, známa aj ako relatívna entropia alebo informačná divergencia, meria asymetrický rozdiel medzi dvoma pravdepodobnostnými distribúciami. Táto informačno-teoretická miera, predstavená Solomonom Kullbackom a Richardom Leiblerom v roku 1951, kvantifikuje, ako sa jedna pravdepodobnostná distribúcia odchyľuje od referenčnej distribúcie, pričom nadobúda hodnoty od 0 (identické distribúcie) do nekonečna. Je základom v teórii informácie, strojovom učení a rozhodovaní v rámci pravdepodobnostných rámcov.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Mapa metód
Okolie príbuzných metód — vyberte uzol na preskúmanie.
Zdroje
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Ako citovať túto stránku
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/sk/decision-making/kullback-leibler-divergence
Ktorá metóda?
Postavte túto metódu vedľa jej najbližších príbuzných a čítajte ich vedľa seba — knižnica vám knihy položí na stôl; voľba je na vás.
- Hellingerova vzdialenosťRozhodovanie↔ porovnať
- Jensen-Shannonova divergenciaRozhodovanie↔ porovnať
Odkazujú sem
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →