Divergența Kullback-Leibler
Divergența Kullback-Leibler, numită și entropie relativă sau divergență informațională, măsoară diferența asimetrică dintre două distribuții de probabilitate. Introdusă de Solomon Kullback și Richard Leibler în 1951, această măsură informațional-teoretică cuantifică modul în care o distribuție de probabilitate diferă de o distribuție de referință, variind de la 0 (distribuții identice) la infinit. Este fundamentală în teoria informației, învățarea automată și luarea deciziilor cu cadre probabilistice.
Citește metoda completă
Autentifică-te cu un cont gratuit pentru a citi această secțiune.
Harta metodelor
Vecinătatea metodelor înrudite — selectați un nod pentru a explora.
Surse
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Cum se citează această pagină
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/ro/decision-making/kullback-leibler-divergence
Ce metodă?
Așezați această metodă lângă cele mai apropiate rude și citiți-le alăturat — biblioteca pune cărțile pe masă; alegerea vă aparține.
- Distanța HellingerLuarea deciziilor↔ compară
- Divergența Jensen-ShannonLuarea deciziilor↔ compară
Citat de
Ai observat o problemă pe această pagină? Raportează sau sugerează o corectură →