Divergencia de Kullback-Leibler
La divergencia de Kullback-Leibler, también llamada entropía relativa o divergencia de información, mide la diferencia asimétrica entre dos distribuciones de probabilidad. Introducida por Solomon Kullback y Richard Leibler en 1951, esta medida de la teoría de la información cuantifica cómo una distribución de probabilidad diverge de una distribución de referencia, oscilando de 0 (distribuciones idénticas) a infinito. Es fundamental en la teoría de la información, el aprendizaje automático y la toma de decisiones con marcos probabilísticos.
Leer el método completo
Inicia sesión con una cuenta gratuita para leer esta sección.
Mapa de métodos
El vecindario de métodos relacionados: selecciona un nodo para explorarlo.
Fuentes
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
Cómo citar esta página
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/es/decision-making/kullback-leibler-divergence
¿Qué método?
Coloca este método junto a sus parientes más cercanos y léelos lado a lado: la biblioteca pone los libros sobre la mesa; la elección es tuya.
- Distancia de HellingerToma de decisiones↔ comparar
- Divergencia Jensen-ShannonToma de decisiones↔ comparar
Citado por
¿Has visto un problema en esta página? Infórmanos o sugiere una corrección →