Discriminación logística
La discriminación logística clasifica las observaciones modelando la probabilidad posterior de cada clase directamente como una función logística de las características.
Definition
La discriminación logística es un enfoque de clasificación que modela la probabilidad condicional de pertenencia a una clase dadas las características a través de un enlace logístico (o softmax), ajustando el modelo por máxima verosimilitud sin asumir una distribución para las características.
Scope
Este tema cubre los modelos logísticos binarios y multinomiales como clasificadores discriminativos, la estimación de máxima verosimilitud de sus coeficientes, la linealidad de los log-odds resultantes y el límite de decisión, el contraste con el análisis discriminante generativo y la interpretación de los coeficientes como efectos de log-odds.
Core questions
- ¿Cómo se pueden modelar directamente las probabilidades de pertenencia a una clase a partir de las características?
- ¿Cuál es la forma del límite de decisión implicado por el modelo logístico?
- ¿En qué se diferencia la discriminación logística del análisis discriminante gaussiano?
- ¿Cómo se interpretan los coeficientes estimados?
Key theories
- Modelado directo de probabilidades posteriores
- La discriminación logística especifica los log-odds de pertenencia a una clase como una función lineal de las características y los estima por máxima verosimilitud, sin hacer ninguna suposición sobre la distribución marginal de las características.
- Correspondencia generativa-discriminativa
- Bajo clases gaussianas de covarianza igual, los log-odds posteriores son exactamente lineales, por lo que la regresión logística y el análisis discriminante lineal postulan la misma forma de límite, pero la estiman bajo diferentes supuestos y verosimilitudes.
Clinical relevance
La discriminación logística se encuentra entre los clasificadores más utilizados en la investigación aplicada porque proporciona probabilidades de clase calibradas y coeficientes interpretables, y es robusta a las desviaciones de la normalidad de las características.
History
El modelo logístico para resultados binarios se desarrolló a mediados del siglo XX en estadística y se adaptó al entorno de clasificación como discriminación logística, proporcionando una contraparte discriminativa a la tradición del análisis discriminante generativo.
Debates
- Estimación discriminativa versus generativa
- La discriminación logística optimiza la verosimilitud condicional y tiende a ser más robusta a la especificación incorrecta de la distribución de características, mientras que el análisis discriminante generativo puede ser más eficiente cuando se cumplen sus supuestos gaussianos.
Key figures
- David Cox
- Geoffrey McLachlan
Related topics
Seminal works
- hastie2009
- mclachlan1992
- johnson2007
Frequently asked questions
- ¿La discriminación logística asume que las características están distribuidas normalmente?
- No. Modela la probabilidad condicional de la clase dadas las características y no hace ninguna suposición distribucional sobre las características en sí, lo cual es una de las razones de su robustez.
- ¿Cómo se extiende la discriminación logística a más de dos clases?
- A través del modelo logístico multinomial (softmax), que especifica la probabilidad de cada clase en relación con una línea de base como una exponencial normalizada de combinaciones lineales de características.