Análisis Discriminante Lineal

El análisis discriminante lineal separa grupos predefinidos utilizando una combinación lineal de características, siendo óptimo cuando los grupos son gaussianos con una matriz de covarianza común.

Definition

El análisis discriminante lineal es un método de clasificación que asigna una observación al grupo cuya media es la más cercana en distancia de Mahalanobis bajo una matriz de covarianza común, produciendo límites lineales entre los grupos.

Scope

Este tema abarca el criterio de Fisher de maximizar la varianza entre grupos en relación con la varianza dentro de los grupos, el modelo gaussiano equivalente con covarianzas iguales que produce límites de decisión lineales, el papel de la matriz de covarianza agrupada, la discriminación multigrupo mediante coordenadas discriminantes y la conexión con la distancia de Mahalanobis.

Core questions

• ¿Qué combinación lineal de características separa mejor los grupos?
• ¿Bajo qué supuestos es óptima la regla lineal?
• ¿Cómo interviene la covarianza agrupada dentro de los grupos en la función discriminante?
• ¿Cómo se manejan varios grupos simultáneamente?

Key theories

Maximización de la separación

El discriminante de Fisher elige la dirección de proyección que maximiza la relación entre la varianza entre grupos y la varianza dentro de los grupos, proporcionando la combinación lineal de las características que más separa.

Modelo gaussiano de covarianza igual

Cuando los grupos son normales multivariantes con una matriz de covarianza compartida, la razón logarítmica de las densidades de clase es lineal en las características, por lo que el clasificador de Bayes se reduce al discriminante lineal basado en la distancia de Mahalanobis a las medias de los grupos.

Clinical relevance

El análisis discriminante lineal sigue siendo un clasificador de referencia simple e interpretable y una herramienta de reducción de dimensionalidad que proyecta los datos en las direcciones que mejor separan los grupos conocidos, utilizándose en diagnósticos, reconocimiento facial y quimiometría.

History

Fisher introdujo el discriminante lineal en 1936 utilizando mediciones de flores de iris, enmarcándolo como un problema de separación. Su equivalencia con la regla de Bayes para poblaciones gaussianas de covarianza igual se estableció posteriormente, vinculando las perspectivas geométrica y probabilística.

Debates

Robustez del supuesto de covarianza igual

El análisis discriminante lineal asume una covarianza común entre los grupos; cuando esto falla, el análisis discriminante cuadrático o las variantes regularizadas pueden funcionar mejor, aunque la regla lineal suele ser más estable en muestras pequeñas.

Key figures

• Ronald A. Fisher
• P. C. Mahalanobis

Seminal works

• fisher1936
• anderson2003
• hastie2009

Frequently asked questions

¿Cuándo se prefiere el análisis discriminante lineal sobre la regresión logística?

Cuando el supuesto gaussiano de covarianza igual se cumple razonablemente bien, especialmente en muestras pequeñas o con clases bien separadas, el LDA puede ser más eficiente; la regresión logística es más robusta cuando esos supuestos son dudosos.

¿Puede el LDA reducir la dimensionalidad?

Sí. Con varios grupos, produce coordenadas discriminantes que abarcan un subespacio de menor dimensión maximizando la separación de grupos, lo que puede utilizarse para la visualización.