多元多重回归

多元多重回归通过一组共同的预测变量同时预测多个连续响应，并对响应之间的相关性进行建模。

Definition

多元多重回归是一种线性模型，其中响应向量在共享预测变量上进行回归，并带有相关误差，在考虑响应协方差结构的同时进行估计和检验。

Scope

本主题涵盖了具有响应矩阵的多元线性模型、与逐方程回归的点估计相符的最小二乘估计、误差协方差在推断中的作用、回归假设的多元检验以及响应向量的预测区域。

Core questions

• 如何从共同的预测变量中联合预测多个连续响应？
• 联合估计何时与单独的单变量回归不同？
• 如何检验关于系数矩阵的假设？
• 如何构建响应的联合预测区域？

Key theories

矩阵最小二乘法

系数矩阵的最小二乘估计是逐列获得的，因此点估计等于单独的单变量回归，而估计的误差协方差将响应联系起来进行推断。

系数的多元推断

关于系数矩阵的假设检验使用源自误差和假设平方和与交叉乘积矩阵的多元统计量，结合了跨响应的证据。

Clinical relevance

当同时测量多个结果并共享预测变量时，使用多元多重回归，可以进行联合假设检验和预测区域，从而尊重结果之间的相关性。

History

多元线性模型及其推断理论在二十世纪早期到中期的经典多元分析中发展起来，将单变量回归推广到向量响应，并提供了至今仍在使用的多元检验统计量。

Key figures

• T. W. Anderson
• Samuel Wilks

Seminal works

• anderson2003
• johnson2007
• mardia1979

Frequently asked questions

如果点估计等于单独的回归，为什么还要使用多元模型？

因为联合推断、跨响应的假设检验和预测区域取决于响应协方差，多元模型可以捕捉到这一点，而单独的单变量回归则忽略了这一点。

误差协方差矩阵的作用是什么？

它量化了响应误差如何协变，并进入多元检验统计量和预测区域，从而解释了响应之间的依赖性。