数值线性代数
数值线性代数旨在开发用于在计算机上求解线性系统、最小二乘问题和特征值问题的算法,并明确关注有限精度算术中的准确性、稳定性和成本。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
数值线性代数是研究用于执行线性代数计算(主要是线性系统和特征值/奇异值问题的求解)的算法,以及分析其在有限精度算术中的准确性、稳定性和效率的学科。
Scope
该领域涵盖了大多数科学计算所依赖的计算核心:求解 Ax = b、计算矩阵分解(LU、QR、Cholesky、SVD)、查找特征值和奇异值,以及分析舍入误差和问题条件如何影响计算结果。它涵盖了密集矩阵和结构化矩阵,并将算法的浮点行为视为首要关注点。
Sub-topics
Core questions
- 线性系统 Ax = b 如何才能准确高效地求解,以及何时可以信任其结果?
- 哪些矩阵分解揭示了求解、最小二乘和特征值问题所需的结构?
- 问题的条件性和算法的稳定性如何共同决定有限精度算术中的误差?
- 如何在不形成病态中间量的情况下计算特征值和奇异值?
Key theories
- 后向误差分析
- 计算出的解被解释为略微扰动问题的精确解;如果扰动量与单位舍入误差的量级相同,则算法是后向稳定的,这使得算法的稳定性与问题的条件性分离。
- 条件性和条件数
- 线性代数问题对扰动的敏感性由条件数量化;对于线性系统,相对误差受矩阵条件数乘以相对扰动的限制,与所使用的算法无关。
- 矩阵分解范式
- 大多数算法将问题简化为更简单(三角、正交、对角)因子的乘积;LU、QR、Cholesky 和 SVD 提供了规范分解,从中可以读出解、最小二乘拟合和谱。
Clinical relevance
数值线性代数是几乎所有定量学科的计算基础:离散化微分方程、优化、统计和回归、机器学习、信号和图像处理以及网络分析都归结为大型线性系统、最小二乘问题或特征值计算,其可靠性取决于稳定的矩阵算法。
History
该领域在20世纪中叶随着数字计算机的出现和James H. Wilkinson的后向误差分析而形成,后者解释了为什么带有主元选择的高斯消元法是可靠的。随后的几十年产生了用于特征值的QR算法、对奇异值分解的系统研究以及将稳定算法编纂为通用用途的高质量库(LINPACK、LAPACK)。
Key figures
- James H. Wilkinson
- Gene H. Golub
- Lloyd N. Trefethen
- Nicholas J. Higham
Related topics
Seminal works
- trefethen1997
- golub2013
- higham2002
Frequently asked questions
- 条件性和稳定性之间有什么区别?
- 条件性是问题的一个属性——精确解在数据扰动下变化的程度——而稳定性是算法的一个属性——它在有限精度算术中引入的额外误差量。一个稳定的算法应用于一个病态问题仍然可能产生很大的误差。
- 为什么在数值线性代数中偏爱正交变换?
- 正交(和酉)变换保持2范数并且不放大舍入误差,因此由它们构建的分解——例如通过Householder反射的QR分解——倾向于后向稳定。