物理学中的寻根与优化

许多物理条件最终都归结为寻找函数何时消失或能量何时最小化，而数值寻根和优化提供了定位这些特殊点的迭代算法。

Definition

寻根是找到函数等于零的值，而优化是找到使函数最小化或最大化的值；当不存在封闭形式解时，两者都通过迭代求解。

Scope

本主题涵盖了通过二分法、牛顿-拉夫逊法和割线法进行的标量和多维寻根，以及包括梯度下降法、共轭梯度法和拟牛顿最小化在内的连续优化，这些方法应用于物理问题，例如平衡条件、特征值搜索和能量最小化。

Core questions

• 迭代方法如何收敛到非线性物理方程的根？
• 为什么牛顿法在简单根附近会二次收敛，以及它何时会失效？
• 如何在多维空间中找到物理能量函数的最小值？
• 基于梯度和拟牛顿方法如何权衡导数信息以提高收敛速度？

Key theories

区间收敛法和牛顿寻根法

像二分法这样的区间收敛法通过将根限制在一个不断缩小的区间内来保证收敛，而牛顿-拉夫逊法利用导数在足够接近简单根时实现二次收敛的步骤。

基于梯度的最小化

优化方法通过沿着负梯度下降来最小化目标函数，其中共轭梯度法和最速下降法的变体选择搜索方向和步长，以有效地达到最小值。

拟牛顿法

拟牛顿法（如BFGS）通过连续梯度构建海森矩阵的近似值，在不明确形成二阶导数的情况下，在能量曲面上实现接近牛顿法的收敛速度。

Clinical relevance

寻根和优化可以定位平衡构型，将物理模型拟合到数据，将分子几何结构弛豫到最小能量，并解决在电子结构和变分计算中反复出现的自洽条件。

History

牛顿的寻根方法可追溯到17世纪；系统的数值优化随着20世纪中叶的线性和非线性规划而发展起来，而20世纪50年代到70年代发展起来的共轭梯度法和拟牛顿法成为解决大型物理问题的标准工具。

Key figures

• Isaac Newton
• Jorge Nocedal
• Magnus Hestenes

Seminal works

• nocedal2006
• press2007

Frequently asked questions

既然牛顿法收敛速度快，为什么不总是使用它？

牛顿法只有在简单根附近才能二次收敛，并且需要导数；远离根，或者导数很小或函数不规则时，它可能会发散。稳健的代码通常将其与二分法等区间收敛回退方法结合使用。

物理学中的能量最小化与优化有何关系？

寻找物理系统的稳定构型意味着找到其势能的最小值，这正是一个连续优化问题；用于一般优化的相同梯度和拟牛顿算法也应用于弛豫分子和材料结构。