牛顿方法的收敛性意味着根的存在,但函数和初始猜测必须满足一些条件才能保证牛顿方法的局部收敛。康托洛维奇定理保证了牛顿方法的局部收敛性(这意味着根的存在)。这些假设有点技术性,但在牛顿方法的分析中是标准的。假设的形式和定理的精确表述因来源而异,这里我陈述的内容与1995年凯利发现的内容类似。
假设1
存在常量$\测试版$,美元\eta$,$\bar{r}$、和$\伽马$具有$\beta\eta\gamma\leq\frac{1}{2}$和$x_0\in\mathbb{R}^n$这样的话
- $F(美元)$在处可微分$x_0美元$、和$$\|F'(x_0)^{-1}\|\leq\beta,\\text{和}\|F'(x_0)^{-1}华氏度(x_0)\|\leq\eta。$$
- $F'(美元)$Lipschitz连续且Lipschit常数为$\伽马$在一个半径为$\bar{r}\geqr_-$关于$x_0美元$哪里$$r_-=\frac{1-\sqrt{1-2\β\β\γ}}{β\γ}。$$
在英语中,这些假设大致如下:
线性近似的根$F(美元)$蚂蚁$x_0美元$是唯一的,并且线性近似的根位于$x_0美元$距离不太远$x_0美元$。
高阶导数$F(美元)$在大约$x_0美元$所以当我们在线性近似的根上做同样的程序时,第一点仍然为真。
事实上,值得注意的是,牛顿方法和各种修正的根和精确误差估计的存在可以通过简单的估计来保证$F(美元)$及其最初的几个衍生产品。
定理的表述是
定理(坎托罗维奇)
让假设1成立并让$\beta\eta\gamma\leq\frac{1}{2}$并定义$\mathcal美元{B} _0(0)=\{x\in\mathbb{R}^n:\|x-x_0\|\leq R_-\}$.然后有一个唯一的根x美元^*$属于$F(美元)$在里面$\mathcal美元{B} _0(0)$,牛顿迭代$x_0美元$当初始迭代收敛到$x美元^*$、和迭代$x_k\in\mathcal美元{B} _0(0)$为所有人千美元$此外,x美元^*$是的唯一根$F(美元)$在半径范围内$$r=\min\left\{\bar{r},\frac{1+\sqrt{1-2\beta\eta\gamma}}{beta\gamma{right\}$$关于$x_0美元$和错误$e_k(_k)$满足估计$$\|e_k\|leq\frac{(2\beta\eta\gamma)^{2^k}}{2^k\beta\gamma}。$$也就是说,牛顿的方法是二次收敛的。
实际上,你很少能保证先验的这些假设都得到了满足,但它们可以定量地衡量“局部”对于牛顿方法的局部收敛意味着什么,以及这种局部性是如何受到诸如$F'(美元)$或大型二阶导数。最大化收敛机会的最实际方法是通过缩放或其他方式减少问题的条件反射,或者简单地进行更好的初始猜测。显然,“猜测更接近正确答案”是一个循环建议,但如果方程组对应的问题有一些现有的领域知识,那么可以利用这一点进行更好的初始化。例如,根据文献中的参数值或简化模型或缺少物理特性的模型预测的值进行初始化可能会非常有效。有一些领域不赞成这种做法(CFD浮现在脑海中),因为它会使结果产生偏差,但如果你在一开始就遇到了问题,那么它是有效的。
凯利,C.T。,线性和非线性方程的迭代方法,应用数学前沿。16.宾夕法尼亚州费城:SIAM,工业和应用数学学会。xiii,165页(1995年)。ZBL0832.65046号。