数学>优化与控制
标题: 局部误差有界条件下三次正则化方法的二次收敛性
摘要: 在本文中,我们考虑了最小化两次连续可微函数的三次正则化(CR)方法。 虽然CR方法被广泛认为是牛顿方法的一种全局收敛变体,具有优越的迭代复杂度,但现有的关于其局部二次收敛的结果需要严格的非退化条件。 我们证明了在局部误差界(EB)条件下,CR方法生成的迭代序列至少Q-二次收敛到二阶临界点,该条件比现有的非退化条件弱得多。 这表明,添加三次正则化不仅使牛顿方法具有显著的全局收敛性,而且使其即使在存在退化解的情况下也能二次收敛。 作为副产品,我们证明了在不假设凸性的情况下,所提出的EB条件等价于一个二次增长条件,该条件可能是独立的。 为了证明我们的收敛分析的有用性和相关性,我们分别关注相位恢复和低阶矩阵恢复中出现的两个具体的非凸优化问题,并以压倒性的概率证明, 求解这两个问题的CR方法生成的迭代序列至少Q-二次收敛到全局极小值。 我们还介绍了CR方法在解决这两个问题时的数值结果,以支持和补充我们的理论发展。