非线性共轭梯度法的拟牛顿预处理和阻尼拟牛顿格式

本文研究非线性共轭梯度（NCG）方法的无矩阵预条件。特别是，我们回顾了基于拟牛顿更新的建议，并在之前的一些迭代中满足割线方程或类割线方程。给出了条件证明，在某种意义上，所提出的预条件也近似于Hessian矩阵的逆。特别是，预条件的结构既依赖于低阶更新，也依赖于一些特定的参数。低阶更新是NCG迭代的副产品。此外，我们考虑了将阻尼技术嵌入基于拟Newton更新的一类预条件器中的可能性。在Wolfe线搜索条件几乎不满足的情况下，阻尼方法被证明可以有效地提高准Newton更新的性能。目的是根据文献中的一条新的研究路线，扩展阻尼方法背后的思想，以改进NCG方案。结果总结了大规模CUTEst问题的扩展数值经验，表明这些方法可以显著提高NCG方法的性能。