×

二维受限Nelder-Mead算法的收敛性。 (英语) Zbl 1246.49029号

摘要:Nelder–Mead算法是1965年发布的一种长期以来用于无约束优化的直接搜索方法,其设计目的是仅使用函数值,而不使用任何导数信息,最小化实数变量的标量值函数(f)。每个Nelder–Mead迭代都与一个由顶点及其函数值定义的非退化单纯形相关联;典型的迭代通过用新点替换最坏的顶点来生成新的单纯形。尽管该方法得到了广泛的应用,但理论结果仍然有限:对于水平集有界的一元严格凸目标函数,该算法总是收敛到极小值;对于这类二元函数,单纯形的直径收敛到零,但McKinnon构造的示例表明,该算法可以收敛到非最小点。本文考虑限制Nelder–Mead算法,该算法不允许扩展步骤。在二维中,我们证明了对于任何具有正定Hessian和有界水平集的非退化起始单纯形和任何两次连续可微函数,该算法总是收敛到极小值。该证明基于将该方法视为离散动力系统,并依赖于无约束优化收敛证明中的几种非标准技术。

MSC公司:

49立方米 变分法中的其他数值方法(MSC2010)
65千5 数值数学规划方法
90 C56 无导数方法和使用广义导数的方法
PDF格式BibTeX公司 XML格式引用