×

约束优化和拉格朗日乘子法。 (英语) Zbl 0572.90067号

计算机科学和应用数学。纽约-伦敦等:学术出版社。出版社Harcourt Brace Jovanovich的子公司。十三、 第395页,65.00美元(1982年)。
这本书讨论了一类算法来解决具有等式和不等式约束的有限维优化问题。拉格朗日乘子方法与罚函数和乘子方法的概念有关。目前,它们在优化的数值分析中形成了相当大的研究领域,本专著介绍了这些方法的概念和分析。
在第1章中,介绍了一些数学背景,最后引出了这一领域的实际研究课题。本章首先概述线性代数和收敛分析的基本定义和陈述。然后,通过发展最常用的最小化算法(如最速下降法、共轭梯度法或拟牛顿法)的原理来解决无约束优化问题。对各种算法进行比较的注释展示了本书撰写时的最新技术。提出了约束优化的Kuhn-Tucker规则,并用一种牛顿型算法完成了这一章,该算法适用于具有简单线性不等式约束的优化问题,特别适用于控制上有界的离散化最优控制问题。
等式约束优化问题的乘数方法是第二章的主题。鉴于惩罚方法的潜在病态性,对增广拉格朗日方法的发明作了介绍性评论。给出了增广拉格朗日函数的极小值对其参数的敏感性的一些结果。根据增广项中系数的选择,证明了乘数法的线性和超线性收敛速度。本次讨论还涉及其他方面:对惩罚方法的改进、更复杂的步长策略的效果以及对偶问题作为最陡峭上升方法的解释。这引出了关于二阶乘数更新策略的一节。这里证明了超线性和二次收敛速度,并指出了这类乘法器方法在计算复杂度方面的不足。本文简要讨论了准牛顿版本,下面是关于部分消除约束的章节,即一些约束未纳入拉格朗日方程。最后,作者讨论了乘数更新所必需的无约束极小化不需要精确执行的事实。
第三章使用松弛变量将不等式存在的约束优化问题重写为等式约束。此外,还研究了不可微约束,并讨论了各种特殊情况。
第四章的前半部分介绍了基于精确罚函数的方法。首先,给出了等式和不等式约束下不可微罚函数的几个例子。精确罚函数的极小值与原问题的Kuhn-Tucker点有关。研究了在非最优点产生下降方向的二次子问题。给出了一种基于连续二次规划的算法。在描述二次部分的矩阵的一致正定假设下,证明了对于某些步长规则,其收敛到Kuhn-Tucker点。另一节描述了可微精确罚函数。此外,通过先验信息或迭代讨论了惩罚参数的实际选择。
第四章第二部分讨论了拉格朗日方法。这些是应用于描述一阶必要最优性条件的非线性方程组的牛顿方法的变体。实施这些方法的可能性多种多样,具体取决于问题中继承的结构的多少。其中一些变体被提出并应用于等式约束和不等式约束的问题。通过设计,所有这些方法都是局部收敛的。在最后一节中,将讨论这些方法与全局方法(如乘数方法)的组合。本节还概述了一些可以与准牛顿方法联系起来的方法。给出了收敛速度的证明。
第五章是非二次罚函数的推广。这些方法是由简单的例子驱动的,并使用对偶问题进行了分析。在各种假设下,如某种类型的二阶充分条件下,证明了收敛速度。根据待解决问题的增长条件中的某些参数,可以证明这些乘法器方法具有线性或超线性收敛性,其中超线性速率语句甚至可以按顺序指定。本章以一个具有大量约束的整数规划问题的应用程序结束。
在每一章的结尾,人们都可以找到与每一节所提供的材料相对应的文献注释。在其中的几个章节中,读者可以找到有效的数值示例。大多数概念都伴随着图形的几何解释。本书的部分内容可用于该领域的介绍,而其他部分则为约束优化问题数值分析中的积极研究领域提供了指南。
审核人:E.萨克斯

理学硕士:

90立方厘米 数学编程
90-01 与运筹学和数学编程有关的介绍性说明(教科书、教程论文等)
90C20个 二次规划
65千5 数值数学规划方法
49-01 关于变分法和最优控制的介绍性说明(教科书、教程论文等)
49平方米29 涉及对偶性的数值方法
49立方米 基于非线性规划的数值方法
49 K10 两个或多个自变量自由问题的最优性条件
49英里15 牛顿型方法
49立方米 变分法中的其他数值方法(MSC2010)
90C99号 数学编程
90 C55 连续二次规划型方法
65K10码 数值优化和变分技术