×

通过积分二次约束分析和设计优化算法。 (英语) Zbl 1329.90103号

摘要:本文基于鲁棒控制理论中积分二次约束(IQC)的概念,开发了一个新的框架来分析和设计迭代优化算法。IQC为复杂互连系统的稳定性提供了充分的条件,这些条件可以通过半定规划来检验。我们讨论了如何应用IQC理论来研究优化算法,证明了关于凸函数的新不等式,并提供了一个适合优化研究人员使用的IQC理论版本。利用这些不等式,我们通过求解小的简单半定规划问题,导出了梯度法、重球法、内斯特罗夫加速法和相关变量的收敛速度的数值上界。我们还简要介绍了如何使用这些技术来搜索具有所需性能特征的优化算法,从而建立了一种新的算法设计方法。

MSC公司:

90C22型 半定规划
90C25型 凸面编程
90立方 非线性规划
93立方厘米 控制理论中的非线性系统
93D99型 控制系统的稳定性
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.Beck和M.Teboulle,{线性反问题的快速迭代收缩阈值算法},SIAM J.成像科学。,2(2009年),第183-202页·Zbl 1175.94009号
[2] S.Becker,E.J.CandèS和M.Grant,{稀疏信号恢复应用凸锥问题的模板},数学。程序。计算。,3(2011年),第165-218页·Zbl 1257.90042号
[3] S.Boyd、L.El Ghaoui、E.Feron和V.Balakrishnan,{系统和控制理论中的线性矩阵不等式},SIAM Stud.Appl。数学。费城SIAM,1994年·Zbl 0816.93004号
[4] S.P.Boyd和L.El Ghaoui,{最小化广义特征值的中心方法},线性代数应用。,188(1993),第63-111页·Zbl 0781.65051号
[5] O.Devolder、F.Glineur和Y.Nesterov,{用不精确预言机进行光滑凸优化的一阶方法},数学。程序。,146(2014),第37-75页·Zbl 1317.90196号
[6] J.Doyle,{结构不确定性反馈系统的分析},Proc。IEE-D,129(1982),第242-250页。
[7] Y.Drori和M.Teboulle,{光滑凸极小化的一阶方法的性能:一种新方法},数学。程序。,145(2014),第451-482页·Zbl 1300.90068号
[8] M.Grant和S.P.Boyd,{\it非光滑凸程序的图形实现},《学习与控制的最新进展》,《控制与信息的讲义》。科学。371,V.Blondel、S.Boyd和H.Kimura编辑,施普林格,伦敦,2008年,第95-110页·Zbl 1205.90223号
[9] D.R.Grayson和M.E.Stillman,{麦考莱2,代数几何研究软件系统},2002年。
[10] E.哈赞,{它是私人通信}。
[11] W.P.Heath和A.G.Wills,{二次规划的Zames-Alb乘数},《IEEE决策与控制会议论文集》,2005年,第963-968页·兹比尔1366.90155
[12] U.Jo¨nsson,{它是一个非线性Popov准则},《IEEE决策与控制会议论文集》,1997年第4卷,第3523-3527页·Zbl 0939.76500号
[13] R.E.Kalman,{it-Lyapunov函数用于自动控制中的Lur'E问题},Proc。美国国家科学院。科学。美国,49(1963),第201-205页·Zbl 0113.07701号
[14] H.K.Khalil,{非线性系统},第3版,普伦蒂斯·霍尔,上鞍河,新泽西州,2002年·Zbl 1003.34002号
[15] V.Kulkarni、S.K.Bohacek和M.G.Safonov,{具有控制器饱和和有界时滞的互联系统的鲁棒性},《美国控制会议论文集》,1999年。
[16] J.Loífberg,{it YALMIP:MATLAB中建模和优化的工具箱},《CACSD会议论文集》,台湾台北,2004年。
[17] A.I.Lur'e和V.N.Postnikov,《控制系统稳定性理论》,应用。数学。机械。,8(1944年),第246-248页(俄语)·兹比尔0061.19407
[18] A.M.Lyapunov和A.T.Fuller,{运动稳定性的一般问题},控制理论与应用系列,Taylor&Francis,伦敦,1992年。俄文原文,1892年。
[19] A.Megretski和A.Rantzer,{通过积分二次约束进行系统分析},IEEE Trans。自动化。控制,42(1997),第819-830页·Zbl 0881.93062号
[20] A.Megretski和S.Treil,{不确定系统优化和鲁棒性中的功率分布不等式},J.Math。系统估算。控制,3(1993),第301-319页·Zbl 0781.93079号
[21] A.Nemirovski,{分数问题分析中心的长步方法},数学。程序。,77(1997),第191-224页·Zbl 0890.90168号
[22] A.Nemirovski、A.Juditsky、G.Lan和A.Shapiro,{随机规划的稳健随机近似方法},SIAM J.Optim。,19(2009),第1574-1609页·Zbl 1189.90109号
[23] Y.Nesterov,{凸优化入门讲座:基础课程},应用。最佳方案。87,Kluwer学术出版社,马萨诸塞州波士顿,2004年·Zbl 1086.90045号
[24] Y.Nesterov,{坐标下降法在大规模优化问题上的效率},SIAM J.Optim。,22(2012),第341-362页·Zbl 1257.90073号
[25] Y.Nesterov,{\it最小化复合函数的梯度方法},数学。程序。,140(2013),第125-161页·Zbl 1287.90067号
[26] Y.Nesterov和A.Nemirovskii,{凸规划中的内点多项式算法},SIAM,费城,1994年·Zbl 0824.90112号
[27] J.Nocedal和S.J.Wright,{数值优化},第二版,Springer,纽约,2006年·Zbl 1104.65059号
[28] A.Packard和J.Doyle,《复杂结构奇异值》,《自动化》,29(1993),第71-109页·Zbl 0772.93023号
[29] A.Papachristodoulou和S.Prajna,《利用平方和分解构造Lyapunov函数》,《IEEE决策与控制会议论文集》,2002年第3卷,第3482-3487页。
[30] P.A.Parrilo和S.Lall,{控制中的半定规划松弛和代数优化},《欧洲控制杂志》,9(2003),第307-321页·Zbl 1293.93302号
[31] H.Pfifer和P.Seiler,{使用积分二次约束的线性参数变化系统的鲁棒性分析},《美国控制会议论文集》,2014年,第4476-4481页。
[32] B.T.Polyak,《优化导论》,优化软件公司,纽约,1987年·兹比尔0708.90083
[33] V.M.Popov,{自动控制非线性系统的绝对稳定性},Avtomat。i Telemeh公司。,22(1961年),第961-979页(俄语);自动化。远程控制,22(1961),第857-875页(英语)·Zbl 0107.29601号
[34] A.Rantzer和A.Megretski,{基于积分二次约束的稳定性标准},《IEEE决策与控制会议论文集》,1996年第1卷,第215-220页。
[35] A.Rantzer和A.Megretski,{通过积分二次约束进行系统分析,第二部分},技术报告ISRN LUTFD2/TFRT-7559-SE,瑞典隆德大学自动控制系,1997年·Zbl 0881.93062号
[36] P.Rostalski和B.Sturmfels,{凸代数几何中的对偶},Rend。材料应用。(7) ,30(2010),第285-327页·Zbl 1234.90012号
[37] S.Sastry和M.Bodson,《自适应控制:稳定性、收敛性和鲁棒性》,Courier Dover出版社,纽约,2011年·Zbl 0721.93046号
[38] P.Seiler,{耗散不等式和积分二次约束的稳定性分析},IEEE Trans。自动化。控制,60(2015),第1704-1709页·Zbl 1360.93523号
[39] J.S.Shamma,{时变系统的鲁棒性分析},《IEEE决策与控制会议论文集》,1992年。
[40] P.Tseng,{\it关于凹凸优化的加速近似梯度法},SIAM J.Optim。,提交。
[41] J.N.Tsitsiklis、D.P.Bertsekas和M.Athans,《分布式异步确定性和随机梯度优化算法》,IEEE Trans。自动化。《控制》,31(1986),第803-812页·Zbl 0602.90120号
[42] J.C.Willems,《耗散动力系统——第一部分:一般理论》,Arch。理性力学。分析。,45(1972年),第321-351页·Zbl 0252.93002号
[43] J.C.Willems,《耗散动力系统——第二部分:具有二次供给率的线性系统》,Arch。理性力学。分析。,45(1972),第352-393页·Zbl 0252.93003号
[44] V.A.Yakubovich,{具有多个非线性或线性非平稳单元的控制系统绝对稳定性的频率条件},Avtomat。i电话。,23(1967年),第5-30页(俄语)·Zbl 0155.14801号
[45] V.A.Yakubovich,{非线性控制理论中的S-过程},列宁格勒大学数学系。,4(1977),第73-93页。
[46] V.A.Yakubovich,{非凸优化问题:具有二次约束的无限域线性二次控制问题},系统控制快报。,19(1992),第13-22页·Zbl 0776.49009号
[47] G.Zames,{论时变非线性反馈系统的输入输出稳定性——第一部分:使用回路增益、圆锥度和正性概念推导的条件},IEEE Trans。自动化。《控制》,11(1966),第228-238页。
[48] G.Zames,{论时变非线性反馈系统的输入输出稳定性——第二部分:频域和扇区非线性中涉及圆的条件},IEEE Trans。自动化。控制,11(1966),第465-476页。
[49] G.Zames和P.L.Falb,{单调和斜率受限非线性系统的稳定性条件},SIAM J.Control,6(1968),第89-108页·Zbl 0157.15801号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。