×

关于Birkhoff多面体上投影的广义Jacobian的有效计算。 (英语) Zbl 1434.90116号

小结:我们导出了一个显式公式和一个有效的过程,用于构造给定平方矩阵投影到Birkhoff多面体上的广义雅可比矩阵,即双随机矩阵集。为了保证程序的高效性,提出了求解投影问题对偶问题的半光滑牛顿法,并有效地实现了该方法。通过与商业软件Gurobi和学术代码PPROJ等其他强大的求解器进行比较,进行了大量的数值实验,以证明我们方法的优点和有效性[W.W.黑格H.张,SIAM J.Optim。26,第3期,1773-1798(2016;Zbl 1346.90653号)]. 特别是,我们的算法能够在一台普通的台式计算机上,在不到15分钟的时间内,以非常高的精度解决超过10亿个变量和非负约束的投影问题。更重要的是,基于投影及其广义雅可比矩阵的有效计算,我们可以设计一种高效的增广拉格朗日方法(ALM)来求解一类受Birkhoff多边形约束的凸二次规划(QP)问题。结果表明,ALM在解决由二次分配问题松弛引起的一系列QP问题时比Gurobi更有效。

MSC公司:

90C20个 二次规划
49J52型 非平滑分析
49英里15 牛顿型方法
65层10 线性系统的迭代数值方法
90摄氏度06 数学规划中的大尺度问题
90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anstreicher,公里;Brixius,Nw,基于凸二次规划的二次分配问题的新界,数学。程序。,89, 341-357 (2001) ·Zbl 0986.90042号 ·doi:10.1007/PL00011402
[2] 贝克,A。;Teboulle,M.,线性逆问题的快速迭代收缩阈值算法,SIAM J.Imaging Sci。,2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542
[3] Birkhoff,G.,《线性代数的三个观察》,图坎国立大学,Revista,意甲,5,147-151(1946)·Zbl 0060.07906号
[4] Bonnans,Jf;Shapiro,A.,优化问题的扰动分析(2000),纽约:Springer,纽约·Zbl 0966.49001号
[5] Burkard,Re;Karisch,硒;Rendl,F.,QAPLIB-二次分配问题库,J.Glob。最佳。,10, 391-403 (1997) ·Zbl 0884.90116号 ·doi:10.1023/A:1008293323270
[6] Chang,C-C;Lin,C-J,LIBSVM:支持向量机库,ACM Trans。智力。系统。技术。,2, 27:1-27:27 (2011) ·数字对象标识代码:10.1145/1961189.1961199
[7] Chiche,A。;Gilbert,Jch,增广拉格朗日算法如何处理不可行的凸二次优化问题,J.凸分析。,23, 425-459 (2016) ·Zbl 1347.49049号
[8] Clarke,Fh,《优化与非光滑分析》(1983),纽约:威利出版社,纽约·Zbl 0582.49001号
[9] Cui,Y.,Sun,D.F.,Toh,K.-C.:关于具有多个解的半定规划的增广拉格朗日方法的渐近超线性收敛性(2016)。arXiv:1610.00875
[10] 德尔博斯,F。;Gilbert,Jch,用于解决凸二次优化问题的增广拉格朗日算法的全局线性收敛性,J.凸分析。,12, 45-69 (2005) ·Zbl 1124.90018号
[11] Dykstra,Rl,《限制最小二乘回归算法》,美国统计协会,78,837-842(1983)·Zbl 0535.62063号 ·doi:10.1080/01621459.1983.10477029
[12] Fischer,A。;Kanzow,C.,关于线性互补问题迭代方法的有限终止,数学。程序。,74, 279-292 (1996) ·Zbl 0855.90125号
[13] Fogel,F.、Jenatton,R.、Bach,F.和d'Aspremont,A.:置换问题的凸松弛。摘自:《神经信息处理系统进展》,第1016-1024页(2013年)
[14] 加贝,D。;Mercier,B.,通过有限元近似解非线性变分问题的对偶算法,计算。数学。申请。,2, 17-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[15] 格洛温斯基,R。;Marroco,A.,Sur近似,par elements finis dordre-un,et la resolution,par penalisation dimediate,dune class de problems de Dirichlet non-lineares,Revue Francaise d Automatique,Informatique et Recherche Operationelle,9,R-2,41-76(1975)·Zbl 0368.65053号
[16] 优化,I.古罗比:古罗比优化器参考手册(2016)
[17] 韩,Jy;Sun,Df,Newton和拟Newton方法,用于多面体集法线映射,J.Optim。理论应用。,94, 659-676 (1997) ·Zbl 0892.90164号 ·doi:10.1023/A:1022653001160
[18] 华盛顿州海格;张,H.,利用稀疏性投影到多面体上,SIAM J.Optim。,26, 1773-1798 (2016) ·Zbl 1346.90653号 ·数字对象标识码:10.1137/15M102825X
[19] Higham,N.,《计算最近对称相关矩阵——金融问题》,IMA J.Numer。分析。,22, 329-343 (2002) ·Zbl 1006.65036号 ·doi:10.1093/imanum/22.3329
[20] Haraux,A.,《如何区分希尔伯特空间中凸集上的投影》。变分不等式的一些应用,J.Math。Soc.Jpn.公司。,29, 615-631 (1977) ·Zbl 0387.46022号 ·doi:10.2969/jmsj/02940615
[21] 希里亚特·乌鲁蒂,J-B;斯特罗迪奥,J-J;Nguyen,Vh,广义Hessian矩阵与({C}^{1,1})数据问题的二阶最优性条件,应用。数学。最佳。,11, 43-56 (1984) ·兹伯利0542.49011 ·doi:10.1007/BF01442169
[22] 江,B。;刘,Yf;Wen,Zw,\(L_p\)-置换矩阵优化的范数正则化算法,SIAM J.Optim。,26, 2284-2313 (2016) ·Zbl 1353.65055号 ·doi:10.1137/15M1048021
[23] 李,Xd;太阳,Df;Toh,K-C,QSDPNAL:凸二次半定规划的两阶段增广拉格朗日方法,数学。程序。计算。,10, 703-743 (2018) ·Zbl 1411.90213号 ·doi:10.1007/s12532-018-0137-6
[24] 李,Xd;Sun,Df;Toh,K-C,求解拉索问题的高效半光滑牛顿增广拉格朗日方法,SIAM J.Optim。,28, 433-458 (2018) ·Zbl 1392.65062号 ·doi:10.1137/16M1097572
[25] Lim,C.H.,Wright,S.J.:超越Birkhoff多面体:向量置换问题的凸松弛。摘自:《神经信息处理系统进展》,第2168-2176页(2014年)
[26] Malick,J.,《半定最小二乘问题的对偶方法》,SIAM J.矩阵分析。申请。,26, 272-284 (2004) ·Zbl 1080.65027号 ·doi:10.1137/S0895479802413856
[27] Luque,Fj,近点算法的渐近收敛性分析,SIAM J.控制优化。,22, 277-293 (1984) ·Zbl 0533.49028号 ·doi:10.1137/0322019
[28] Mifflin,R.,约束优化中的半光滑和半凸函数,SIAM J.控制优化。,15, 959-972 (1977) ·Zbl 0376.90081号 ·doi:10.1137/0315061
[29] Nesterov,Y.,一种求解具有收敛速度的凸规划问题的方法\(O(1/k^2)\),Sov。数学。道克。,27, 372-376 (1983) ·Zbl 0535.90071号
[30] 庞,J-S,B-可微方程的牛顿法,数学。操作。决议,第15号,第311-341页(1990年)·Zbl 0716.90090号 ·doi:10.1287/门15.2.311
[31] 庞,J-S;Ralph,D.,分段光滑性,局部可逆性,法向映射的参数分析,数学。操作。决议,21,401-426(1996)·Zbl 0857.90122号 ·doi:10.1287/门21.2.401
[32] Qi,H.等人。;Sun,Df,计算最近相关矩阵的二次收敛牛顿法,SIAM J.矩阵分析。申请。,28360-385(2006年)·兹比尔1120.65049 ·数字对象标识代码:10.1137/050624509
[33] 齐,L。;Sun,J.,牛顿方法的非光滑版本,数学。程序。,58353-367(1993年)·Zbl 0780.90090号 ·doi:10.1007/BF01581275
[34] Robinson,Stephen M.,多面体多函数的一些连续性,数学规划研究,206-214(1981),柏林,海德堡:施普林格-柏林-海德堡,柏林·兹比尔0449.90090
[35] Robinson,S.M.:广义方程中的隐式B-可微性。麦迪逊威斯康星大学数学研究中心2854号技术报告(1985年)
[36] Rockafellar,Rt,凸分析(1970),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 0193.18401号
[37] Rockafellar,Rt,增广拉格朗日和近点算法在凸规划中的应用,数学。操作。第197-116号决议(1976年)·Zbl 0402.90076号 ·doi:10.1287/门1.2.97
[38] Rockafellar,Rt;Wets,Rj-B,变分分析(1998),纽约:Springer,纽约·Zbl 0888.49001号
[39] Sun,Df;韩,Jy;Zhao,Y.,关于线性互补问题阻尼Newton算法的有限终止,Acta Math。申请。罪。,21, 148-154 (1998) ·Zbl 0958.90081号
[40] Sun,J.:关于单变分片二次规划。华盛顿大学数学系博士论文(1986年)
[41] Trefethen,Ln;Bau,D.III,《数值线性代数》(1997),费城:SIAM,费城·Zbl 0874.65013号
[42] 冯·诺依曼(Von Neumann,J.),《一种等价于最优分配问题的零和两人博弈》,《数学年鉴》。螺柱,28,5-12(1953)·Zbl 0050.14105号
[43] Wang,F.,Li,P.,Konig,A.C.:学习双随机数据相似矩阵。摘自:2010年IEEE第十届国际数据挖掘会议(ICDM),第551-560页
[44] Sj Wright;Nowak路;Figueiredo,Mat,可分离近似稀疏重建,IEEE Trans。信号处理。,57, 2479-2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[45] X.赵。;Sun,Df;Toh,K-C,半定规划的Newton-CG增广拉格朗日方法,SIAM J.Optim。,20, 1737-1765 (2010) ·Zbl 1213.90175号 ·数字对象标识代码:10.1137/080718206
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。