×

黎曼预处理。 (英语) Zbl 1382.65180号

摘要:本文利用序列二次规划和黎曼梯度优化之间的基本联系,解决了黎曼优化中选择度量的一般问题,特别是当在商流形上寻求黎曼结构时。该方法在具有正交性和/或秩约束的二次优化问题中表现出了独特的洞察力和效率,涵盖了黎曼优化在矩阵流形中的大多数当前应用。

MSC公司:

65千5 数值数学规划方法
90立方 非线性规划
90C22型 半定规划
58C05型 流形上的实值函数
90 C55 连续二次规划类型的方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] P.A.Absil,L.Amodei,and G.Meyer,{赋予黎曼商几何的定秩矩阵流形上的两个牛顿方法},计算。统计人员。,29(2014),第569-590页,http://dx.doi.org/10.1007/s00180-013-0441-6doi:10.1007/s00180-013-0441-6·Zbl 1306.65015号
[2] P.A.Absil、R.Mahony和R.Sepulchre,《矩阵流形上的优化算法》,普林斯顿大学出版社,新泽西州普林斯顿,2008年·Zbl 1147.65043号
[3] P.-A.Absil、R.Mahony、R.Sepulchre和P.Van Dooren,计算不变子空间的Grassmann-Rayleigh商迭代,SIAM Rev.,44(2002),第57-73页,http://dx.doi.org/10.1137/S0036144500378648doi:10.1137/S0036144500378648·Zbl 0995.65037号
[4] P.-A.Absil、R.Sepulchre、P.Van Dooren和R.Mahony,{不变子空间计算的三次收敛迭代},SIAM J.矩阵分析。申请。,26(2004),第70-96页,http://dx.doi.org/10.1137/S0895479803422002doi:10.1137/S089547980342002·Zbl 1075.65049号
[5] P.A.Absil、J.Trumpf、R.Mahony和B.Andrews,{\it All Roads Lead to Newton:Feasible Second-Order Methods for Equality-Constrained Optimization},技术报告,UCL-INMA-2009.024,比利时卢浮天主教大学,2009年。
[6] P.A.Absil和P.Van Dooren,{\it双面Grassmann Rayleigh商迭代},Numer。数学。,114(2010),第549-571页,http://dx.doi.org/10.1007/s00211-009-0266-ydoi:10.1007/s00211-009-0266-y·Zbl 1188.65038号
[7] Y.Amit、M.Fink、N.Srebro和S.Ullman,《揭示多类分类中的共享结构》,载《第24届机器学习国际会议论文集》,2007年,第17-24页。
[8] P.Benner和J.Saak,大型稀疏连续时间代数矩阵Riccati和Lyapunov方程的数值解:最新综述,GAMM-Mitt。,36(2013),第32-52页,http://dx.doi.org/10.1002/gamm.201310003doi:10.1002/gamm.201310003·Zbl 1279.65044号
[9] N.Boumal和P.A.Absil,《RTRMC:A Riemannian trust region method for low rank matrix completion》,《神经信息处理系统进展》(NIPS)24,麻省理工学院出版社,马萨诸塞州剑桥,2011年,第406-414页。
[10] N.Boumal、B.Mishra、P.A.Absil和R.Sepulchre,{\it Manopt:流形优化的MATLAB工具箱},J.Mach。学习。Res.,15(2014),第1455-1459页·Zbl 1319.90003号
[11] S.Burer和R.Monteiro,{通过低秩因式分解求解半定规划的非线性规划算法},数学。程序。,95(2003),第329-357页,http://dx.doi.org/10.1007/s10107-002-0352-8doi:10.1007/s10107-002-0352-8·Zbl 1030.90077号
[12] D.Cai,X.He,J.Han,{通过谱回归进行有效的核判别分析},《IEEE国际数据挖掘会议论文集》,2007年,第427-432页。
[13] A.Edelman、T.A.Arias和S.T.Smith《正交约束算法的几何结构》,SIAM J.Matrix Anal。申请。,20(1998),第303-353页,http://dx.doi.org/10.1137/S0895479895290954doi:10.1137/S0895479895290954·Zbl 0928.6500号
[14] L.Eldeín和H.Park,{\it Stiefel流形上的Procrustes问题},Numer。数学。,82(1999),第599-619页,http://dx.doi.org/10.1007/s002110050432doi:10.1007/s002110050432·Zbl 0934.65052号
[15] D.Gabay,{最小化微分流形上的可微函数},J.Optim。理论应用。,37(1982)第177-219页,http://dx.doi.org/10.1007/BF00934767doi:10.1007/BF00934767·Zbl 0458.90060号
[16] G.H.Golub和C.F.Van Loan,《矩阵计算》,第三版,约翰霍普金斯大学出版社,马里兰州巴尔的摩,1996年·Zbl 0865.65009号
[17] M.Journeíe,F.Bach,P.-A.Absil,R.Sepulchre,{半正定矩阵锥上的低秩优化},SIAM J.Optim。,20(2010),第2327-2351页,http://dx.doi.org/10.1137/080731359doi:10.1137/080731359·Zbl 1215.65108号
[18] M.Journée、Y.Nesterov、P.Richtárik和R.Sepulchre,稀疏主成分分析的广义幂方法,J.Mach。学习。第11号决议(2010年),第517-553页·Zbl 1242.62048号
[19] R.H.Keshavan、A.Montanari和S.Oh,{从几个条目完成矩阵},IEEE Trans。通知。《理论》,56(2010),第2980-2998页,http://dx.doi.org/10.1109/TIT.2010.2046205doi:10.1109/TIT.2010.2046205·Zbl 1366.62111号
[20] B.Kulis、M.Sustik和I.S.Dhillon,{\it具有Bregman矩阵发散的低秩核学习},J.Mach。学习。Res.,10(2009),第341-376页·Zbl 1235.68166号
[21] J.-R.Li和J.White,{Lyapunov方程的低阶解},SIAM Rev.,46(2004),第693-713页,http://dx.doi.org/10.1137/S0036144504443389doi:10.1137/S003614450443389·Zbl 1068.65053号
[22] J.Manton,{利用酉约束的优化算法},IEEE Trans。信号处理。,50(2002),第635-650页,http://dx.doi.org/10.109/78.984753doi:10.1109/78.984753·Zbl 1369.90169号
[23] G.Meyer,{固定秩矩阵线性回归的几何优化算法},博士论文,比利时列日列日大学,2011年。
[24] G.Meyer,S.Bonnabel和R.Sepulchre,《定秩半正定矩阵的回归:黎曼方法》,J.Mach。学习。Res.,11(2011),第593-625页·Zbl 1280.68185号
[25] B.Mishra、K.Adithya Apuroop和R.Sepulchre,{低秩矩阵完成的黎曼几何},技术报告,http://arxiv.org/abs/121150arXiv:1211.1550,2012年。
[26] B.Mishra、G.Meyer、S.Bonnabel和R.Sepulchre,{固定秩矩阵分解和黎曼低秩优化},计算。统计人员。,29(2014),第591-621页,http://dx.doi.org/10.1007/s00180-013-0464-zdoi:10.1007/s00180-013-0464-z·Zbl 1306.65107号
[27] B.Mishra、G.Meyer和R.Sepulchre,{距离矩阵完成的低秩优化},第50届IEEE决策与控制会议(CDC-ECC)论文集,2011年,第4455-4460页。
[28] B.Mishra和R.Sepulchre,{it R3MC:低秩矩阵补全的黎曼三因子算法},《第53届IEEE决策与控制会议论文集》,2014年,第1137-1142页。
[29] B.Mishra和B.Vandereycken,{低阶代数Riccati方程的黎曼方法},《第21届网络与系统数学理论国际研讨会论文集》,2014年,第965-968页。
[30] M.Moakher,{\it Means and averaging in the group of rotation},SIAM J.Matrix Anal.(旋转组中的均值和平均值)。申请。,24(2002),第1-16页,http://dx.doi.org/10.1137/S0895479801383877doi:10.1137/S0895479801383877·Zbl 1028.47014号
[31] T.T.Ngo和Y.Saad,{用于矩阵完成的格拉斯曼流形上的标度梯度},《神经信息处理系统进展》25,麻省理工学院出版社,马萨诸塞州剑桥,2012年,第1421-1429页。
[32] J.Nocedal和S.J.Wright,《数值优化》,第二版,《金融学》。工程师,施普林格,纽约,2006年·Zbl 1104.65059号
[33] T.Penzl,{it大型稀疏Lyapunov方程的循环低阶Smith方法},SIAM J.Sci。计算。,21(2000),第1401-1418页,http://dx.doi.org/10.1137/S1064827598347666doi:10.137/S1064827598347666·Zbl 0958.65052号
[34] J.Rennie和N.Srebro,{协作预测的快速最大边际矩阵分解},《国际机器学习会议论文集》,2005年,第713-719页。
[35] S.T.Smith,{黎曼流形上的优化技术},载于《哈密顿和梯度流,算法和控制》,第3卷,A.Bloch,ed.,美国数学学会,普罗维登斯,RI,1994年,第113-136页·Zbl 0816.49032号
[36] F.J.Theis、T.P.Cason和P.A.Absil,{通过Stiefel流形上的联合对角化实现ICA的软降维},《独立成分分析和信号分离》,施普林格,柏林,海德堡,2009年,第354-361页,http://dx.doi.org/10.1007/978-3642-00599-2_45doi:10.1007/978-3-6420-0599-245。
[37] B.Vandereycken,{利用黎曼优化完成低秩矩阵},SIAM J.Optim。,23(2013),第1214-1236页,http://dx.doi.org/10.1137/10845768doi:10.1137/10845768·Zbl 1277.15021号
[38] B.Vandereycken和S.Vandewalle,计算Lyapunov方程低阶解的黎曼优化方法,SIAM J.矩阵分析。申请。,31(2010),第2553-2579页,http://dx.doi.org/10.1137/090764566doi:10.1137/090764566·Zbl 1221.65108号
[39] S.J.Wright和M.J.Tenny,{一种可行的信任区域序列二次规划算法},SIAM J.Optim。,14(2004),第1074-1105页,http://dx.doi.org/10.1137/S1052623402413227doi:10.1137/S1052623402413227·Zbl 1073.90047号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。