×

低阶诱导范数的有效近似映射计算。 (英语) Zbl 1484.90044号

摘要:引入低秩诱导酉不变范数来凸化具有低秩/稀疏约束的问题。这个家族中最著名的成员就是所谓的核心规范。为了用近似分裂方法解决此类范数的优化问题,需要有效的方法来评估低阶诱导范数的近似映射。这是众所周知的核心规范,但对低级别诱导家庭的大多数其他成员来说却不是这样。这项工作提供了一个框架,可以将最近映射计算简化为嵌套的二进制搜索,其中每次迭代都需要解决一个更简单的问题。对于所谓的低阶诱导Frobenius和谱范数,更简单的问题通常可以通过分析来解决。该框架还允许计算由这些范数组成的不断增加的凸函数的近似映射,以及它们在铭文上的投影。

MSC公司:

90C06型 数学规划中的大尺度问题
90C25型 凸面编程
90C26型 非凸规划,全局优化
15A83号 矩阵完成问题
90立方 非线性规划
90 C59 数学规划中的近似方法和启发式
90 C90 数学规划的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 安德松,F。;卡尔森,M。;Olsson,C.,固定秩近似的凸包络,Optim。莱特。,11, 8, 1783-1795 (2017) ·Zbl 1409.90145号 ·doi:10.1007/s11590-017-1146-5
[2] 安托拉斯,AC;Helmke,U.,《关于Hankel矩阵的逼近》,《算子》,17-22(2013),威斯巴登:Vieweg+Teubner Verlag,威斯巴丹
[3] Argyriou,A。;福格尔,R。;北斯雷布罗。;佩雷拉,F。;博格斯,CJC;博图,L。;Weinberger,KQ,《使用k-support范数进行稀疏预测》,《神经信息处理系统进展》,1457-1465(2012),伦敦:Curran Associates Inc,伦敦
[4] Bauschke,HH;组合,PL,凸分析和Hilbert空间中的单调算子理论。CMS数学图书(2011),纽约:Springer,纽约·Zbl 1218.47001号 ·doi:10.1007/978-3-319-48311-5
[5] 博伊德,S。;Vandenberghe,L.,凸优化(2004),剑桥:剑桥大学出版社,剑桥·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441
[6] 坎迪斯,EJ;Plan,Y.,Matrix completion with noise,程序。IEEE,98、6、925-936(2010)·doi:10.1109/JPROC.2009.2035722
[7] 坎迪斯,EJ;Recht,B.,通过凸优化实现精确矩阵补全,Found。计算。数学。,9, 6, 717 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[8] Chandrasekaran,V。;Recht,B。;宾夕法尼亚州帕里罗;Willsky,AS,线性反问题的凸几何,发现。计算。数学。,12, 6, 805-849 (2012) ·Zbl 1280.52008年 ·doi:10.1007/s10208-012-9135-7
[9] 组合框,PL;Pesquet,J-C,《信号处理中的近距离分裂方法》,185-212(2011),纽约:Springer,纽约·Zbl 1242.90160号 ·doi:10.1007/978-1-4419-9569-810
[10] Condat,L.,单纯形和(ell_1)球的快速投影,数学。程序。,158, 1, 575-585 (2016) ·Zbl 1347.49050号 ·doi:10.1007/s10107-015-0946-6
[11] 道格拉斯,J。;Rachford,HH,关于两个和三个空间变量中热传导问题的数值解,Trans。美国数学。Soc.,82,2,421-439(1956年)·Zbl 0070.35401号 ·doi:10.1090/S0002-9947-1956-0084194-4
[12] Duchi,J.,Shalev-Shwartz,S.,Singer,Y.,Chandra,T.:高维学习中L1球的有效投影。摘自:ICML’08:第25届国际机器学习会议记录,第25届机器学习国际会议(ICML),第272-279页,纽约(2008)。数字标识代码:10.1145/1390156.1390191
[13] Eldén,L.,数据挖掘和模式识别中的矩阵方法,SIAM(2007)·Zbl 1120.68092号 ·数字对象标识代码:10.1137/1.9780898718867
[14] Eriksson,A.,Thanh Pham,T.,Chin,T.-J.,Reid,I.:基数和秩的k-支持范数和凸包络。收录于:2015 IEEE计算机视觉和模式识别会议(CVPR),第3349-3357页(2015)
[15] Fazel,M.,Hindi,H.,Boyd,S.P.:应用于最小阶系统近似的秩最小化启发式算法。载于:《2001年美国控制会议记录》,第6卷,第4734-4739页(2001年)。doi:10.1109/ACC.2001.945730
[16] Grussler,C.,Giselsson,P.:秩约束问题的近端分裂方法的局部收敛性。2017年IEEE第56届决策与控制年会(CDC),第702-708页。墨尔本(2017)。doi:10.1010/CDC.2017.8263743
[17] Grussler,C。;Giselsson,P.,具有最优解释的低秩诱导规范,SIAM J.Optim。,28, 4, 3057-3078 (2018) ·Zbl 1414.90227号 ·doi:10.1137/17M1115770
[18] Grussler,C.,Zare,A.,Jovanović,M.R.,Rantzer,A.:在协方差完成问题中使用启发式。在|:2016年IEEE第55届决策与控制会议(CDC),第1978-1983页。拉斯维加斯(2016)。doi:10.1109/CDC.2016.7798554
[19] Grussler,C。;Rantzer,A。;Giselsson,P.,带凸约束的低秩优化,IEEE Trans。自动。控制,63,11,4000-4007(2018)·Zbl 1423.90180号 ·doi:10.1109/TAC.2018.2813009
[20] Grussler,C.:LRINorm-一个MATLAB包,用于通过低秩诱导规范和非凸近端分裂方法进行秩约束优化。https://github.com/LowRankOpt/LRINorm(2018年a)
[21] Grussler,C.:LRIP是一个通过低秩诱导规范和非凸近端分裂方法进行秩约束优化的python包。https://github.com/LowRankOpt/LRIPy(2018年b)
[22] 持有,M。;Wolfe,P。;克劳德,惠普,次梯度优化验证,数学。程序。,6, 1, 62-88 (1974) ·Zbl 0284.90057号 ·doi:10.1007/BF01580223
[23] 希里亚特·乌鲁蒂,J-B;Lemaréchal,C.,《凸分析与最小化算法II:高级理论与束方法》。Grundlehren der mathematischen Wissenschaften(1993),柏林海德堡:施普林格,柏林海德堡·Zbl 0795.49002号 ·数字对象标识代码:10.1007/978-3-662-06409-2
[24] 希里亚特·乌鲁蒂,J-B;Lemaréchal,C.,凸分析与最小化算法I:基础。Grundlehren der mathematischen Wissenschaften(1996),柏林,海德堡:施普林格,柏林,海德堡·doi:10.1007/978-3-662-02796-7
[25] 喇叭,RA;Johnson,CR,矩阵分析(2012),剑桥:剑桥大学出版社,剑桥·doi:10.1017/9781139020411
[26] Izenman,AJ,多元线性模型的降秩回归,J.Multivar。分析。,5, 2, 248-264 (1975) ·Zbl 0313.62042号 ·doi:10.1016/0047-259X(75)90042-1
[27] Jacob,L.,Obozinski,G.,Vert,J.-P.:带重叠的群套索和图形套索。摘自:Bottou,L.,Littman,M.(编辑)《第26届国际机器学习大会论文集》,第433-440页。蒙特利尔。Omnipress(2009)
[28] Knuth,DE,《计算机编程的艺术:排序和搜索》(1998),纽约:培生教育,纽约·Zbl 0883.68015号
[29] Lai,H。;潘,Y。;Canyi,L。;Tang,Y。;Yan,S.,《高效k-支持矩阵追求》,617-631(2014),柏林:施普林格出版社,柏林
[30] 拉尔森,V。;Olsson,C.,凸低秩近似,国际期刊计算。视觉。,120194-214(2016年)·Zbl 1398.68586号 ·doi:10.1007/s11263-016-0904-7
[31] 刘易斯,AS,酉不变矩阵函数的凸分析,J.凸分析。,2, 1, 173-183 (1995) ·Zbl 0860.15026号
[32] 李毅。;刘,H。;温,Z。;Yuan,Y.,使用多项式滤波子空间提取的低秩矩阵迭代,SIAM J.Sci。计算。,42、3、A1686-A1713(2020)·Zbl 1452.65069号 ·doi:10.1137/19M1259444
[33] 狮子,P-L;Mercier,B.,两个非线性算子之和的分裂算法,SIAM J.Numer。分析。,16, 6, 964-979 (1979) ·Zbl 0426.6500号 ·doi:10.1137/0716071
[34] 刘,X。;温,Z。;Zhang,Y.,计算显性奇异值分解的有限存储块Krylov子空间优化,SIAM J.Sci。计算。,35、3、A1641-A1668(2013)·Zbl 1278.65045号 ·数字对象标识代码:10.1137/120871328
[35] 刘,Z。;Hansson,A。;Vandenberghe,L.,缺失输入和输出的核规范系统识别,系统。控制信函。,62, 8, 605-612 (2013) ·Zbl 1279.93040号 ·doi:10.1016/j.sysconle.2013.04.005
[36] 卢,Z。;Yong,Z。;Li,X.,秩最小化的惩罚分解方法,Optim。方法软。,30, 3, 531-558 (2015) ·Zbl 1323.65070号 ·doi:10.1080/10556788.2014.936438
[37] 麦克唐纳,AM;庞蒂尔,M。;Stamos,D.,《关于k支持和集群规范的新观点》,J.Mach。学习。研究,17,155,1-38(2016)·Zbl 1392.68356号
[38] 北卡罗来纳州帕里赫。;Boyd,S.,《近似算法》,Found。最佳趋势。,1, 3, 127-239 (2014) ·数字对象标识代码:10.1561/24000003
[39] Peaucelle,D.、Henrion,D.、Labit,Y.、Taitz,K.:SEDUMI接口1.04用户指南。2002.图卢兹LAAS-CNRS
[40] Recht,B。;法泽尔,M。;Parrilo,PA,通过核范数最小化保证线性矩阵方程的最小秩解,SIAM Rev.,52,3,471-501(2010)·Zbl 1198.90321号 ·数字对象标识代码:10.1137/070697835
[41] 蒂雷尔,RR,凸分析(1970),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 0193.18401号
[42] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.,58,1,267-288(1996)·Zbl 0850.62538号
[43] Toh,K.C.,Tutuncu,R.H.,Todd,M.J.:关于SDPT3(3.1版)的实现,SDPT3是一个用于半定二次线性编程的MATLAB软件包。摘自:IEEE国际机器人与自动化会议,第290-296页(2004年)
[44] 特里芬,LN;David Bau,III,《数值线性代数》(1997),纽约:SIAM,纽约·Zbl 0874.65013号 ·doi:10.1137/1.9780898719574
[45] 南部维拉。;Rosasco,L。;莫西,S。;Verri,A.,潜在群体套索惩罚的近似方法,计算。最佳方案。申请。,58, 2, 381-407 (2014) ·Zbl 1305.90388号 ·doi:10.1007/s10589-013-9628-6
[46] 吴,B。;丁,C。;Sun,D。;Toh,K-C,关于向量(K)范数相关函数的Moreau-Yosida正则化,SIAM J.Optim。,24, 2, 766-794 (2014) ·Zbl 1297.90122号 ·doi:10.1137/110827144
[47] Zoltowski,D.M.、Dhingra,N.、Lin,F.、Jovanović,M.R.:空间变分系统的稀疏促进最优控制。2014年美国控制会议,第1255-1260页(2014年)。doi:10.1109/ACC.2014.6859491
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。