×
霍尔格·劳胡特；泽·埃尔杰卡·斯托亚纳克

张量θ范数与低秩恢复。 （英语） Zbl 1474.13058号

数字。算法 88，第1号，25-66（2021）.
作者摘要：我们研究了压缩感知和低秩矩阵恢复对从不完全线性信息中恢复低秩张量的扩展。虽然通过核范数最小化重建低秩矩阵到目前为止已经很好地理解了，但由于张量分解产生的各种理论和计算困难，到目前为止几乎没有理论可用于推广到高阶张量。事实上，矩阵恢复的核范数最小化是一种易于处理的凸松弛方法，但将核范数扩展到张量通常是需要计算的NP-hard。在本文中，我们引入了张量核范数的凸松弛，它可以通过半定规划在多项式时间内计算。我们的方法基于θ体，这是一个来自真实计算代数几何的概念，类似于著名的Lasserre松弛。我们引入了由对应于张量不同矩阵化的二阶子式生成的多项式理想（其中张量项被视为变量），使得核范数球是理想代数簇的凸包。这种理想的θ序体生成了一个新的范数，我们称之为θ-范数。我们表明，在矩阵的情况下，这些规范简化为标准核规范。然而，对于三阶或更高阶的张量，我们确实获得了新的范数。相应的单位-（θ_k）-范数球的序列渐近收敛于单位张量核范数球。通过提供理想的Gröbner基，我们显式地给出了在仿射约束下计算（theta_k）-范数和最小化（theta-k）-模的半定程序。最后，通过（theta_1）范数最小化恢复三阶张量的数值实验表明，我们的方法成功地从不完全线性（随机）测量中重建了低秩张量。
审核人：埃多亚多·巴利科（波沃）

引用于7文件

MSC公司：

13页第10页 Gröbner基地；理想和模块的其他基础（例如Janet和border基础）
15A69号 多线性代数，张量演算
15A60型 矩阵范数，数值范围，泛函分析在矩阵理论中的应用
52A41型 凸几何中的凸函数和凸规划
90C22型 半定规划
90C25型 凸面编程
94A20型 信息与传播理论中的抽样理论

关键词：

低秩张量恢复；张量核范数；θ体；压缩传感；半定规划；凸松弛；多项式理想；Gröbner碱

软件：

SDPNAL公司+；相位提升；取消锁定BoX
PDF格式BibTeX公司 XML格式引用
\textit{H.Rauhut}和\textit{.Stojanac}，数字。算法88，No.1，25--66（2021；Zbl 1474.13058）
全文： 内政部 arXiv公司

参考文献：

[1] Bhatia，R.：矩阵分析。数学研究生教材。第169卷，施普林格（1996）·Zbl 0863.15001号
[2] Blekherman，G.，Parrilo，P.A.，Thomas，R.R.：半定优化与凸代数几何SIAM（2013）·Zbl 1260.90006号
[3] Boyd，S.，Vandenberghe，L.：凸优化。剑桥大学出版社（2004）·Zbl 1058.90049号
[4] Brylinski，J.-L.：纠缠的代数度量。在：Chen，G.，Brylinski，R.K.，《量子计算数学》中。佛罗里达州博卡拉顿市CRC（2002年）·Zbl 1001.81004号
[5] Buchberger，B.，Bruno Buchberge博士论文1965：零维多项式理想剩余类环的基元求法，J.符号计算。，41, 3-4, 475-511 (2006) ·Zbl 1158.01307号 ·doi:10.1016/j.jsc.2005.09.007
[6] 坎迪斯，EJ；Plan，Y.，从最少数量的随机测量中恢复低秩矩阵的精确预言界，IEEE Trans。通知。理论，57，4，2342-2359（2011）·Zbl 1366.90160号 ·doi:10.1109/TIT.2011.2111771
[7] 坎迪斯，EJ；Recht，B.，通过凸优化实现精确矩阵补全，Found。计算。数学。，9, 6, 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[8] 坎迪斯，EJ；斯特罗默，T。；Voroninski，V.，《相位提升：通过凸编程从幅度测量中准确稳定地恢复信号》，Comm.Pure Appl。数学。，66, 8, 1241-1274 (2013) ·Zbl 1335.94013号 ·doi:10.1002/cpa.21432
[9] 坎迪斯，EJ；Tao，T.，矩阵完成的能力：近最优凸松弛，IEEE Trans Information Theory，56，5，2053-2080（2010）·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[10] 坎迪斯，EJ；陶，T。；Romberg，JK，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。通知。理论，52，2489-509（2006）·兹比尔1231.94017 ·doi:10.1109/TIT.2005.862083
[11] 卡特赖特，D。；Erman，D。；Oeding，L.，（mathbb）的正割变种{P} 2个\次\mathbb{P} n个\) ℙ2 × ℙn由\（{\mathcal{O}}（1,2）O（1,2，2）\）嵌入，J.London Math。Soc.，85，1，121-141（2012）·兹伯利1239.14040 ·doi:10.1112/jlms/jdr038
[12] Chandrasekaran，V。；Recht，B。；宾夕法尼亚州帕里罗；Willsky，A.，线性反问题的凸几何，发现。计算。数学。，12, 6, 805-849 (2012) ·Zbl 1280.52008年 ·doi:10.1007/s10208-012-9135-7
[13] 陈，Y。；博贾纳帕利，S。；Sanghavi，S。；Ward，R.，完成任何低秩矩阵，可证明，J.Mach。学习。第16号决议，2999-3034（2015）·Zbl 1351.62107号
[14] Combettes，P.，Pesquet，J.C.，《信号处理中的近端分离方法》。摘自：H.Bauschke、R.Burachik、P.Combettes、V.Elser、D.Luke、H.Wolkowicz（编辑）《科学与工程中反问题的定点算法》，第185-212页。施普林格（2011）·Zbl 1242.90160号
[15] 考克斯·D。；Little，J。；奥谢，D.，《使用代数几何》。数学研究生教材，第185卷（2005），纽约：斯普林格，纽约·Zbl 1079.13017号
[16] 考克斯·D。；Little，J。；O'Shea，D.，《理想、多样性和算法》（2007），纽约：数学本科生教材。纽约州施普林格·Zbl 1118.13001号 ·doi:10.1007/978-0-387-35651-8
[17] Da Silva，C.，Herrmann，F.J.：分层塔克张量优化——张量完成的应用。收录于：SAMPTA 2013，第384-387页（2013）
[18] 德席尔瓦，V。；最佳低阶逼近问题的张量秩和适定性，SIAM J.矩阵分析。申请。，30, 3, 1084-1127 (2008) ·Zbl 1167.14038号 ·数字对象标识码：10.1137/06066518X
[19] Defant，A.，Floret，K.：张量规范和算子理想。北海数学研究埃尔塞维尔科学（1992）
[20] Donoho，DL，压缩传感，IEEE Trans。通知。理论，52，4，1289-1306（2006）·Zbl 1288.94016号 ·doi:10.1109/TIT.2006.871582
[21] Duarte，M.F.，Baraniuk，R.G.：Kronecker压缩传感。IEEE Trans-Image Proc（2011）·Zbl 1372.94379号
[22] Fazel，M.：矩阵秩最小化与应用。博士论文（2002）
[23] Foucart，S.、Rauhut，H.：压缩传感、应用和数值谐波分析的数学导论birkäuser（2013）·Zbl 1315.94002号
[24] 弗里德兰，S。；Lim，L-H，高阶张量的核范数，数学。公司。，87, 311, 1255-1281 (2018) ·Zbl 1383.15018号 ·doi:10.1090/com/3239
[25] 甘地，S。；Recht，B。；Yamada，I.，通过凸优化实现张量补全和低n阶张量恢复，反问题，27，2，025010（2011）·Zbl 1211.15036号 ·doi:10.1088/0266-5611/27/2/025010
[26] Gouveia，J.，Laurent，M.，Parrilo，P.A.，Thomas，R.R.：二元拟阵循环和图割的新半定规划层次，数学。掠夺。，1-23 (2009) ·Zbl 1262.90123号
[27] 古维亚，J。；宾夕法尼亚州帕里罗；Thomas，RR，多项式理想的Theta体，SIAM J.Optim。，20, 4, 2097-2118 (2010) ·Zbl 1213.90190号 ·doi:10.1137/090746525
[28] 格兰德，F。；Sanyal，R.，Theta秩、水平度和拟阵未成年人，组合理论系列J。B、 127、1-31（2017）·Zbl 1354.05020号 ·doi:10.1016/j.jctb.2016.111.002
[29] Grasedyck，L.，张量的层次奇异值分解，SIAM J.矩阵分析。申请，2029年31月（2010年）·Zbl 1210.65090号 ·doi:10.1137/090764189
[30] 格拉瑟迪克。；Hackbusch，W.，《带示例的张量层次（H-）秩和TT-秩介绍》，计算。方法应用。数学。，11, 3, 291-304 (2011) ·Zbl 1283.15075号 ·doi:10.2478/cmam-2011-0016
[31] Gross，D.，从任何基础上的少数系数中恢复低秩矩阵，IEEE Trans-Inform。理论，57，3，1548-1566（2011）·兹比尔1366.94103 ·doi:10.1109/TIT.2011.2104999
[32] 总直径。；刘，Y-K；弗拉米亚，ST；贝克尔，S。；Eisert，J.，《通过压缩传感的量子状态层析成像》，Phys。修订稿。，150401, 105 (2010)
[33] Hackbusch，W.：张量空间和数值张量演算Springer（2012）·Zbl 1244.65061号
[34] Hibi，T.：分配格、仿射半群环和具有矫直律的代数。交换代数与组合学，US-jap。联合Semin。，京都/日本。1985年，《高等数学研究》11 93-109（1987）（1987）·Zbl 0654.13015号
[35] Hillar，C.J.，Lim，L.-H.：大多数张量问题都是NP，-难的。J.ACM 60（6），45，1-45，39（2013）·Zbl 1281.68126号
[36] 佛罗里达州希区柯克，张量或多元数作为乘积之和的表达式，J.Math。物理。，6, 1-4, 164-189 (1927) ·JFM 53.0095.01号文件 ·doi:10.1002/sapm192761164
[37] Hitchcock，FL，p-way矩阵或张量的多重不变量和广义秩，J.Math。物理。，7, 1, 39-79 (1927) ·JFM 53.0097.01号文件
[38] Hårastad，J.，张量秩是nP完备的，J.算法，11，4644-654（1990）·Zbl 0716.65043号 ·doi:10.1016/0196-6774（90）90014-6
[39] 黄，B。；Mu，C。；Goldfarb，D。；Wright，J.，稳健低阶张量恢复的可证明模型，Pac。J.Optim，11，2，339-364（2015）·兹比尔1323.15019
[40] 卡尔森，L。；Kressner，D。；Uschmajew，A.，CP格式张量补全的并行算法，并行计算。，57, 222-234 (2016) ·doi:10.1016/j.parco.2015.10.002
[41] Kremer，N.，Sacchi，M.：用于叠前地震数据降噪和插值的张量高阶奇异值分解。地球物理学。J.国际。77 v113-V122（2012）
[42] Kressner，D。；斯坦利克纳，M。；Vandereycken，B.，通过黎曼优化完成低秩张量，BIT数值数学。，54, 2, 447-468 (2014) ·Zbl 1300.65040号 ·doi:10.1007/s10543-013-0455-z
[43] Kueng，R。；Rauhut，H。；Terstiege，U.，从秩一测量中恢复低秩矩阵，应用。计算。哈蒙。分析。，42, 1, 88-116 (2017) ·Zbl 1393.94310号 ·doi:10.1016/j.acha.2015.07.007
[44] Landsberg，J.M.：张量：几何与应用。美国数学学会数学研究生课程（2011年）
[45] Lasserre，J.：《矩、正多项式及其应用——帝国理工学院出版社优化系列》，第1期，帝国理工大学出版社，伦敦（2010年）·Zbl 1211.90007号
[46] Liu，J.、Musialski，P.、Wonka，P.和Ye，J.：估计视觉数据中缺失值的张量补全。In:IC1V（2009）
[47] Liu，Y.、Shang，F.、Fan，W.、Cheng，J.、Cheng、H.：张量分解和完成的广义高阶正交迭代。摘自：《神经信息处理系统进展》，第1763-1771页（2014年）
[48] Lovász，L.，关于图的Shannon容量，IEEE Trans-Inform。理论，25，1，1-7（1979）·Zbl 0395.94021号 ·doi:10.1109/TIT.1979.1055985
[49] Oseledets，IV，张量-应变分解，SIAM J.Sci。计算。，33, 5, 2295-2317 (2011) ·Zbl 1232.15018号 ·doi:10.1137/090752286
[50] Oymak，S。；贾拉利，A。；法泽尔，M。；Eldar，YC；Hassibi，B.，《应用于稀疏和低秩矩阵的同时结构化模型》，IEEE Trans。通知。理论，61,52886-2908（2015）·Zbl 1359.94150号 ·doi:10.1109/TIT.2015.2401574
[51] 北卡罗来纳州帕里赫。；Boyd，S.，《近似算法》，Found。最佳趋势。，123-231年1月3日（2013年）
[52] Rauhut，H.、Schneider，R.、Stojanac，季：通过迭代硬阈值恢复张量张量。In：程序。桑普塔2013（2013）·Zbl 1372.65130号
[53] Rauhut，H.、Schneider，R.、Stojanac，ž：层次张量表示中的张量补全。收录：H.Boche、R.Calderbank、G.Kutyniok、J.Vybiral（编辑）压缩传感及其应用。斯普林格（2015）·Zbl 1333.94023号
[54] Rauhut，H。；Schneider，R.，Stojanac，季：通过迭代硬阈值的低秩张量恢复，线性代数应用。，523, 220-262 (2017) ·Zbl 1372.65130号 ·doi:10.1016/j.laa.2017.02.028
[55] Recht，B。；法泽尔，M。；Parrilo，P.，通过核范数最小化保证线性矩阵方程的最小秩解，SI，AM Rev.，52，3，471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[56] 罗梅拉·佩雷斯，B。；昂·H。；Bianchi-Berthouze，N。；Pontil，M.，《多线性多任务学习》，J.Mach。学习。Res.，28，3，1444-1452（2013）
[57] Ryan，R.A.：banach空间张量积简介。凯尔特人研究斯普林格（2002）·Zbl 1090.46001号
[58] 斯托亚纳克，季：Low-Rank Tensor Recovery，波恩大学博士论文（2016年）
[59] Toh，K。；Yun，S.，核范数正则化最小二乘问题的加速近似梯度算法，Pac。J.Optim。，6, 615-640 (2010) ·Zbl 1205.90218号
[60] Tomioka，R.，Hayashi，K.arXiv:1010.0789（2010）
[61] Wong，Y.C.：Schwartz空间、核空间和张量积。数学讲稿Springer-Verlag（1979）·Zbl 0413.46001号
[62] 杨，LQ；孙，DF；Toh，KC，SDPNAL+：非负约束半定规划的优化半光滑牛顿-CG增广拉格朗日方法，数学。程序。计算。，7, 3, 331-366 (2015) ·Zbl 1321.90085号 ·doi:10.1007/s12532-015-0082-6
[63] 袁，M。；Zhang，C-H，关于通过核范数最小化实现张量完备，Found。计算。数学。，16, 4, 1031-1068 (2016) ·Zbl 1378.90066号 ·doi:10.1007/s10208-015-9269-5
[64] Zhao，XY；孙，DF；Toh，KC，半定规划的牛顿-CG增广拉格朗日方法。SIAM，J.最优化，20，4，1737-1765（2010）·Zbl 1213.90175号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。