×

统计上最优且计算效率高的低秩张量从噪声项中完成。 (英语) Zbl 1473.62184号

设(mathbf{T}在mathbb{R}^{d_1\times\dots\timesd_k}中)是一个(k)阶张量。对于给定的样本大小(n),作者研究了从其条目子集的观测值中恢复(mathbf{T})的问题。特别地,他们假设可以观察到(Y,ω)的(n)独立拷贝((Y_i,ω_i){1\leqi\leqn}),其中\[Y=T(ω)+xi。\]在此,假设从(1,ldots,d_1,times\dots\times,d_k)均匀采样(ω),并且它与描述测量误差的中心次高斯随机变量(xi)随机无关。
在假设\(\mathbf{T}\)是低秩的情况下(并且\(n\)可能比\(\prod_{j=1}^k d_j\)小得多),作者建立了在\(\ell_p\)损失下估计\(\mathbf{T}\)的最小最大最优收敛速度(as \(n\to\infty\)),其中\(p\in[1,2]\)。此外,提出了一种基于幂迭代和二阶谱初始化的多项式时间可计算估计方法。作者证明了相应的估计量达到了最优收敛速度。
除了这些理论贡献外,作者还提供了一些数值结果。

MSC公司:

62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质
62-08 统计问题的计算方法

软件:

BrainWeb网站
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anandkumar,A.、Ge,R.、Hsu,D.、Kakade,S.M.和Telgarsky,M.(2014)。用于学习潜在变量模型的张量分解。J.马赫。学习。第15号决议2773-2832·Zbl 1319.62109号
[2] Auffinger,A.和Ben Arous,G.(2013年)。高维球面上随机光滑函数的复杂性。Ann.遗嘱认证。41 4214-4247. ·Zbl 1288.15045号 ·doi:10.1214/13-AOP862
[3] Auffinger,A.、Ben Arous,G.和Cerní,J.(2013)。自旋玻璃的随机矩阵和复杂性。普通纯应用程序。数学。66 165-201·Zbl 1269.82066号
[4] Barak,B.和Moitra,A.(2016年)。通过平方和层次结构实现噪声张量补全。第29届学习理论年会417-445。
[5] Candes,E.J.和Plan,Y.(2010年)。带噪声的矩阵完成。程序。IEEE 98 925-936。
[6] Chaganty,A.T.和Liang,P.(2013)。估计线性回归混合的谱专家。在ICML(3)1040-1048中。
[7] Cocosco,C.A.、Kollokian,V.、Kwan,R.K.-S.、Pike,G.B.和Evans,A.C.(1997)。Brainweb:3D MRI模拟大脑数据库的在线接口。在NeuroImage Citeser中。
[8] Cohen,S.和Collins,M.(2012年)。张量分解,用于潜在变量PCFGS的快速解析。神经信息处理系统进展。
[9] De Lathauwer,L.、De Moor,B.和Vandewalle,J.(2000)。多线性奇异值分解。SIAM J.矩阵分析。申请。21 1253-1278. ·Zbl 0962.15005号 ·doi:10.1137/S0895479896305696
[10] de Silva,V.和Lim,L.-H.(2008)。张量秩和最佳低秩逼近问题的适定性。SIAM J.矩阵分析。申请。30 1084-1127. ·Zbl 1167.14038号 ·doi:10.1137/06066518X
[11] Hillar,C.J.和Lim,L.-H.(2013)。大多数张量问题都是NP-hard问题。美国临床医学杂志60 45·Zbl 1281.68126号 ·doi:10.1145/2512329
[12] Jain,P.和Oh,S.(2014)。缺失数据的可证明张量因式分解。神经信息处理系统进展1431-1439。
[13] Keshavan,R.H.、Montanari,A.和Oh,S.(2010年)。从噪声条目中完成矩阵。J.马赫。学习。第11号决议2057-2078·Zbl 1242.62069号
[14] Klopp,O.(2014)。具有一般采样分布的噪声低秩矩阵补全。伯努利20 282-303·Zbl 1400.62115号 ·文件编号:10.3150/12-BEJ486
[15] Kolda,T.G.和Bader,B.W.(2009年)。张量分解及其应用。SIAM版本51 455-500·Zbl 1173.65029号 ·doi:10.1137/07070111X
[16] Koltchinskii,V.、Lounici,K.和Tsybakov,A.B.(2011年)。噪声低秩矩阵补全的核形式惩罚和最优速率。安。统计师。39 2302-2329. ·Zbl 1231.62097号 ·doi:10.1214/11-AOS894
[17] Kreimer,N.、Stanton,A.和Sacchi,M.D.(2013年)。基于核范数最小化的张量补全方法在5d地震数据重建中的应用。地球物理学78 V273-V284。
[18] Kwan,R.K.-S.,Evans,A.C.和Pike,G.B.(1996年)。用于后处理评估的可扩展MRI模拟器。生物医学计算可视化135-140。施普林格,柏林。
[19] Li,N.和Li,B.(2010年)。用于高光谱图像车载压缩的张量补全。第17届IEEE图像处理国际会议(ICIP)517-520。
[20] Lim,L.-H.和Comon,P.(2010年)。多阵列信号处理:张量分解满足压缩感知。C.R.、MéC。338 311-320. ·Zbl 1220.94018号 ·doi:10.1016/j.crme.2010.06.005
[21] Liu,J.、Musialski,P.、Wonka,P.和Ye,J.(2013)。用于估计视觉数据中缺失值的张量补全。IEEE传输。模式分析。机器。智力。35 208-220.
[22] Montanari,A.和Sun,N.(2018年)。张量补全的谱算法。普通纯应用程序。数学。71 2381-2425. ·Zbl 1404.15023号 ·doi:10.1002/cpa.21748
[23] Nion,D.和Sidiropoulos,N.D.(2010年)。MIMO雷达信号处理中的张量代数和多维谐波恢复。IEEE传输。信号处理。58 5693-5705. ·Zbl 1392.94361号 ·doi:10.1109/TSP.2010.58802
[24] Rohde,A.和Tsybakov,A.B.(2011年)。高维低秩矩阵的估计。安。统计师。39 887-930. ·Zbl 1215.62056号
[25] Semerci,O.、Hao,N.、Kilmer,M.E.和Miller,E.L.(2014)。多能量CT的基于张量的公式和核范数正则化。IEEE传输。图像处理。23 1678-1693年·Zbl 1374.94335号 ·doi:10.1109/TIP.2014.2305840
[26] Uschmajew,A.(2012年)。正则张量近似的交替最小二乘算法的局部收敛性。SIAM J.矩阵分析。申请。33 639-652. ·Zbl 1252.65085号 ·数字对象标识代码:10.1137/10843587
[27] Wedin,P.(1972年)。奇异值分解的扰动界。钻头12 99-111·Zbl 0239.15015号 ·doi:10.1007/BF01932678
[28] Xia,D.和Yuan,M.(2019)。精确低秩张量补全的多项式时间方法。已找到。计算。数学。19 1265-1313之间·Zbl 1436.15031号 ·doi:10.1007/s10208-018-09408-6
[29] Xia,D.,Yuan,M.和Zhang,C.-H(2021)。补充“统计上最优且计算效率高的低秩张量从噪声项中完成”https://doi.org/10.1214/20-AOS1942SUPP网站
[30] Xie,W.、Zhu,F.、Jiang,J.、Lim,E.-P.和Topicsketch,K.W.(2016)。Twitter实时突发话题检测。IEEE传输。知识。数据工程28 2216-2229。
[31] Xu,Y.和Yin,W.(2013)。正则化多凸优化的块坐标下降法及其在非负张量分解和完备化中的应用。SIAM J.成像科学。6 1758-1789年·Zbl 1280.49042号 ·数字对象标识代码:10.1137/120887795
[32] Yuan,M.和Zhang,C.-H.(2016)。基于核范数最小化的张量补全。已找到。计算。数学。16 1031-1068. ·Zbl 1378.90066号 ·doi:10.1007/s10208-015-9269-5
[33] 袁,M·Zbl 1391.94469号 ·doi:10.1109/TIT.2017.2724549
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。