×
孔浩;吕灿宜;林周晨

张量Q-秩：张量秩的新的数据相关定义。 （英语） Zbl 07465658号

机器。学习。 110，第7期，1867-1900（2021）.
摘要：最近，基于t-SVD的张量核范数（TNN）正则化在各种低阶张量恢复任务中得到了广泛应用。然而，这些模型通常需要沿三维平滑地更改数据，以确保其低秩结构。本文通过可学习正交矩阵（mathbf{Q}）提出了一种新的数据相关张量秩定义，称为张量Q-rank，并进一步引入了一个统一的数据相关低秩张量恢复模型。根据低秩假设，我们引入了两种可解释的选择方法（mathbf{Q}），在这两种方法下，数据张量可能具有比低筒秩结构更显著的低张量Q秩结构。具体来说，奇异值分布方差最大化导致方差最大化张量Q核范数（VMTQN），而通过流形优化使核范数值最小化则导致流形优化张量Q-核范数。此外，我们将这两个模型应用于低秩张量补全问题，然后给出了一个有效的算法，并简要分析了为什么我们的方法在复杂数据的低采样率情况下比基于TNN的方法更有效。最后，在真实数据集上的实验结果表明，相对于其他张量秩正则化模型，我们提出的模型在张量补全问题上具有优势。

引用于6文件

理学硕士：

68T05型 人工智能中的学习和自适应系统

关键词：

张量秩;劣等的;张量补全;凸优化

软件：

t产品;线圈-20;到岸价格
PDF格式BibTeX公司 XML格式引用
\textit{H.Kong}等人，马赫。学习。110，编号7，1867--1900（2021；Zbl 07465658）
全文： 内政部 arXiv公司

参考文献：

[1] 绝对值，P-A；Mahony，R。；Sepulchre，R.，矩阵流形上的优化算法（2009），新泽西州普林斯顿：普林斯顿大学出版社，新泽西普林斯顿·Zbl 1147.65043号
[2] 蔡，J-F；Chan，RH；Shen，Z.，一种基于帧的图像修复算法，应用和计算谐波分析，24,2131-149（2008）·兹比尔1135.68056 ·doi:10.1016/j.acha.2007.10.002
[3] 加内斯，EJ；Recht，B.，通过凸优化实现精确矩阵补全，计算数学基础，9，6，717（2009）·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[4] 坎迪斯，EJ；Tao，T.，凸松弛的力量：近最优矩阵完成，IEEE信息理论汇刊，56，5，2053-2080（2010）·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[5] Edelman，A。；TA阿里亚斯；Smith，ST，正交约束算法的几何，SIAM矩阵分析与应用杂志，20，2，303-353（1998）·Zbl 0928.6500号 ·doi:10.1137/S089547989529290954
[6] 弗里德兰，S。；Lim，L-H，高阶张量的核范数，计算数学，87，311，1255-1281（2018）·Zbl 1383.15018号 ·doi:10.1090/com/3239
[7] Fu，Y。；高杰。；田博士。；Lin，Z。；Hong，X.，Tensor lrr和基于稀疏编码的子空间聚类，IEEE神经网络和学习系统汇刊，27，10，2120-2133（2016）·doi:10.1109/TNNLS.2016.2553155
[8] Hástad，J.，张量秩为NP-完全，《算法杂志》，11，4，644-654（1990）·Zbl 0716.65043号 ·doi:10.1016/0196-6774（90）90014-6
[9] 希勒，CJ；Lim，L-H，大多数张量问题都是NP-hard，ACM杂志，60，6，45（2013）·Zbl 1281.68126号 ·doi:10.1145/2512329
[10] 佛罗里达州希区柯克，张量或多元数作为乘积之和的表达式，应用数学研究，6，1-4，164-189（1927）
[11] Hitchcock，FL，p-way矩阵或张量的多重不变量和广义秩，数学与物理杂志，7，1-4，39-79（1928）·doi:10.1002/sapm19287139
[12] 胡，W。；陶，D。；张伟。；谢毅。；Yang，Y.，视频完成的扭曲张量核规范，IEEE神经网络和学习系统汇刊，28，12，2961-2973（2016）·doi:10.1109/TNNLS.2016.2611525
[13] 蒋，T-X；黄，T-Z；Zhao，X-L；吉，T-Y；Deng，L-J，使用帧集先验的低秩张量完备的矩阵分解，信息科学，436403-417（2018）·Zbl 1448.15015号 ·doi:10.1016/j.ins.2018.01.035
[14] 蒋，T-X；Ng、MK；Zhao，X-L；Huang，T-Z，三阶张量完备张量核范数的Framelet表示，IEEE图像处理汇刊，297233-7244（2020）·Zbl 07586396号 ·doi:10.1109/TIP.2020.3000349
[15] Kasai，H.和Mishra，B.（2016年）。低秩张量完备：黎曼流形预处理方法。在机器学习国际会议上，第1012-1021页。
[16] 科恩菲尔德，E。；基尔默，M。；Aeron，S.，带可逆线性变换的张量传感器产品，线性代数及其应用，485545-570（2015）·Zbl 1323.15016号 ·doi:10.1016/j.laa.2015.07.021
[17] Kiers，HA，《走向多元分析中的标准化符号和术语》，《化学计量学杂志》，14，3，105-122（2000）·doi:10.1002/1099-128X（200005/06）14:3＜105:：AID-CEM582＞3.0.CO；2-I型
[18] 基尔默，ME；Braman，K。；郝，N。；胡佛，RC，作为矩阵算子的三阶张量：成像应用的理论和计算框架，SIAM矩阵分析与应用杂志，34，1，148-172（2013）·Zbl 1269.65044号 ·数字对象标识代码：10.1137/10837711
[19] 基尔默，ME；Martin，CD，三阶张量的因式分解策略，线性代数及其应用，435，3，641-658（2011）·Zbl 1228.15009号 ·doi:10.1016/j.laa.2010.09.020
[20] 科尔达，TG；Bader，BW，张量分解与应用，SIAM Review，51，3，455-500（2009）·Zbl 1173.65029号 ·doi:10.1137/07070111X
[21] 孔，H。；谢，X。；Lin，Z.，t-Schatten-低阶张量恢复的（p）范数，IEEE信号处理选定主题期刊，12，6，1405-1419（2018）·doi:10.1109/JSTSP.2018.2879185
[22] Krizhevsky，A.和Hinton，G.（2009年）。从微小图像中学习多层特征，技术代表，Citeser。
[23] Kuehne，H.、Jhuang，H.，Garrote，E.、Poggio，T.和Serre，T.（2011年）。HMDB：用于人体运动识别的大型视频数据库。在IEEE国际计算机视觉会议上，第2556-2563页。
[24] Li，C.，Guo，L.，Tao，Y.，Wang，J.，Qi，L.和Dou，Z.（2016）。张量恢复的另一个Schatten范数。在神经信息处理国际会议上，第51-60页。
[25] Lin，Z.，Liu，R.，&Su，Z..（2011年）。低阶表示的自适应惩罚线性化交替方向方法。神经信息处理系统进展，612-620。
[26] Lin，Z。；刘，R。；Li，H.，机器学习中可分离凸程序的并行分裂和自适应惩罚线性化交替方向方法，机器学习，99，2，287（2015）·Zbl 1331.68189号 ·doi:10.1007/s10994-014-5469-5
[27] 刘杰。；穆西亚尔斯基，P。；Wonka，P。；Ye，J.，估计视觉数据中缺失值的张量补全，IEEE模式分析和机器智能学报，35，1，208-220（2013）·doi:10.1109/TPAMI.2012.39
[28] 刘，Y。；尚，F。；范，W。；Cheng，J。；Cheng，H.，张量学习和分解的广义高阶正交迭代，IEEE神经网络和学习系统汇刊，27，12，2551-2563（2015）·doi:10.1109/TNNLS.2015.2496858号
[29] Lu，C.，Feng，J.，Chen，Y.，Liu，W.，Lin，Z.，&Yan，S.（2016）。张量稳健主成分分析：通过凸优化精确恢复损坏的低阶张量。在IEEE关于计算机视觉和模式识别的会议记录中，第5249-5257页。
[30] Lu，C.，Feng，J.，Lin，Z.，&Yan，S.（2018）。从高斯测量中精确恢复低管阶张量。在人工智能国际会议上。
[31] Lu，C.，Peng，X.，&Wei，Y.（2019年）。由可逆线性变换导出的具有新张量核范数的低秩张量补全。《IEEE计算机视觉和模式识别会议论文集》，第5996-6004页。
[32] 卢，C。；冯，J。；陈，Y。；刘伟。；Lin，Z。；Yan，S.，基于新张量核范数的张量稳健主成分分析，IEEE模式分析与机器智能汇刊，42，4，925-938（2019）·doi:10.1109/TPAMI.2019.2891760
[33] 卢，C。；冯，J。；Yan，S。；Lin，Z.，通过优化最小化实现乘数的统一交替方向方法，IEEE模式分析和机器智能汇刊，40，3，527-541（2017）·doi:10.1109/TPAMI.2017.2689021
[34] Nene，S.A.、Nayar，S.K.、Murase，H.等人（1996年）。哥伦比亚物体图像库（线圈-20）。
[35] Ng、MK；Chan，右侧；Tang，W-C，带Neumann边界条件去模糊模型的快速算法，SIAM科学计算杂志，21，3，851-866（1999）·Zbl 0951.65038号 ·doi:10.1137/S1064827598341384
[36] 彼得森，KB；Pedersen，理学硕士，《矩阵食谱》，丹麦技术大学，7，15，510（2008）
[37] Romera--Paredes，B.和Pontil，M.（2013）。张量补全的一种新的凸松弛方法。神经信息处理系统进展，2967-2975。
[38] Song，G.，Ng，M.K.，&Zhang，X.（2019年）。使用变换张量svd的稳健张量补全。arXiv预打印arXiv:1907.01113·兹比尔07217207
[39] Tomioka，R.和Suzuki，T.（2013）。基于结构化Schatten范数正则化的凸张量分解。《神经信息处理系统进展》，第1331-1339页。
[40] Tomioka，R.、Hayashi，K.和Kashima，H.（2010年）。关于迹范数向张量的推广。在NIPS关于张量、内核和机器学习的研讨会上，第7页。
[41] 塔克，LR，《关于三模式因子分析的一些数学注释》，《心理测量学》，31，3，279-311（1966）·doi:10.1007/BF02289464
[42] 温，Z。；Yin，W.，《正交约束优化的一种可行方法》，《数学规划》，142，1-2，397-434（2013）·Zbl 1281.49030号 ·doi:10.1007/s10107-012-0584-1
[43] Wimalawarne，K.、Sugiyama，M.和Tomioka，R.（2014）。多任务学习满足张量分解：通过凸优化进行任务插补。神经信息处理系统进展，2825-2833。
[44] Xu，W.-H，Zhao，X.-L.和Ng，M.（2019）。基于余弦变换的张量奇异值分解快速算法。arXiv预打印arXiv:1902.03070。
[45] Xu，Y。；郝，R。；尹，W。；Su，Z.，低阶张量补全的并行矩阵分解，逆问题与成像，9，2，601-624（2017）·兹比尔1359.15021 ·doi:10.3934/ipi.2015.9.601
[46] Xu，Y。；Yin，W.，正则化多凸优化的块坐标下降法及其在非负张量分解和完成中的应用，SIAM成像科学杂志，6，3，1758-1789（2015）·Zbl 1280.49042号 ·doi:10.137/120887795
[47] 尹，M。；高杰。；谢S。；Guo，Y.，通过张量积表示的多视图子空间聚类，IEEE神经网络和学习系统汇刊，30，3，851-864（2018）·doi:10.1109/TNNLS.2018.2851444
[48] 袁，M。；Zhang，C-H，通过核范数最小化实现张量补全，计算数学基础，16，4，1031-1068（2016）·Zbl 1378.90066号 ·doi:10.1007/s10208-015-9269-5
[49] Zhang，Ely，G.，Aeron，S.，Hao，N.，&Kilmer，M.（2014）。基于张量SVD的多线性数据补全和去噪新方法。《IEEE计算机视觉和模式识别会议记录》，第3842-3849页。
[50] 张，Z。；Aeron，S.，使用t-SVD的精确张量补全，IEEE信号处理学报，65，6，1511-1526（2017）·Zbl 1414.94741号 ·doi:10.1109/TSP.2016.2639466
[51] 周，P。；卢，C。；Lin，Z。；Zhang，C.，低秩张量完备的张量因子分解，IEEE图像处理汇刊，27，31152-1163（2018）·Zbl 1409.94796号 ·doi:10.1109/TIP.2017.2762595
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。