×
车茂林；魏益民

对称非负张量分解的乘法算法及其应用。 （英语） Zbl 1442.15021号

科学杂志。计算。 83，第3号，第53号论文，31页（2020年）.
摘要：非负张量因子分解（NTF）和非负Tucker分解（NTD）在高维非负张变量数据分析中得到了广泛应用。本文主要研究对称NTF和对称NTD，它们分别是NTF和NTD的特例。通过最小化欧氏距离和广义KL散度，提出了乘法更新规则，并证明了在温和条件下的收敛性。我们还证明，如果解基于乘法更新规则收敛，那么极限满足Karush-Kuhn-Tucker最优性条件。我们通过几个数值例子说明了这些乘法更新规则的效率。

引用于三文件

MSC公司：

15A23型 矩阵的因式分解
15A69号 多线性代数，张量演算
2015财年65 矩阵特征值和特征向量的数值计算
65层10 线性系统的迭代数值方法

关键词：

欧几里得距离；广义KL散度；对称非负张量因式分解；对称非负Tucker分解；乘法更新规则

软件：

张量工具箱
PDF格式BibTeX公司 XML格式引用
\textit{M.Che}和\textit{Y.Wei}，J.Sci。计算。83，第3号，第53号论文，31页（2020年；Zbl 1442.15021）
全文： DOI程序

参考文献：

[1] Agarwal，S.，Branson，K.，Belongie，S.：图的高阶学习。摘自：机械学习国际会议，第1150-1157页。(2006)
[2] Bader，B.W.，Kolda，T.G.：Matlab张量工具箱版本2.6。网址：http://www.sandia.gov/tgkolda/Tensor工具箱/。访问日期：2015年2月6日
[3] JD卡罗尔；Chang，J-J，通过“Eckart-Young”分解的一种（n）方式概括分析多维标度中的个体差异，《心理测量学》，35，283-319（1970）·Zbl 0202.19101号 ·doi:10.1007/BF02310791
[4] Che，M。；Bu，C。；齐，L。；Wei，Y.，《重访非负张量：平面随机张量》，线性多线性A.，67，1364-1391（2019）·Zbl 1412.15010号 ·doi:10.1080/03081087.2018.1453469
[5] 陈，G。；Lerman，G.，谱曲率聚类（SCC），国际计算杂志。视觉。，81, 317-330 (2009) ·doi:10.1007/s11263-008-0178-9
[6] 陈，Y。；雷吉，M。；董，M。；Hua，J.，半监督数据聚类的非负矩阵分解，Knowl。信息系统。，17355-379（2008年）·doi:10.1007/s10115-008-0134-6
[7] Chi，EC；Kolda，TG，关于张量、稀疏性和非负因子分解，SIAM J.矩阵分析。申请。，33, 1272-1299 (2012) ·Zbl 1262.15029号 ·数字对象标识代码：10.1137/10859063
[8] Cichocki，A。；扎杜克，R。；Amari，S.，《非负矩阵因式分解的Csiszárs发散：新算法家族》，Lect。注释计算。科学。，3889, 32-39 (2006) ·Zbl 1178.94057号 ·doi:10.1007/11679363_5
[9] Cichocki，A。；扎杜克，R。；Phan，AH；Amari，S-I，非负矩阵和张量因子分解：探索性多路数据分析和盲源分离的应用（2009），霍博肯：威利，霍博肯
[10] 德拉特豪沃，L。；De Moor，B。；Vandwalle，J.，多线性奇异值分解，SIAM J.矩阵分析。申请。，21, 1253-1278 (2000) ·Zbl 0962.15005号 ·doi:10.1137/S0895479896305696
[11] Ding，C.，He，X.，Simon，H.D.：关于非负矩阵分解和谱聚类的等价性。摘自：SIAM国际数据挖掘会议论文集，第606-610页。(2005)
[12] 范，J。；Zhou，A.，完全正张量分解的半定算法，计算。最佳方案。申请。，66, 267-283 (2017) ·Zbl 1366.65053号 ·doi:10.1007/s10589-016-9870-9
[13] 费沃特，C。；Bertin，N。；Durrieu，J.，带Itakura-Saito发散的非负矩阵分解：在音乐分析中的应用，神经计算。，21, 793-830 (2009) ·Zbl 1156.94306号 ·doi:10.1162/neco.2008.04-08-771
[14] 乔治亚德斯，AS；Belhumeur，PN；Kriegman，D.，《从少到多：可变照明和姿势下人脸识别的照明锥模型》，IEEE Trans。模式分析。机器。智力。，23, 643-660 (2001) ·doi:10.1109/34.927464
[15] Golub，生长激素；Van Loan，CF，《矩阵计算》，《约翰·霍普金斯数学科学研究》（2013），巴尔的摩：约翰·霍普金斯大学出版社，巴尔的摩尔·Zbl 1268.65037号
[16] Govindu，V.M.：用于几何分组和分割的张量分解。摘自：IEEE CAMSAP，2005：计算机视觉和模式识别计算机社会会议，第1150-1157页。IEEE（2005）
[17] Hansen，S。；普兰滕加，TD；Kolda，TG，Kullback-Leibler非负张量因子分解的基于牛顿的优化，Optim。方法软件。，30, 1002-1029 (2015) ·Zbl 1336.90086号 ·doi:10.1080/10556788.2015.1009977
[18] 何，Z。；Cichocki，A。；谢S。；Choi，K.，《检测n向概率聚类中的簇数》，IEEE Trans。模式分析。机器。智力。，32, 2006-2021 (2010) ·doi:10.1109/TPAMI.2010.15
[19] 何，Z。；谢S。；扎杜克，R。；周，G。；Cichocki，A.，《对称非负矩阵分解：概率聚类的算法和应用》，IEEE Trans。神经网络。，22, 2117-2131 (2011) ·doi:10.1109/TNN.2011.2169087
[20] Ho，J.，Yang，M.，Lim，J..，Lee，K.，Kriegman，D.，不同图解条件下物体的簇状外观。摘自：IEEE CS计算机视觉和模式识别会议记录，第1卷，第11-18页。(2003)
[21] Kim，J。；何毅。；Park，HK，《非负矩阵和张量分解算法：基于块坐标下降框架的统一视图》，J.Glob。最佳。，58285-319（2014）·Zbl 1321.90129号 ·doi:10.1007/s10898-013-0035-4
[22] Kim，Y.D.，Choi，S.：非负塔克分解。摘自：IEEE计算机学会计算机视觉和模式识别会议，第1-8页。(2007)
[23] Kolda，TG，对称张量分解的数值优化，数学。程序。，151, 225-248 (2015) ·Zbl 1328.90139号 ·doi:10.1007/s10107-015-0895-0
[24] 科尔达，TG；Bader，BW，张量分解与应用，SIAM Rev.，51，455-500（2009）·Zbl 1173.65029号 ·doi:10.1137/07070111X
[25] Lee，D.，Seung，H.S.：非负矩阵分解算法。摘自：《神经信息处理系统》，第556-562页。(2000)
[26] Lee，DD；Seung，HS，通过非负矩阵分解学习对象的各个部分，Nature，401，788-791（1999）·Zbl 1369.68285号 ·doi:10.1038/44565
[27] 利亚瓦斯，美联社；科斯图拉斯，G。；Lourakis，G。；黄，K。；基于Sidiropoulos，ND，Nesterov的非负张量分解交替优化：算法和并行实现，IEEE Trans。信号处理。，66, 944-953 (2018) ·Zbl 1414.94336号 ·doi:10.1109/TSP.2017.2777399
[28] Lim，L.：张量的奇异值和特征值：变分方法。摘自：IEEE CAMSAP，2005年：第一届多传感器自适应处理计算进展国际研讨会，第129-132页。IEEE（2005）
[29] 林，L-H；Comon，P.，非负张量的非负近似，J.Chemom。，23, 432-441 (2009) ·doi:10.1002/cem.1244
[30] Long，B.，Zhang，Z.，Wu，X.，Yu，P.S.：对称凸编码的关系聚类。载：机器学习，第二十四届国际会议论文集，第569-576页。(2007)
[31] Lu，H.等人。；Plataniotis，KN；Venetsanopoulos，A.，《多线性子空间学习：多维数据的降维》（2013），博卡拉顿：CRC出版社，博卡拉顿
[32] 罗，Z。；齐，L.，《完全正张量：性质，容易检查的子类，和易处理的松弛》，SIAM J.矩阵分析。申请。，37, 1675-1698 (2016) ·Zbl 1349.15026号 ·doi:10.1137/15M1025220
[33] 莫鲁普，M。；汉森，LK；Arnfred，SM，稀疏非负塔克分解算法，神经计算。，20, 2112-2131 (2008) ·Zbl 1178.68447号 ·doi:10.1116/neco.2008.11-06-407
[34] Nocedal，J。；SJ Wright，《数值优化》，《Springer系列运筹学》（1999），纽约：Springer-Verlag出版社，纽约·Zbl 0930.65067号
[35] Qi，L.，实超对称张量的特征值，J.Symb。计算。，40, 1302-1324 (2005) ·Zbl 1125.15014号 ·doi:10.1016/j.jsc.2005.05.007
[36] 齐，L。；Luo，Z.，张量分析（2018），费城：工业和应用数学学会，费城
[37] 齐，L。；徐，C。；Xu，Y.，非负张量因式分解，完全正张量，和层次消去算法，SIAM J.矩阵分析。申请。，35, 1227-1241 (2014) ·Zbl 1317.65114号 ·数字对象标识码：10.1137/13092232X
[38] Shashua，A。；扎斯·R。；Hazan，T.，使用超对称非负张量因式分解的多路聚类，Lect。注释计算。科学。，3954, 595-608 (2006) ·doi:10.1007/11744085_46
[39] 宋，Y。；Qi，L.，无限维和有限维希尔伯特张量，线性代数应用。，451，1-14（2014）·Zbl 1292.15027号 ·doi:10.1016/j.laa.2014.03.023
[40] 塔克，LR，《关于三模式因子分析的一些数学注释》，《心理测量学》，31279-311（1966）·doi:10.1007/BF02289464
[41] 徐，C。；罗，Z。；齐，L。；Chen，Z.，\（\｛0,1\｝\）完全正张量和多超图，线性代数应用。，510, 110-123 (2016) ·Zbl 1354.05099号 ·doi:10.1016/j.laa.2016.08.016
[42] Xu，Y。；Yin，W.，正则化多凸优化的块坐标下降法及其在非负张量分解和完成中的应用，SIAM J.成像科学。，6, 1758-1789 (2013) ·Zbl 1280.49042号 ·数字对象标识代码：10.1137/120887795
[43] Zass，R.，Shashua，A.：硬聚类和概率聚类的统一方法。摘自：计算机视觉国际会议，第294-301页。(2005)
[44] 周，G。；Cichocki，A。；Xie，S.，基于低阶近似的快速非负矩阵/张量因式分解，IEEE Trans。信号处理。，60, 2928-2940 (2012) ·Zbl 1391.65117号 ·doi:10.1010/TSP.2012.2190410
[45] 周，G。；Cichocki，A。；赵（Q.Zhao）。；Xie，S.，高效非负塔克分解：算法和唯一性，IEEE Trans。图像处理。，24, 4990-5003 (2015) ·Zbl 1408.94841号 ·doi:10.1109/TIP.2015.2478396
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。