×
李继成;李文波;刘学年

一种有效的带外推的非负矩阵分解的非单调投影Barzilai-Borwein方法。 （英语） Zbl 1480.65108号

国际期刊计算。数学。 98，第1期，11-27（2021年）.
摘要：本文提出了一种基于交替非负最小二乘框架的非负矩阵因式分解（NMF）的有效方法。为了有效地解决非负约束最小二乘问题，我们提出了一个外推的二次正则化投影Barzilai-Borwein（EQRPBB）方法利用外推技术和改进的非单调线搜索。通过对合成数据集和图像数据集的实验，证明了该方法的有效性。我们观察到，在计算速度方面，我们的方法明显优于现有方法。

引用于1文件

MSC公司：

65层99 数值线性代数
15A23型 矩阵的因式分解

关键词：

非负矩阵分解;交替非负最小二乘法;投影Barzilai-Borwein方法;非单调线搜索;外推

软件：

NeNMF公司
PDF格式BibTeX公司 XML格式引用
\textit｛J.Li｝等人，《国际计算机杂志》。数学。98，编号1，11--27（2021；Zbl 1480.65108）
全文： 内政部

参考文献：

[1] Balashov，M.V.，具有Lipschitz连续梯度的函数的最大化，J.Math。科学。，209, 12-18 (2015) ·Zbl 1369.90165号 ·doi:10.1007/s10958-015-2482-6
[2] Barzilai，J。；Borwein，J.M.，两点步长梯度法，IMA J.Numer。分析。，8, 141-148 (1988) ·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[3] 伯金，E.G。；马丁内斯，J.M。；Raydan，M.，凸集上的非单调谱投影梯度法，SIAM J.Optim。，10, 1196-1211 (2000) ·Zbl 1047.90077号 ·doi:10.1137/S1052623497330963
[4] 贝克，A。；Teboulle，M.，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542
[5] Cichocki，A。；扎杜克，R。；Amari，S.-A.，非负矩阵和三维张量分解的层次ALS算法，Lect。注释计算。科学。，4666169-176（2007年）·Zbl 1172.94390号 ·doi:10.1007/978-3-540-74494-8_22
[6] Dai，Y.H.，关于非单调线搜索，J.Optim。理论应用。，112, 315-330 (2002) ·Zbl 1049.90087号 ·doi:10.1023/A:1013653923062
[7] Gillis，N.，《非负矩阵因式分解的原因和方法》，载于正则化、优化、内核和支持向量机，J.Suykens、M.Signoretto和A.Argyriou，eds.，Chapman&Hall/CRC，机器学习和模式识别系列，2014年第12卷·Zbl 1305.68030号
[8] Glowinski，R.，非线性变分问题的数值方法（1984），Springer-Verlag:Springer-Verlag，纽约·Zbl 0575.65123号
[9] 龚，P.H。；张春生，基于投影牛顿法的高效非负矩阵因式分解，模式识别。，45, 3557-3565 (2012) ·Zbl 1242.68270号 ·doi:10.1016/j.patcog.2012.02.037
[10] 格里波，L。；Lampariello，F。；Lucidi，S.，牛顿法的非单调线性搜索技术，SIAM J.Numer。分析。，23707-716（1986年）·Zbl 0616.65067号 ·doi:10.1137/0723046
[11] 格里波，L。；Sciandone，M.，Barzilai-Borwein梯度法的非单调全球化技术，计算。最佳方案。申请。，23, 143-169 (2002) ·Zbl 1028.90061号 ·doi:10.1023/A:1020587701058
[12] 顾，N.Z。；Mo，J.T.，将非单调策略纳入无约束优化的信赖域方法，计算。数学。申请。，55, 2158-2172 (2008) ·Zbl 1183.90387号 ·doi:10.1016/j.camwa.2007.08.038
[13] 关，纽约。；陶博士。；罗，Z.G。；Yuan，B.，NeNMF:非负矩阵分解的最优梯度法，IEEE Trans。信号处理。，60, 2882-2898 (2012) ·Zbl 1391.65115号 ·doi:10.1109/TSP.2012.2190406
[14] Han，L.X。；Neumann，M。；Prasad，U.，非负矩阵因式分解的交替投影Barzilai-Borwein方法，Electron。事务处理。数字。分析。，36, 54-82 (2009) ·Zbl 1191.65020号
[15] 黄Y.K。；刘洪伟。；Zhou，S.，非负矩阵因式分解的有效单调投影Barzilai-Borwein方法，应用。数学。莱特。，2015年12月17日，第45页·Zbl 1325.15007号 ·doi:10.1016/j.aml.2015.01.003
[16] 黄Y.K。；刘洪伟。；Zhou，S.，非负矩阵分解的二次正则化投影交替Barzilai-Borwein方法，数据挖掘知识。发现。，29, 1665-1684 (2015) ·Zbl 1405.65060号 ·doi:10.1007/s10618-014-0390-x
[17] Kim，D.，Sra，S.，Dhillon，I.S.，《最小二乘非负矩阵近似问题的快速牛顿型方法》，SIAM国际数据挖掘会议，SIAM，费城，2007年，第343-354页。
[18] Lee，D.D。；Seung，H.S.，通过非负矩阵分解学习对象的各个部分，《自然》，401，788-791（1999）·Zbl 1369.68285号 ·doi:10.1038/44565
[19] Lee，D.D。；Seung，H.S.，非负矩阵分解算法，高级神经过程。信息系统。，13, 556-562 (2001)
[20] Lin，C.J.，非负矩阵分解的投影梯度法，神经计算。，19, 2756-2779 (2007) ·Zbl 1173.90583号 ·doi:10.1162/neco.2007.19.10.2756
[21] 卢，Z.S。；Xiao，L.，关于随机区组坐标下降法的复杂性分析，数学。程序。，152615-642（2015）·Zbl 1321.65100号 ·doi:10.1007/s10107-014-0800-2
[22] Nesterov，Y.E.，一种求解具有收敛速度的凸规划问题的方法\（O（1/####）\），Dokl。阿卡德。诺克SSSR，269，543-547（1983）·Zbl 0535.90071号
[23] Paatero，P。；Tapper，U.，《正矩阵因式分解：最优利用数据值误差估计的非负因子模型》，Environmetrics，5，111-126（1994）·doi:10.1002/env.3170050203
[24] Xu，Y.Y。；Yin，W.T.，正则化多凸优化的块坐标下降法及其在非负张量分解和完成中的应用，SIAM J.成像科学。，6, 1758-1789 (2013) ·Zbl 1280.49042号 ·数字对象标识代码：10.1137/120887795
[25] Xu，Y·Y。；Yin，W.T.，基于块坐标更新的非凸优化的全局收敛算法，J.Sci。计算。，72, 1-35 (2017) ·Zbl 1378.65126号 ·doi:10.1007/s10915-017-0376-0
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。