×
安徒生文顺（Ang，Andersen Man Shun）;尼古拉斯·吉利斯

使用外推加速非负矩阵分解算法。 （英文） Zbl 1470.65083号

神经计算。 31，第2期，417-439（2019）.
摘要：我们提出了一个通用框架来显著加速非负矩阵分解（NMF）算法。该框架的灵感来自用于加速凸优化中梯度方法的外推方案和平行切线方法。然而，在处理非凸NMF问题的精确坐标下降算法中使用外推法是新颖的。我们使用合成、图像和文档数据集，在两种最先进的NMF算法上演示了该方法的性能：加速分层交替最小二乘法和交替非负最小二乘法。

引用于9文件

MSC公司：

65层99 数值线性代数
15A23型 矩阵的因式分解

软件：

NeNMF公司
PDF格式BibTeX公司 XML格式引用
\textit｛A.M.S.Ang｝和\textit｛N.Gillis｝，神经计算。31，第2号，417--439（2019；Zbl 1470.65083）
全文： 内政部 arXiv公司

参考文献：

[1] Beck，A.和Teruashvili，L.（2013）。关于块坐标下降型方法的收敛性。SIAM优化杂志，23（4），2037-2060·Zbl 1297.90113号
[2] Chambolle，A.和Pock，T.（2015）。关于计算凸函数和的邻近算子的加速块坐标下降的注记。SMAI计算数学杂志，1，29-54·Zbl 1416.65170号
[3] Chow，Y.T.、Wu，T.和Yin，W.（2017）。不动点问题的循环坐标更新算法：分析和应用。SIAM科学计算杂志，39（4），A1280-A1300·Zbl 1368.90104号
[4] Cichocki，A.和Phan，A.-H.（2009年）。大规模非负矩阵和张量分解的快速局部算法。IEICE电子基础汇刊，92（3），708-721。
[5] Cichocki，A.、Zdunk，R.和Amari，S.（2007年）。非负矩阵和三维张量分解的层次ALS算法。M.E.Davies、C.J.James、S.A.Abdallah和M.D.Plumbley（编辑），计算机科学讲义，第4666卷。独立成分分析和信号分离（第169-176页）。柏林：Springer-Verlag·Zbl 1172.94390号
[6] Cichocki，A.、Zdunk，R.、Phan，A.H.和Amari，S.-i.（2009年）。非负矩阵和张量因子分解：在探索性多路数据分析和盲源分离中的应用。新泽西州霍博肯：威利。
[7] Erichson，N.B.、Mendible，A.、Wihlborn，S.和Kutz，J.N.（2018年）。随机非负矩阵分解。模式识别字母，104 1-7。数字对象标识：
[8] Fercoq，O.和Richtárik，P.（2015）。加速、平行和近距离坐标下降。SIAM优化杂志，25（4），1997-2023·Zbl 1327.65108号
[9] Févotte，C.和Idier，J.（2011）。具有β-散度的非负矩阵分解算法。神经计算，23（9），2421-2456·Zbl 1231.65072号
[10] Fu，X.，Huang，K.，Sidiropoulos，N.D.，&Ma，W.-K.（2018）。信号和数据分析的非负矩阵分解：可识别性、算法和应用。arXiv:1803.01257。
[11] Fu，X.，Huang，K.，Yang，B.，Ma，W.K.，&Sidiropoulos，N.D.（2016）。用于遥感和文档聚类的基于鲁棒体积最小化的矩阵分解。IEEE信号处理汇刊，64（23），6254-6268·Zbl 1414.94205号
[12] Gillis，N.（2014）。非负矩阵因式分解的原因和方法。在J.Suykens、M.Signoretto和A.Argyriou（编辑）中，正则化、优化、内核和支持向量机（第257-291页）。伦敦：查普曼和霍尔/CRC。
[13] Gillis，N.（2017）。非负矩阵分解简介。SIAG/OPT观点和新闻，25（1），7-16。
[14] Gillis，N.和Glineur，F.（2012年）。用于非负矩阵分解的加速乘法更新和分层ALS算法。神经计算，24（4），1085-1105。
[15] Guan，N.、Tao，D.、Luo，Z.和Yuan，B.（2012）。NeNMF：非负矩阵分解的最优梯度方法。IEEE信号处理汇刊，60（6），2882-2898·Zbl 1391.65115号
[16] Hong，M.，Wang，X.，Razaviyayn，M.和Luo，Z.-Q.（2017）。块坐标下降法的迭代复杂性分析。数学规划，163（1-2），85-114·Zbl 1367.49010号
[17] 谢家杰（Xieh，C.-J.）和迪伦（Dhillon，I.S.）（2011年）。用于非负矩阵分解的带变量选择的快速坐标下降法。第17届ACM SIGKDD知识发现和数据挖掘国际会议论文集（第1064-1072页）。纽约：ACM。
[18] Kim，J.、He，Y.和Park，H.（2014）。非负矩阵和张量分解的算法：基于块坐标下降框架的统一视图。全局优化杂志，58（2），285-319·Zbl 1321.90129号
[19] Kim，H.和Park，H.（2008）。基于交替非负约束最小二乘和活动集方法的非负矩阵分解。SIAM矩阵分析与应用杂志，30（2），713-730·Zbl 1162.65354号
[20] Kim，J.和Park，H.（2011年）。快速非负矩阵分解：一种类似活动集的方法和比较。SIAM科学计算杂志，33（6），3261-3281·Zbl 1232.65068号
[21] Lee，D.D.和Seung，H.S.（1999年）。通过非负矩阵分解学习对象的各个部分。《自然》，401（6755），788·Zbl 1369.68285号
[22] Lin，C.-J.（2007）。非负矩阵分解的投影梯度方法。神经计算，19（10），2756-2779·Zbl 1173.90583号
[23] Luenberger，D.G.和Ye，Y.（2015）。线性和非线性规划，第四版，施普林格·Zbl 1207.90003号
[24] 内斯特罗夫，Y.（2013）。凸优化入门讲座：一门基础课程。纽约：Springer Science&Business Media·Zbl 1086.90045号
[25] Odonoghue，B.和Candès，E.（2015）。加速梯度方案的自适应重启。计算数学基础，15（3），715-732·Zbl 1320.90061号
[26] O'Neill，M.和Wright，S.J.（2017年）。非凸问题临界点附近加速梯度方法的行为。arXiv:1706.07993。
[27] Paquette，C.、Lin，H.、Drusvyatskiy，D.、Mairal，J.和Harchaoui，Z.（2018年）。基于梯度的非凸优化催化剂。A.Storkey和F.Perez-Cruz（编辑），《第二十届国际人工智能与统计会议论文集》。第84卷：机器学习研究论文集。
[28] Vandaele，A.、Gillis，N.、Lei，Q.、Zhong，K.和Dhillon，I.（2016）。对称非负矩阵分解的高效非凸坐标下降。IEEE信号处理学报，64（21），5571-5584·Zbl 1414.94636号
[29] 弗吉尼亚州瓦瓦西斯（2010年）。关于非负矩阵分解的复杂性。SIAM优化杂志，20（3），1364-1377·Zbl 1206.65130号
[30] Xu，Y.，&Yin，W.（2013）。正则化多凸优化的块坐标下降法及其在非负张量分解和完备化中的应用。SIAM成像科学杂志，6（3），1758-1789·Zbl 1280.49042号
[31] Zhong，S.和Ghosh，J.（2005）。基于生成模型的文档聚类：比较研究。知识与信息系统，8（3），374-384。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。