×
黄亚奎；刘洪伟；周、水胜

非负矩阵分解的二次正则投影Barzilai-Borwein方法。 （英语） Zbl 1405.65060号

数据最小知识。迪斯科。 29，第6期，1665-1684（2015）.
摘要：本文基于交替非负最小二乘框架，提出了一种新的有效的非负矩阵因式分解方法，该方法使用二次正则化投影Barzilai-Borwein（QRPBB）方法求解子问题。在每次迭代中，QRPBB方法首先通过求解强凸二次最小化问题生成一个点，该问题具有简单的闭合形式解，计算成本低廉，然后应用投影Barzilai-Borwein方法更新NMF的解。在温和的条件下建立了全局收敛结果。在合成数据集和真实数据集上的数值比较表明，该方法是有效的。

引用于14文件

MSC公司：

65楼30 其他矩阵算法（MSC2010）
15A23型 矩阵的因式分解
90C53型 拟Newton型方法
90 C55 连续二次规划型方法

关键词：

非负矩阵分解；交替非负最小二乘法；二次正则化；投影Barzilai-Borwein方法

软件：

RCV1型；NeNMF公司
PDF格式BibTeX公司 XML格式引用
\textit{Y.Huang}等人，Data Min.Knowl。发现。29，No.6，1665--1684（2015；Zbl 1405.65060）
全文： 内政部

参考文献：

[1] Barzilai J，Borwein JM（1988）两点步长梯度法。IMA J数字分析8（1）：141-148·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[2] Berry MW，Browne M，Langville AN，Pauca VP，Plemmons RJ（2007）近似非负矩阵分解的算法和应用。计算机统计数据分析52（1）：155-173·Zbl 1452.90298号 ·doi:10.1016/j.csda.2006.11.006
[3] Bertsekas DP（1999）非线性规划，第2版。雅典娜科技公司，贝尔蒙特·Zbl 1015.90077号
[4] Birgin EG，Martínez JM，Raydan M（2000）凸集上的非单调谱投影梯度方法。SIAM J Optim公司10（4）：1196-1211·Zbl 1047.90077号 ·doi:10.1137/S1052623497330963
[5] Birgin EG、Martínez JM、Raydan M（2012）《光谱投影梯度法：回顾与展望》。http://www.ime.usp.br/埃格比金/
[6] Bonettini S，Zanella R，Zanni L（2009）约束图像去模糊的缩放梯度投影方法。反问题25（1）：015002·Zbl 1155.94011号 ·doi:10.1088/0266-5611/25/1/015002
[7] 蔡D，何X，韩J（2005）利用局部保持索引进行文档聚类。IEEE Trans Knowl Data Eng 17（12）：1624-1637·doi:10.1109/TKDE.2005.198
[8] Cai D，He X，Han J，Huang TS（2011）用于数据表示的图正则化非负矩阵分解。IEEE Trans-Pattern Ana Mach Intell 33（8）：1548-1560·doi:10.1109/TPAMI.2010.231
[9] Cichocki A，Zdunk R，Amari SI（2006）盲源分离应用中非负矩阵分解的新算法。收录于：《IEEE声学、语音和信号处理国际会议论文集》，第621-624页
[10] Cichocki A，Zdunk R，Phan AH，Amari SI（2009）非负矩阵和张量因式分解：在探索性多路数据分析和盲源分离中的应用。奇切斯特·威利·doi:10.1002/9780470747278
[11] Cieri C，Graff D，Liberman M，Martey N，Strassel S（1999）TDT-2文本和语音语料库。摘自：DARPA广播新闻研讨会会议记录，第57-60页
[12] Cores D，Escalante R，González-Lima M，Jimenez O（2009）《关于谱投影梯度法在支持向量机中的应用》。Comp Optim应用程序28（3）：327-364·Zbl 1229.46046号
[13] 戴玉华，张华（2001）自适应两点步长梯度算法。数值算法27（4）：377-385·Zbl 0992.65063号 ·doi:10.1023/A：1013844413130
[14] Dai YH，Liao LZ\[（2002）R\]Barzilai和Borwein梯度法的R-线性收敛性。IMA J数字分析22（1）：1-10·Zbl 1002.65069号 ·doi:10.1093/imanum/22.1.1
[15] Dai YH，Fletcher R（2005）大型箱约束二次规划的投影Barzilai-Borwein方法。数理100（1）：21-47·Zbl 1068.65073号 ·doi:10.1007/s00211-004-0569-y
[16] Dai YH，Hager WW，Schittkowski K，Zhang H（2006）无约束优化的循环Barzilai-Borwein方法。IMA J数字分析26（3）：604-627·Zbl 1147.65315号 ·doi:10.1093/imanum/drl006
[17] Figueiredo MA、Nowak RD、Wright SJ（2007）《稀疏重建的梯度投影：压缩传感和其他反问题的应用》。IEEE J Sel-Top信号处理1（4）：586-597·doi:10.1109/JSTSP.2007.910281
[18] Fletcher R（2005）关于Barzilai-Borwein方法。优化和控制应用程序，应用优化。纽约州施普林格
[19] 龚P，张C（2012）基于投影牛顿法的高效非负矩阵分解。图案识别45（9）：3557-3565·Zbl 1242.68270号 ·doi:10.1016/j.patcog.2012.02.037
[20] Grippo L，Sciandone M（2000）关于凸约束下块非线性Gauss-Seidel方法的收敛性。运营Res Lett 26（3）：127-136·Zbl 0955.90128号 ·doi:10.1016/S0167-6377（99）00074-7
[21] Grippo L，Sciandone M（2002）Barzilai-Borwein梯度法的非单调全球化技术。计算优化应用程序23（2）：143-169·Zbl 1028.90061号 ·doi:10.1023/A:1020587701058
[22] Guan N，Tao D，Luo Z，Yuan B（2012）NeNMF:非负矩阵分解的最优梯度方法。IEEE传输信号处理60（6）：2882-2898·Zbl 1391.65115号 ·doi:10.1109/TSP.2012.2190406
[23] Han L，Neumann M，Prasad U（2009）非负矩阵分解的交替投影Barzilai-Borwein方法。电子传输数字分析36（6）：54-82·Zbl 1191.65020号
[24] Hoyer PO（2004）具有稀疏约束的非负矩阵分解。J Mach学习研究5:1457-1469·Zbl 1222.68218号
[25] Huang Y，Liu H，Zhou S（2013）随机线性互补问题的Barzilai-Borwein型方法。数值算法。doi:10.1007/s11075-013-9803-y·Zbl 1327.90312号
[26] Kim H，Park H（2008）基于交替非负约束最小二乘和主动集方法的非负矩阵分解。SIAM J矩阵分析应用30（2）：713-730·Zbl 1162.65354号 ·数字对象标识码：10.1137/07069239X
[27] Kim D，Sra S，Dhillon IS（2007）最小二乘非负矩阵逼近问题的快速牛顿型方法。摘自：2007年SIAM国际数据挖掘会议记录，第343-354页
[28] Lee DD，Seung HS（2001）非负矩阵分解算法。主题：神经信息处理系统进展，第556-562页
[29] Lee DD，Seung HS（1999）通过非负矩阵分解学习对象的各个部分。性质401（6755）：788-791·兹比尔1369.68285 ·doi:10.1038/44565
[30] Lewis DD，Yang Y，Rose TG，Li F（2004）RCV1：文本分类研究的新基准集合。J Mach学习研究5:361-397
[31] 李思哲，侯晓伟，张海杰，程春生（2001）学习空间局部化，基于部件的表示。收录：2001年IEEE计算机学会计算机视觉和模式识别会议记录，第207-212页
[32] Lin CJ（2007）非负矩阵分解的投影梯度方法。神经计算19（10）：2756-2779·Zbl 1173.90583号 ·doi:10.1162/neco.2007.19.10.2756
[33] Nesterov Y（1983）求解收敛速度为[O（1/k^2）O]（1/k2）的凸规划问题的一种方法。收录：苏联数学Doklady，第372-376页·Zbl 0535.90071号
[34] Paatero P，Tapper U（1994）《正矩阵因式分解：最优利用数据值误差估计的非负因子模型》。环境计量学5（2）：111-126·doi:10.1002/env.3170005003
[35] Pascual-Montano A、Carazo JM、Kochi K、Lehmann D、Pascual-Marqui R（2006）非光滑非负矩阵因式分解（nsNMF）。IEEE Trans-Pattern Ana Mach Intell 28（3）：403-415·doi:10.1109/TPAMI.2006.60
[36] Pauca VP（2004）使用非负矩阵分解进行文本挖掘。摘自：2004年SIAM国际数据挖掘会议记录，第22-24页
[37] Raydan M（1997）大规模无约束极小化问题的Barzilai和Borwein梯度法。SIAM J Optim 7（1）：26-33·Zbl 0898.90119号 ·doi:10.1137/S1052623494266365
[38] Shahnaz F、Berry MW、Pauca VP、Plemmons RJ（2006）《使用非负矩阵分解进行文档聚类》。《信息流程管理杂志》42（2）：373-386·兹比尔1087.68104 ·doi:10.1016/j.ipm.2004.11.005
[39] Vavasis S（2009）关于非负矩阵分解的复杂性。SIAM J Optim 20（3）：1364-1377·Zbl 1206.65130号 ·doi:10.1137/070709967
[40] Xu W，Liu X，Gong Y（2003）基于非负矩阵分解的文献聚类。摘自：第26届国际ACM SIGIR信息检索研究与开发会议记录，第267-273页
[41] Zdunk R，Cichocki A（2006）用拟Newton优化进行非负矩阵分解。摘自：《第八届人工智能与软计算学报》，第870-879页·Zbl 1178.94057号
[42] Zhang H，Hager WW（2004）非单调线搜索技术及其在无约束优化中的应用。SIAM J Optim公司14（4）：1043-1056·Zbl 1073.90024号 ·doi:10.1137/S1052623403428208
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。