×
刘光灿;严水成

主动子空间：朝向可扩展的低阶学习。 （英语） Zbl 1268.68139号

神经计算。 24，第12期，3371-3394（2012）.
总结：我们解决了低阶矩阵学习问题中的可扩展性问题。通常这些问题都需要求解核范数正则化优化问题（NNROP），如果基于现有的求解器，尤其是在大规模环境中，这些问题通常具有很高的计算复杂性。基于NNROP的最优解矩阵通常是低秩的这一事实，我们重新审视了低秩矩阵分解的经典机制，在此基础上，我们提出了一种主动子空间算法，通过将大规模NNROP转化为小规模问题来有效求解NNROP。该变换是通过将大解矩阵分解为一个小正交矩阵（活动子空间）和另一个小矩阵的乘积来实现的。虽然这种变换通常会导致非凸问题，但我们证明了通过增广拉格朗日交替方向法可以找到次优解。对于NNROPs的典型例子鲁棒PCA（RPCA）问题，理论结果验证了我们的算法产生的解的次优性。对于一般的NNROP，我们的经验表明，我们的算法在不损失最优性的情况下显著降低了计算复杂度。

引用于8文件

MSC公司：

68T05型 人工智能中的学习和自适应系统

软件：

LMa拟合
PDF格式BibTeX公司 XML格式引用
\textit{G.Liu}和\textit{S.Yan}，神经计算。24，第12号，3371--3394（2012；Zbl 1268.68139）
全文： 内政部

参考文献：

[1] Bach F.，《机器学习研究杂志》，第9页，1019页–（2008年）
[2] DOI:10.1007/s10107-004-0564-1·Zbl 1099.90040号 ·doi:10.1007/s10107-004-0564-1
[3] DOI:10.1137/080738970·Zbl 1201.90155号 ·doi:10.1137/080738970
[4] 蔡杰，无奇异值分解的快速奇异值阈值法（2010）·Zbl 1401.65042号
[5] 内政部：10.1145/1970392.1970395·Zbl 1327.62369号 ·数字对象标识代码：10.1145/1970392.1970395
[6] 内政部：10.1109/JPROC.2009.2035722·doi:10.1109/JPROC.2009.2035722
[7] 内政部：10.1007/s10208-009-9045-5·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[8] 内政部：10.1137/090761793·Zbl 1226.90067号 ·数字对象标识代码：10.1137/090761793
[9] 内政部：10.1137/S089547989529290954·Zbl 0928.6500号 ·doi:10.1137/S089547989529290954
[10] 内政部：10.1137/090771806·Zbl 1269.65043号 ·数字对象标识代码：10.1137/090771806
[11] Higham N.，矩阵procrustes问题（1995）
[12] Jaggi M.，《第十二届机器学习国际会议论文集》，第471页–（2010年）
[13] 内政部：10.1109/TPAMI.2005.92·doi:10.1109/TPAMI.2005.92
[14] Lin Z.，精确恢复受损低秩矩阵的增广拉格朗日乘子方法（2009）
[15] Lin Z.，《神经信息处理系统的进展》，24页，612–（2011）
[16] Liu G.，IEEE模式分析和机器智能汇刊99，第28页–（2012年）
[17] 刘刚，第27届国际机器学习会议论文集，pp 663–（2010）
[18] 内政部：10.1145/1871437.1871475·数字对象标识代码：10.1145/1871437.1871475
[19] Nocedal J.，数值优化（2006）
[20] Shalev Shwartz S.，《第28届国际机器学习大会论文集》第329页（2011年）
[21] 沈毅，基于低阶分解的矩阵分离的增广拉格朗日交替方向法（2011）
[22] Srebro N.，《神经信息处理系统进展》，第17页，第5页–（2005）
[23] Tomioka R.，《第27届机器学习国际会议论文集》，第1087页–（2010年）
[24] Weimer M.，《神经信息处理系统的进展》20（2007）
[25] Williams C.，《第17届机器学习国际会议论文集》第1159页–（2000）
[26] Wright J.，《神经信息处理系统的进展》22，第2080页–（2009年）
[27] 张毅，交替方向法的最新进展：实践与理论（2010）
[28] 数字对象标识码：10.1007/s11263-012-0515-x·Zbl 1254.68290号 ·文件编号：10.1007/s11263-012-0515-x
[29] 内政部：10.1145/1873951.1874028·数字对象标识代码：10.1145/1873951.1874028
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。