×
Lo-Bin Chang;白志东;黄苏云;Chii Ruey黄

基于核的Nyström低秩近似矩阵的渐近误差界。 （英语） Zbl 1349.62262号

《多元分析杂志》。 120, 102-119 (2013).
摘要：由于全核Gram矩阵（mathbf{K}）的列大小，许多基于核的学习算法的计算负载随样本大小而变化。本文考虑Nyström低阶近似。它使用一个简化的内核（hat{mathbf{K}}），它是（n乘以m），由（m）列组成（例如列（i_1，i_2，dots，i_m），这些列是从（mathbf}）中随机抽取的。这种近似的形式是（mathbf{K}\approx），其中（mathbf{K}）是由（hat{mathbf}K}}）的行（i_1，i_2，dots，i_m）形成的约化矩阵。通常，（m）比样本大小（n）小得多，从而产生一个薄的矩形缩减核，并导致学习算法按列大小（m）缩放。矩阵逼近的质量可以通过其特征值和特征向量的接近程度来评估。本文导出了Nyström低阶近似矩阵特征值和特征向量的渐近误差界。

引用于2文件

理学硕士：

62H30型 分类和区分；聚类分析（统计方面）
60对20 随机矩阵（概率方面）
60F99型 概率论中的极限定理
68T05年 人工智能中的学习和自适应系统

关键词：

奈斯特罗姆近似;核Gram矩阵;频谱分解;渐近误差界;Wishart随机矩阵

软件：

RSVM公司;电子静态学习
PDF格式BibTeX公司 XML格式引用
\textit{L.-B.Chang}等人，《多元分析杂志》。120、102-119（2013；Zbl 1349.62262）
全文： 内政部

参考文献：

[1] Alpaydm，E.，《机器学习导论》（2004），麻省理工学院出版社：麻省理学院出版社，马萨诸塞州剑桥
[2] Anderson，T.W.，《多元统计分析导论》（2003），Wiley·Zbl 1039.62044号
[3] Bai，Z.D.，《大维随机矩阵的谱分析方法》，综述，《统计学》，第9期，第611-677页（1999年）·兹比尔0949.60077
[4] 科尔特斯，C。；Vapnik，V.N.，支持向量网络，机器学习，20，273-297（1995）·Zbl 0831.68098号
[5] 北卡罗来纳州克里斯蒂亚尼尼。；Shawe-Taylor，J.，《支持向量机导论》（2000），剑桥大学出版社：剑桥大学出版社
[6] 德里尼亚斯，P。；Kannan，R。；Mahoney，M.W.，矩阵的快速蒙特卡罗算法I：近似矩阵乘法，SIAM计算杂志，36，132-157（2006）·Zbl 1111.68147号
[7] 德里尼亚斯，P。；Kannan，R。；Mahoney，M.W.，矩阵的快速蒙特卡罗算法II：计算矩阵的低阶近似，SIAM计算杂志，36，158-183（2006）·Zbl 1111.68148号
[8] 德里尼亚斯，P。；Kannan，R。；Mahoney，M.W.，矩阵的快速蒙特卡罗算法III：计算压缩近似矩阵分解，SIAM计算杂志，36，184-206（2006）·Zbl 1111.68149号
[9] 德里尼亚斯，P。；Mahoney，M.W.，《关于近似Gram矩阵以改进基于核的学习的NyströM方法》，《机器学习研究杂志》，62153-2175（2005）·Zbl 1222.68186号
[10] Fang，K.T。；Lin，D.K.J。；Winker，P。；Zhang，Y.，统一设计：理论与应用，Technometrics，42237-248（2000）·Zbl 0996.62073号
[12] 哈斯蒂，T。；Tibshirani，R。；Friedman，J.，《统计学习的要素：数据挖掘、推断和预测》（2009），Springer:Springer New York·Zbl 1273.62005年
[13] 黄S.Y。；Yeh，Y.R。；Eguchi，S.，稳健核主成分分析，神经计算，213179-3213（2009）·Zbl 1192.68522号
[14] Lee，Y.J。；谢伟峰。；Huang，C.M.，（epsilon）-SSVR:不敏感回归的平滑支持向量机，IEEE知识与数据工程学报，17，678-685（2005）
[15] Lee，Y.J。；Huang，S.Y.，简化支持向量机：统计理论，IEEE神经网络汇刊，18，1-13（2007）
[16] Lee，Y.J。；Mangasarian，O.L.，RSVM：简化支持向量机，（《第一届SIAM国际数据挖掘会议论文集》（2001），SIAM:SIAM Philadelphia）
[17] 马奥尼，M.W。；Drineas，P.，用于改进数据分析的CUR矩阵分解，《美国国家科学院院刊》，106，3，697-702（2009）·Zbl 1202.68480号
[18] Mangasarian，O.L.公司。；Musicant，D.R.，拉格朗日支持向量机，机器学习研究杂志，161-177（2001）·Zbl 0997.68108号
[19] 音乐家D.R。；Feinberg，A.，主动集支持向量回归，IEEE神经网络汇刊，15，268-275（2004）
[20] Schölkopf，B。；Smola，A.，《使用内核学习：支持向量机、正则化、优化和超越》（2002年），麻省理工学院出版社：麻省理学院出版社剑桥
[21] 苏肯斯，J.A.K。；Vandewalle，J.，最小二乘支持向量机分类器，《神经处理快报》，9，293-300（1999）
[23] 威廉姆斯，C。；Seeger，M.，《使用NyströM方法加速内核机器》，（Leen，T.K.；Dietterich，T.G.；Tresp，V.，《神经信息处理系统的进展》，第13卷（2001年），麻省理工学院出版社：麻省理工学院出版社，马萨诸塞州剑桥），682-688
[24] Yeh，Y.R。；黄S.Y。；Lee，Y.J.，带核切片逆回归的非线性降维，IEEE知识与数据工程汇刊，211590-1603（2009）
[25] Zhang，F.，矩阵理论：基本结果和技术（1999），Springer:Springer New York·Zbl 0948.15001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。