×

稀疏近似的阈值谱算法。 (英语) Zbl 1409.68232号

摘要:谱算法形成了一个通用框架,统一了学习理论中的许多正则化方案。本文提出并分析了一类基于经验特征设计的阈值谱算法。采用软阈值法实现稀疏逼近。我们的分析表明,在没有回归函数稀疏性假设的情况下,阈值谱算法的输出函数用经验特征表示,具有令人满意的稀疏性,收敛速度与文献中的经典谱算法相当。

MSC公司:

68T05型 人工智能中的学习和自适应系统
41A25型 收敛速度,近似度
62G08号 非参数回归和分位数回归
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bauer,F.、Pereverzev,S.和Rosasco,L.,《学习理论中的正则化算法》,J.Complexity23(2007)52-72·Zbl 1109.68088号
[2] Blanchard,G.、Massart,P.、Vert,R.和Zwald,L.,《内核投影机器:模式识别的新工具》,摘自Proc。第17届国际会议《神经信息处理系统》(麻省理工学院出版社,剑桥,2004年),第1649-1656页。
[3] Caponetto,A.和DeVito,E.,正则化最小二乘算法的最佳速率,Found。公司。数学7(2007)331-368·Zbl 1129.68058号
[4] Caponetto,A.和Yao,Y.,《学习理论中基于交叉验证的正则化算子自适应》,Ana。应用8(2010)161-183·Zbl 1209.68405号
[5] Cucker,F.和Zhou,D.X.,《学习理论:近似理论观点》(剑桥大学出版社,剑桥,2007年)·Zbl 1274.41001号
[6] De Vito,E.、Caponetto,A.和Rosasco,L.,学习理论中正则化最小二乘算法的模型选择,Found。计算。数学5(2005)59-85·Zbl 1083.68106号
[7] De Vito,E.、Rosasco,L.、Caponnetto,A.、De Giovannini,U.和Odone,F.,《作为反问题的示例学习》,J.Mach。学习。第6号决议(2005)883-904·Zbl 1222.68180号
[8] L.H.Dicker、D.P.Foster和D.Hsu,《核岭与主成分回归:正则化算子的极小极大界和适应性》,预印本(2016);http://www.stat.rutgers.edu/home/ldicker/papers/kernels.pdf。 ·Zbl 1362.62087号
[9] Engl,H.W.,Hanke,M.和Neubauer,A.,《反问题的正则化》,第375卷(Kluwer学术出版社,Dordrecht,1996)·Zbl 0859.65054号
[10] Guo,X.,Fan,J.和Zhou,D.X.,基于经验特征的正则化方案的稀疏性和误差分析,J.Mach。学习。第17号决议(2016)1-34·Zbl 1367.68224号
[11] 郭振聪、林春霞、周德兴,分布式谱算法学习理论,逆问题,正在审查中的小修订(2016)。
[12] Guo,X.和Zhou,D.X.,一种产生稀疏近似的基于经验特征的学习算法,应用。计算。《谐波分析》32(2012)389-400·Zbl 1319.62119号
[13] 郭Z.C.和周D.X.,无界抽样学习的浓度估计,高级计算。数学38(2013)207-223·Zbl 1283.68289号
[14] Hu,T.,Fan,J.,Wu,Q.和Zhou,D.X.,最小误差熵原理的正则化方案,Ana。申请13(2015)437-455·Zbl 1329.68216号
[15] S.Lin、X.Guo和D.X.Zhou,《正则化最小二乘分布式学习》,提交给J.Mach。学习。正在审查的决议修订版(2016年)。
[16] Lo Gerfo,L.、Rosasco,L.,Odone,F.、De Vito,E.和Verri,A.,监督学习的谱算法,《神经计算》,20(2008)1873-1897·Zbl 1147.68643号
[17] Mendelson,S.和Neeman,J.,《内核学习中的正则化》,《Ann.Stat.38》(2010)526-565·Zbl 1191.68356号
[18] Smale,S.和Zhou,D.X.,通过积分算子及其近似值进行学习理论估计,Constr。约26(2007)153-172·Zbl 1127.68088号
[19] Smale,S.和Zhou,D.X.,《马尔可夫抽样在线学习》,Anal。申请7(2009)87-113·Zbl 1170.68022号
[20] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B58(1996)267-288·Zbl 0850.62538号
[21] 吴琼,英英,周大喜,最小二乘正则回归学习率,发现。计算。数学6(2006)171-192·Zbl 1100.68100号
[22] Wu,Q.和Zhou,D.X.,用样本依赖假设空间学习,计算。数学。申请56(2008)2896-2907·Zbl 1165.68388号
[23] Yao,Y.、Rosasco,L.和Caponetto,A.,关于梯度下降学习中的早期停止,Constr。约26(2007)289-315·兹比尔1125.62035
[24] Zhang,T.,《核方法的Leave-on-out界限》,神经计算.15(2003)1397-1437·Zbl 1085.68144号
[25] Zhang,T.,带L1正则化的最小二乘回归的一些尖锐性能界限,《统计年鉴》37(2009)2109-2114·Zbl 1173.62029号
[26] Zhao,P.和Yu,B.,关于Lasso,J.Mach的模型选择一致性。学习。第7号决议(2006)2541-2563·Zbl 1222.62008年
[27] L.Zwald,《算法的性能统计与应用:核投影机器与原理分析》,巴黎南大学博士论文(2005)。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。