郭正楚;香、道红;郭欣;周定轩 稀疏近似的阈值谱算法。 (英语) Zbl 1409.68232号 分析。申请。,辛加普。 15,第3期,433-455(2017). 摘要:谱算法形成了一个通用框架,统一了学习理论中的许多正则化方案。本文提出并分析了一类基于经验特征设计的阈值谱算法。采用软阈值法实现稀疏逼近。我们的分析表明,在没有回归函数稀疏性假设的情况下,阈值谱算法的输出函数用经验特征表示,具有令人满意的稀疏性,收敛速度与文献中的经典谱算法相当。 引用于35文件 MSC公司: 68T05型 人工智能中的学习和自适应系统 41A25型 收敛速度,近似度 62G08号 非参数回归和分位数回归 关键词:学习理论;阈值谱算法;稀疏;学习率 PDF格式BibTeX公司 XML格式引用 \textit{Z.-C.Guo}等人,分析。申请。,辛加普。15,第3号,433--455(2017;Zbl 1409.68232) 全文: 内政部 参考文献: [1] Bauer,F.、Pereverzev,S.和Rosasco,L.,《学习理论中的正则化算法》,J.Complexity23(2007)52-72·Zbl 1109.68088号 [2] Blanchard,G.、Massart,P.、Vert,R.和Zwald,L.,《内核投影机器:模式识别的新工具》,摘自Proc。第17届国际会议《神经信息处理系统》(麻省理工学院出版社,剑桥,2004年),第1649-1656页。 [3] Caponetto,A.和DeVito,E.,正则化最小二乘算法的最佳速率,Found。公司。数学7(2007)331-368·Zbl 1129.68058号 [4] Caponetto,A.和Yao,Y.,《学习理论中基于交叉验证的正则化算子自适应》,Ana。应用8(2010)161-183·Zbl 1209.68405号 [5] Cucker,F.和Zhou,D.X.,《学习理论:近似理论观点》(剑桥大学出版社,剑桥,2007年)·Zbl 1274.41001号 [6] De Vito,E.、Caponetto,A.和Rosasco,L.,学习理论中正则化最小二乘算法的模型选择,Found。计算。数学5(2005)59-85·Zbl 1083.68106号 [7] De Vito,E.、Rosasco,L.、Caponnetto,A.、De Giovannini,U.和Odone,F.,《作为反问题的示例学习》,J.Mach。学习。第6号决议(2005)883-904·Zbl 1222.68180号 [8] L.H.Dicker、D.P.Foster和D.Hsu,《核岭与主成分回归:正则化算子的极小极大界和适应性》,预印本(2016);http://www.stat.rutgers.edu/home/ldicker/papers/kernels.pdf。 ·Zbl 1362.62087号 [9] Engl,H.W.,Hanke,M.和Neubauer,A.,《反问题的正则化》,第375卷(Kluwer学术出版社,Dordrecht,1996)·Zbl 0859.65054号 [10] Guo,X.,Fan,J.和Zhou,D.X.,基于经验特征的正则化方案的稀疏性和误差分析,J.Mach。学习。第17号决议(2016)1-34·Zbl 1367.68224号 [11] 郭振聪、林春霞、周德兴,分布式谱算法学习理论,逆问题,正在审查中的小修订(2016)。 [12] Guo,X.和Zhou,D.X.,一种产生稀疏近似的基于经验特征的学习算法,应用。计算。《谐波分析》32(2012)389-400·Zbl 1319.62119号 [13] 郭Z.C.和周D.X.,无界抽样学习的浓度估计,高级计算。数学38(2013)207-223·Zbl 1283.68289号 [14] Hu,T.,Fan,J.,Wu,Q.和Zhou,D.X.,最小误差熵原理的正则化方案,Ana。申请13(2015)437-455·Zbl 1329.68216号 [15] S.Lin、X.Guo和D.X.Zhou,《正则化最小二乘分布式学习》,提交给J.Mach。学习。正在审查的决议修订版(2016年)。 [16] Lo Gerfo,L.、Rosasco,L.,Odone,F.、De Vito,E.和Verri,A.,监督学习的谱算法,《神经计算》,20(2008)1873-1897·Zbl 1147.68643号 [17] Mendelson,S.和Neeman,J.,《内核学习中的正则化》,《Ann.Stat.38》(2010)526-565·Zbl 1191.68356号 [18] Smale,S.和Zhou,D.X.,通过积分算子及其近似值进行学习理论估计,Constr。约26(2007)153-172·Zbl 1127.68088号 [19] Smale,S.和Zhou,D.X.,《马尔可夫抽样在线学习》,Anal。申请7(2009)87-113·Zbl 1170.68022号 [20] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B58(1996)267-288·Zbl 0850.62538号 [21] 吴琼,英英,周大喜,最小二乘正则回归学习率,发现。计算。数学6(2006)171-192·Zbl 1100.68100号 [22] Wu,Q.和Zhou,D.X.,用样本依赖假设空间学习,计算。数学。申请56(2008)2896-2907·Zbl 1165.68388号 [23] Yao,Y.、Rosasco,L.和Caponetto,A.,关于梯度下降学习中的早期停止,Constr。约26(2007)289-315·兹比尔1125.62035 [24] Zhang,T.,《核方法的Leave-on-out界限》,神经计算.15(2003)1397-1437·Zbl 1085.68144号 [25] Zhang,T.,带L1正则化的最小二乘回归的一些尖锐性能界限,《统计年鉴》37(2009)2109-2114·Zbl 1173.62029号 [26] Zhao,P.和Yu,B.,关于Lasso,J.Mach的模型选择一致性。学习。第7号决议(2006)2541-2563·Zbl 1222.62008年 [27] L.Zwald,《算法的性能统计与应用:核投影机器与原理分析》,巴黎南大学博士论文(2005)。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。