×

重标纯贪婪学习算法的最优性。 (英语) Zbl 1506.68101号

摘要:我们提出了重标度纯贪婪学习算法(RPGLA)来解决基于核的回归问题。RPGLA的计算复杂度小于正交贪婪学习算法(OGLA)和松弛贪婪学习算法。我们得到了连续核RPGLA的收敛速度。当核是无限光滑的时,在回归函数的温和假设下,我们导出了一个收敛速度,该收敛速度可以任意接近最佳速度\(O(m^{-1})\)。

MSC公司:

68T05型 人工智能中的学习和自适应系统
46号30 泛函分析在概率论和统计学中的应用
62J02型 一般非线性回归
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Barron,A.R.,Cohen,A.,Dahmen,W.和DeVore,R.A.,贪婪算法的近似和学习,《统计年鉴》36(1)(2008)64-94·Zbl 1138.62019号
[2] Berry,M.V.和Lewis,Z.V.,《关于Weierstrass-Mandelbrot分形函数》,Proc。罗伊。Soc.伦敦。序列号。A370(1743)(1980)459-484·Zbl 0435.28008号
[3] Chen,S.和Chen,N.,通过多项式核的原子范数正则化学习,《国际小波多分辨率》。《信息处理》13(05)(2015)1550035·Zbl 1343.68192号
[4] Chen,C.和Chen,N.,固定设计高斯回归的惩罚经验松弛贪婪算法,国际小波多分辨率。Inf.过程14(04)(2016)1650019·Zbl 1346.62067号
[5] 陈浩,李立清,潘志斌,用正交贪婪算法进行多核回归的学习率,J.Statist。计划。推断143(2013)276-282·Zbl 1254.62085号
[6] Chen,H.,Zhou,Y.C.,Tang,Y.Y.,Li,L.Q.和Pan,Z.B.,半监督贪婪算法的收敛速度,神经网络44(2013)44-50·Zbl 1296.68123号
[7] DeVore,R.A.和Temlyakov,V.N.,《贪婪算法的一些评论》,高级计算。数学5(1)(1996)173-187·Zbl 0857.65016号
[8] Donahue,M.J.,Darken,C.,Gurvits,L.和Sontag,E.,非希尔伯特空间中的凸逼近率,Constr。约13(2)(1997)187-220·Zbl 0876.41016号
[9] Dong,X.M.,Weng,H.,Shi,J.和Gu,Y.,回归稀疏约束正则化的随机多尺度核学习,国际小波多分辨率。Inf.过程17(06)(2019)195048·Zbl 1440.68206号
[10] Fang,J.,Lin,S.B.和Xu,Z.B.,正交超贪婪算法的学习和逼近能力,Knowl-基于。系统95(2016)86-98。
[11] Guariglia,E.,熵与分形天线,熵18(3)(2016)84。
[12] Guariglia,E.,Harmonic Sierpinski垫圈及其应用,Entropy20(9)(2018)714。
[13] Guariglia,E.,《素数、分形和图像分析》,Entropy21(3)(2019)304·Zbl 1459.26011号
[14] Guariglia,E.和Silvestrov,S.,(D^素数(mathcal{C})上正定分布和小波的分数小波分析,《工程数学II》(Springer International Publishing,2016),第337-353页·Zbl 1365.65294号
[15] Guo,Q.,Wang,C.和Ye,P.X.,基于系数的\(l^Q\)-具有不定核和无界采样的正则化回归,J.近似理论236(2018)1-22·兹比尔1398.68437
[16] Hoeffing,W.,有界随机变量和的概率不等式,J.Amer。统计师。协会58(1963)13-30·Zbl 0127.10602号
[17] Huber,P.J.,《投影追踪》,《统计年鉴》13(1985)435-475·Zbl 0595.62059号
[18] Jiang,B.和Ye,P.X.,弱重标度纯贪婪算法的效率,国际小波多分辨率。信息处理19(4)(2021)2150001·Zbl 1478.41010号
[19] Jiang,B.,Ye,P.X.和Zhang,W.H.,弱双正交贪婪算法的统一误差估计,国际小波多分辨率。Inf.过程20(4)(2022)2250010·Zbl 1517.41014号
[20] Lin,S.B.,Rong,Y.H.,Sun,X.P.和Xu,Z.B.,放松贪婪算法的学习能力,IEEE Trans。神经网络。学习。系统24(10)(2013)1598-1608。
[21] Petrova,G.,Hilbert和Banach空间的重标度纯贪婪算法,应用。计算。哈蒙。分析41(2016)852-866·Zbl 1350.41022号
[22] Shao,C.F.,Chang,J.C.,Ye,P.X.,Zhang,W.H.和Xing,S.,(mu)-相干字典正交超贪婪算法的几乎最优性,公理11(5)(2022)186。
[23] Shao,C.F.和Ye,P.X.,非相干字典正交超贪婪算法的几乎最优性,国际小波多分辨率。《Inf.Process.15(4)》(2017)1750029·Zbl 1369.41038号
[24] Shi,L.,基于系数的正则回归的学习理论估计,应用。计算。哈蒙。分析34(2)(2013)252-265·Zbl 1261.68096号
[25] Shi,L.,Feng,Y.L.和Zhou,D.X.,利用(L_1)正则化和数据依赖假设空间进行学习的浓度估计,应用。计算。哈蒙。分析31(2011)286-302·Zbl 1221.68201号
[26] Vapnik,V.,《统计学习理论》(John Wiley Sons,纽约,1998年)·Zbl 0935.62007号
[27] Wei,W.B.,Xu,Y.S.和Ye,P.X.,有限项非线性逼近的自适应算法,数学学报。Sin.23(9)(2007)1663-1672·Zbl 1126.41008号
[28] Wei,X.J.和Ye,P.X.,限制等距性质下正交超贪婪算法的效率,J.不等式。申请2019(1)(2019)124·Zbl 1504.94070号
[29] Wu,Q.,Ying,Y.M.和Zhou,D.X.,多核正则化分类器,《复杂性杂志》23(1)(2007)108-134·Zbl 1171.65043号
[30] Xiao,Q.W.和Zhou,D.X.,利用数据依赖空间和(l_1)正则化子的非对称核学习,台湾数学杂志.14(2010)1821-1836·兹比尔1221.68204
[31] Xu,Z.Q.,关于正交匹配追踪算法的评论,Adv.Adapt。数据分析4(4)(2012)1250026。
[32] Xu,L.,Lin,S.B.,Zeng,J.S.,Liu,X.,Fang,Y.和Xu,Z.B.,正交贪婪学习中的贪婪准则,IEEE Trans。Cybern.48(3)(2017)955-966。
[33] Yang,L.N.,Su,H.L.,Zhong,C.和Meng,Z.Q.,使用基于小波变换的平滑排序的高光谱图像分类,国际小波多分辨率。Inf.流程17(6)(2019)1950050·Zbl 1434.62140号
[34] Zheng,X.W.,Tang,Y.Y.和Zhou,J.T.,无向图上信号的自适应多尺度小波分解框架,IEEE。事务处理。信号处理。67(7)(2019)1696-1711·Zbl 1458.94160号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。