×

与RRKHS相关的核正则在线回归的收敛性分析。 (英语) Zbl 07707974号

总结:众所周知,函数再生核希尔伯特空间(FRKHS)理论为利用核正则化学习学习非点值函数数据奠定了函数分析基础。在本文中,我们研究了与Radon再生核Hilbert空间(RRKHS)相关的回归学习的收敛性和参数化损失。我们提供了一种在线学习算法,并建立了学习率的上界,表明通过调整损失函数中的参数可以提高学习率。作为附带结论,我们提供了一种用傅里叶分析构造FRKHS的方法,对定义在([-\pi,\pi]^s)上的周期函数类定义了一些RRKHS;区间\([-1,1]\)上定义的函数;在\(R_+=[0,+\infty)\上定义的函数和在单位球面上定义的函数。

MSC公司:

68问题32 计算学习理论
90C25型 凸面编程
68T05型 人工智能中的学习和自适应系统
41A25型 收敛速度,近似度
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] N.Aronszajn,再生核理论,Trans。阿默尔。数学。Soc.,68,337-404(1950)·Zbl 0037.20701号 ·数字对象标识代码:10.2307/1990404
[2] B.Y.Bojanov Xu,从氡投影重建多项式,SIAM J.Math。分析。,37, 238-250 (2005) ·Zbl 1127.42011号 ·doi:10.1137/040616516
[3] A.M.Caponetto Bertero,有限投影集层析成像:奇异值分解和分辨率,反演。探针。,13, 1191-1205 (1997) ·Zbl 0886.65132号 ·doi:10.1088/0266-5611/13/5/006
[4] F.Dai和Y.Xu,球体的逼近理论与调和分析《施普林格数学专著》,施普林格-弗拉格出版社,纽约,2013年·兹比尔1275.42001
[5] Z.K.Ditzian Runovskii,与Laplacian相关的平均值和(K\)-泛函,J.近似定理。,97, 113-139 (1999) ·Zbl 0963.41010号 ·文件编号:10.1006/jath.1997.3262
[6] H.Groemer,傅里叶级数和球面谐波的几何应用(1996)·Zbl 0877.52002号 ·doi:10.1017/CBO9780511530005
[7] LYS Y.W.,L.Shi和Z.C.Guo,非规则在线学习算法的收敛性,J.马赫。学习。物件。,18(2018),33页·Zbl 1467.68226号
[8] 李胜,确定性球面散乱数据核正则回归的误差分析,数学。申请。,35, 172-179 (2022)
[9] J.H.Y.W.B.D.X.Lin Lei Zhang Zhou,具有凸损失函数的在线成对学习算法,Inform。科学。,406-407, 57-70 (2017) ·Zbl 1429.68230号 ·doi:10.1162/necoa_00817
[10] B.F.L.A.Logan Shepp,根据投影优化函数重建,杜克数学。J.,42,645-659(1975)·Zbl 0343.41020号
[11] S.Z.K.Y.Lu Wang,Bochner-Riesz Means(中文)(1988年)
[12] Pa welke,Ein satz vom Jacksonschen typ für代数多项式,科学学报。数学。(塞格德),33,323-336(1972)·Zbl 0243.41005号
[13] M.Pontil,Y.Ying和D.X.Zhou,再生核Hilbert空间中在线梯度下降算法的误差分析,程序。技术报告伦敦大学学院,2005,1-20。
[14] M.Y.D.X.Pontil Ying Zhou,在线算法的收敛器分析,技术报告,计算数学,27,273-291(2007)·Zbl 1129.68070号 ·doi:10.1007/s10444-005-9002-z
[15] Y.Qin,B.Zou和J.Zeng,等,在线正规化成对学习与非智能观察,国际小波多分辨率。Inf.流程。,20(2022),26页·Zbl 1524.68293号
[16] 朱圣华,带二次损失的半监督回归的收敛速度,应用。数学。计算。,321, 11-24 (2018) ·Zbl 1426.62140号 ·doi:10.1016/j.amc.2017.10.033
[17] 周斯梅尔,学习理论中近似误差的估计,《论语》。申请。,1, 17-41 (2003) ·Zbl 1079.68089号 ·doi:10.1142/S0219530503000089
[18] 沈文华,用球面平移网络逼近周期函数,数学学报。中国科学院(中文丛书),50,55-62(2007)·Zbl 1121.41302号
[19] B.H.Sheng,关于在加权(L^p)空间中再生核空间的逼近,J.Syst。科学。复杂。,20, 623-638 (2007) ·Zbl 1147.68072号 ·doi:10.1007/s11424-007-9061-y
[20] B.H.H.X.H.M.Liu Wang,带可微强凸损失的核正则回归的学习率,Commun。纯应用程序。分析。,19, 3973-4005 (2020) ·Zbl 1445.68193号 ·doi:10.3934/cpaa.202017年6月
[21] 王昌杰,《学习理论中的K函数论》,《论语》。申请。,18, 423-446 (2020) ·Zbl 1434.68452号 ·doi:10.1142/S0219530519500192
[22] I.Steinwart和A.Christmann,支持向量机施普林格-弗拉格出版社,2008年·Zbl 1203.68171号
[23] G.Szege,正交多项式,AMS,普罗维登斯,1939年。
[24] 王天生,贝塞尔函数RKHS逼近的一些上界,公理,11233(2022)
[25] K.Triméche,广义谐波分析与小波包,Gordon and Breach Science Publishers,新加坡,2001年·Zbl 0976.44009号
[26] S.H.Wang,带参数损失的在线学习算法的收敛性,数学,7,20066-20084(2022)
[27] S.H.Z.L.B.H.Wang Chen Sheng,带二次损失的在线两两回归学习的收敛性,Commun。纯应用程序。分析。,19, 4023-4054 (2020) ·Zbl 1445.68194号 ·doi:10.3934/cpaa.2020178
[28] R.Wang和Y.S.Xu,函数再生核Hilbert空间中的正则化,J.复杂性,66(2021),23页·Zbl 07390177号
[29] 王旭,非点赋值函数数据的函数再生核Hilbert空间,应用。计算。哈蒙。分析。,46, 569-623 (2019) ·兹比尔1423.46046 ·doi:10.1016/j.acha.2017.07.003
[30] K.Y.L.Q.Wang Li,单位球面上的调和分析与逼近(2000)·Zbl 1042.58005号 ·doi:10.431/CAG.2002.v10.n2.a5
[31] Y.M.D.X.Ying Zhou,具有一般损失函数的非规则在线学习算法,应用。计算。危害。分析。,42, 224-244 (2017) ·Zbl 1382.68204号 ·doi:10.1016/j.acha.2015.08.007
[32] 周应东,带核在线成对学习算法,神经计算。,28, 743-777 (2016) ·Zbl 1472.68221号 ·doi:10.1116/neco_a_00817
[33] Y.D.X.Ying Zhou,在线正则化分类算法,IEEE Trans。通知。理论。,11, 4775-4788 (2006) ·Zbl 1323.68450号 ·doi:10.1109/TIT.2006.883632
[34] 周德兴,学习理论中的密度问题和近似误差,文章摘要。申请。分析。,2013(2013),13页·Zbl 1470.68212号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。