×

学习理论中核方法的导数再生性质。 (英语) Zbl 1152.68049号

摘要:在学习理论的背景下,研究了再生核希尔伯特空间(RKHS)函数的正则性。当Mercer核为(C^{2s})时,我们为阶以下的偏导数提供了一个再生性质。对于一般域上的这样一个内核,我们证明了RKHS可以嵌入到函数空间中。这些观察结果为涉及函数值和梯度数据的正则化学习算法提供了一个更具代表性的定理。考虑了受数据梯度惩罚的Hermite学习和半监督学习的例子。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62J02型 一般非线性回归
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 安东尼,M。;Bartlett,P.L.,《神经网络学习:理论基础》(1999),剑桥大学出版社:剑桥大学出版社·Zbl 0968.68126号
[2] Aronszajn,N.,《再生核理论》,译。阿默尔。数学。Soc.,68,337-404(1950)·Zbl 0037.20701号
[3] 贝尔金,M。;Niyogi,P.,黎曼流形上的半监督学习,马赫。学习。,56, 209-239 (2004) ·Zbl 1089.68086号
[4] De Vito,E。;Caponnetto,A。;Rosasco,L.,学习理论中正则化最小二乘算法的模型选择,Found。计算。数学。,2005年5月59日至85日·Zbl 1083.68106号
[5] De Vito,E。;Rosasco,L。;Caponetto,A。;皮亚纳,M。;Verri,A.,正则核方法的一些性质,J.Mach。学习。第5号决议,1363-1390(2004)·Zbl 1222.68181号
[6] Evgeniou,T。;庞蒂尔,M。;Poggio,T.,正则化网络和支持向量机,高级计算。数学。,13, 1-50 (2000) ·Zbl 0939.68098号
[7] D.Hardin,I.Tsamardinos,C.F.Aliferis,基于SVM的线性特征选择的理论表征,第21届机器学习国际会议论文集,加拿大班夫,2004。;D.Hardin,I.Tsamardinos,C.F.Aliferis,基于SVM的线性特征选择的理论表征,第21届机器学习国际会议论文集,加拿大班夫,2004年。
[8] 穆克吉,S。;Niyogi,P。;Poggio,T。;Rifkin,R.,学习理论:稳定性对于泛化是足够的,对于经验风险最小化是必要和充分的,Adv.Comput。数学。,25, 161-193 (2006) ·Zbl 1099.68693号
[9] 穆克吉,S。;Wu,Q.,分类中梯度和坐标协变的估计,J.Mach。学习。第7号决议,2481-2514(2006)·Zbl 1222.62078号
[10] 沙巴克,R。;Werner,J.,核函数线性约束重构及其在机器学习中的应用,高级计算。数学。,25, 237-258 (2006) ·Zbl 1106.65008号
[11] 肖-泰勒,J。;Bartlett,P.L。;威廉姆森共和国。;Anthony,M.,《数据依赖层次结构的结构风险最小化》,IEEE Trans。通知。理论,441926-1940(1998)·Zbl 0935.68090号
[12] 斯梅尔,S。;周德兴,《学习理论中近似误差的估计》,《论语》。应用。,1, 17-41 (2003) ·Zbl 1079.68089号
[13] 斯梅尔,S。;周德兴,Shannon采样和基于点值的函数重建,Bull。阿默尔。数学。《社会学杂志》,41,279-305(2004)·兹比尔1107.94007
[14] 斯梅尔,S。;Zhou,D.X.,通过积分算子及其近似进行学习理论估计,Constr。约26153-172(2007)·Zbl 1127.68088号
[15] Wahba,G.,观测数据的样条模型,SIAM(1990),费城:宾夕法尼亚州费城·Zbl 0813.62001号
[16] 姚勇,《在线学习算法的复杂性问题》,IEEE Trans。通知。理论,出现。;姚勇,《在线学习算法的复杂性问题》,IEEE Trans。通知。理论,出现·Zbl 1368.68288号
[17] Ying,Y.,在线算法的收敛性分析,高级计算。数学。,27, 273-291 (2007) ·Zbl 1129.68070号
[18] 周德兴,《学习理论中的覆盖数》,《复杂性杂志》,第18期,第739-767页(2002年)·Zbl 1016.68044号
[19] 周德兴,学习理论中再生核空间的能力,IEEE Trans。通知。理论,491743-1752(2003)·Zbl 1290.62033号
[20] 周,D.X。;Jetter,K.,《多项式核近似与SVM分类器》,高级计算。数学。,25, 323-344 (2006) ·Zbl 1095.68103号
[21] Ziemer,W.P.,弱可微函数(1989),Springer:Springer纽约·Zbl 0177.08006号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。