超RKHS的推广性质及其应用
刘方辉、石磊、黄小林、杨杰、约翰·苏肯斯; 22(140):1−38, 2021.
摘要
本文推广了超重生成核Hilbert空间（hyper-RKHS）中的正则化回归问题，说明了其对核学习和样本外扩展的实用性，并从近似理论的角度证明了所引入回归模型的渐近收敛性结果。在算法上，我们考虑了该空间中两个具有二元形式的正则化回归模型，包括具有超RKHS的核脊回归（KRR）和支持向量回归（SVR），并进一步将分治与Nystr相结合{o} 米大样本情况下的可伸缩性近似值。这个框架是通用的：底层内核是从一个广泛的类中学习的，可以是正定的也可以是非正定的，这适应了内核学习的各种要求。理论上，我们研究了超RKHS中正则化回归算法的收敛行为，并推导出了学习速率，由于成对样本的非平凡独立性和超RKHS的特性，学习速率超出了RKS的经典分析。在多个基准上的实验结果表明，该框架能够从任意相似度矩阵中学习一般核函数，从而在分类任务中获得令人满意的性能。
[腹肌]
[pdf格式][围兜]
