具有实例相关先验的稳定算法的PAC-Bayes界

部分神经信息处理系统进展31（NeurIPS 2018）

作者

Omar Rivasplata、Emilio Parrado-Hernandez、John S.Shawe-Tylor、Shiliang Sun、Csaba Szepesvari

摘要

已提出PAC-Bayes界限，以根据训练样本进行风险估计。本文将PAC-Bayes方法与Hilbert空间值算法所学习假设的稳定性相结合。PAC-Bayes设置用于以预期输出为中心的高斯先验。因此，本文的一个新颖之处是使用根据数据生成分布定义的先验。我们的主要结果根据假设稳定性系数估计了随机算法的风险。我们还为SVM分类器提供了一个新的界，并将其与其他已知界进行了实验比较。我们的结果似乎是第一个评估为非平凡值的基于稳定性的统一假设界。