统计>机器学习
标题: 关于有限矩损失泛化界的注记
摘要: 本文研究了Alquier[1]中的截断方法,导出了重尾无界损失的高概率PAC-Bayes界。 假设$p$-th矩是有界的,当$p=2$时,所得的界在慢速率$1/\sqrt{n}$和当$p\to-infty$和损失基本上是有界时,所得界在快速率$1/n$之间插值。 此外,本文还导出了方差有界损失的高概率PAC-Bayes。 与文献中以前的界限相比,这个界限对置信参数和依赖性度量的依赖性指数级地更好。 最后,本文将所有结果推广到期望保证和单支路PAC-Bayes。 为此,它从[2]中获得了这些设置中PAC-Bayes有界损耗的快速速率界限的类似物。