阿尔贝托·比埃蒂（Alberto Bietti）、朱利安·迈拉尔（Julien Mairal）。
年份：2019年，数量：20，版本：25，页码：1-49
摘要
深卷积结构的成功通常部分归功于其学习自然信号的多尺度和不变表示的能力。然而，对这些属性及其如何影响学习保证的精确研究仍然缺失。在本文中，我们考虑信号的深度卷积表示；我们研究了它们对平移和更一般的变换组的不变性，它们对微分同态作用的稳定性，以及它们保存信号信息的能力。该分析是通过引入基于卷积核网络的多层核，并通过研究核映射所诱导的几何来进行的。然后我们刻画了相应的再生核希尔伯特空间（RKHS），表明它包含一大类具有齐次激活函数的卷积神经网络。该分析允许我们将数据表示与学习分离，并提供模型复杂性的标准度量，即RKHS规范，该规范控制任何学习模型的稳定性和泛化。除了构建的RKHS中的模型外，我们的稳定性分析还适用于具有一般激活的卷积网络，例如校正的线性单元，并且我们讨论了其与基于谱范数的最近泛化界的关系。
PDF格式
BibTeX公司