广义可加模型的快速自动平滑

Yousra El-Bachir,Anthony C.Davison。

年份:2019年,数量:20,版本:173,页码:1−27


摘要

广义可加模型(GAM)是一种回归模型,其中概率分布的参数通过平滑函数的总和取决于输入变量,平滑度由$L_2$正则化选择。当需要可解释性和灵活性时,此类模型已成为实际标准的非线性回归模型,但仍缺乏在大数据集中进行自动平滑的可靠和快速方法。我们使用经验贝叶斯方法开发了一种通用方法,用于自动学习GAM的$L_2$正则化的最佳程度。平滑函数受到超参数的惩罚,超参数通过使用近似期望最大化算法的边际似然最大化同时学习。后者涉及E步的双拉普拉斯近似,并导致有效的M步。实证分析表明,该算法在数值上是稳定的,比现有的最佳方法更快,并且达到了最先进的精度。为了举例说明,我们将其应用于极值数据分析中的一个重要且具有挑战性的问题。

PDF格式 BibTeX公司