半定规划学习:基于不动点分析和超额风险曲率的统计界

斯特凡·克雷蒂安(Stéphane Chrétien)、米哈·库库林戈(Mihai Cucuringu)、纪尧姆·勒库埃(Guillaume Lecué)、露西·奈拉克(Lucie Neirac)。

年份:2021年,数量:22,版本:230,页码:1-64


摘要

最近,许多统计学习问题被证明适用于半定义编程(SDP),其中最引人注目的例子是高斯混合模型中的社区检测和聚类Javanmard等人(2016)。考虑到基于SDP的技术在机器学习问题中的应用越来越广泛,以及解决SDP的高效算法设计的快速进展,一个有趣的问题是,如何利用经验过程理论和统计学习理论的最新进展对SDP估计量进行精确的统计分析。在本论文中,我们借鉴了学习理论文献中的前沿技术和概念,例如不动点方程和超额风险曲率参数,这些技术和概念为一类广泛的SDP估计量提供了一般估计和预测结果。从这个角度来看,我们重新审视了Guédon和Vershynin(2016)以及Fei和Chen(2019)在社区检测中的一些经典结果,并获得了用于符号聚类、角群同步(用于乘法和加法模型)和MAX-CUT的SDP估计量的统计保证。我们的理论发现得到了所考虑的三个问题中每一个问题的数值实验的补充,显示了SDP估计器的竞争力。

PDF格式 BibTeX公司