开放式访问
2021年2月 基于近似消息传递的低秩矩阵估计
安德烈亚·蒙塔纳里,拉姆吉·文卡塔拉马南
安。统计师。 49(1): 321-345 (2021年2月)。 数字对象标识码:10.1214/20-AOS1958

摘要

考虑当低秩矩阵的条目受到高斯噪声干扰时估计低秩阵的问题,这种设置也称为“尖峰模型”或“变形随机矩阵”。如果尖峰条目的经验分布已知,利用这一知识的最优估计量可以大大优于简单的谱方法。最近的工作描述了贝叶斯最优估计在高维极限下的渐近准确性。在本文中,我们提出了一种实用的算法,可以在光谱阈值以上实现贝叶斯最优精度。统计物理中的一个大胆猜想假设,没有多项式时间算法在相同阈值下获得最佳误差(除非最佳估计值微不足道)。

我们的方法使用近似消息传递(AMP)和频谱初始化。AMP算法已被证明在各种统计估计任务中是成功的,并且能够通过状态演化进行精确的渐近分析。不幸的是,当算法在不稳定的不动点附近初始化时,状态演化是没有信息的,这在低秩矩阵估计问题中经常发生。我们对AMP进行了新的分析,该分析考虑了谱初始化,并建立在峰值随机矩阵模型中离群特征向量和整体之间的解耦基础上。

我们的主要定理是一般性的,适用范围超出了矩阵估计。然而,我们用它来推导噪声中秩一矩阵估计问题的详细预测。这个问题的特殊情况与两个非对称社区的网络社区检测问题密切相关。对于一般的秩一模型,我们证明了AMP可以用于构造置信区间和控制错误发现率。

我们通过考虑稀疏低秩矩阵和具有对称块的块常数低秩阵(我们称后者为“高斯块模型”)的情况来说明一般方法。

引用

下载引文

安德烈亚·蒙塔纳里(Andrea Montanari)。 Ramji Venkataramanan。 “通过近似消息传递估计低秩矩阵。” 安。统计师。 49 (1) 321 - 345, 2021年2月。 https://doi.org/10.1214/20-AOS1958

问询处

收到日期:2018年5月1日;修订日期:2019年8月1日;发布日期:2021年2月
欧几里德项目首次推出:2021年1月29日

数字对象标识符:10.1214/20-AOS1958

学科:
主要:62小时99
次要:62E20型,2015年1月62日

关键词:近似消息传递,低秩矩阵估计,光谱初始化

版权所有©2021数学统计研究所

第49卷•第1期•2021年2月
返回页首