冯，奥利弗·Y。;兰吉·文卡塔拉马南;辛西娅·拉什;理查德·萨姆沃思。 关于近似消息传递的统一教程。 （英语） Zbl 1491.68152号 已找到。趋势马赫数。学习。 15，第4期，335-536（2022）. 摘要：在过去十年左右的时间里，近似消息传递（AMP）算法在各种结构化高维统计问题中非常流行。虽然这些技术的起源可以追溯到统计物理文献中的信念传播概念，但我们在这项工作中的目标是从统计角度介绍AMP的主要思想，并说明AMP框架的威力和灵活性，我们加强并统一了现有文献中的许多结果。 引用于7文件 理学硕士： 68T05型 人工智能中的学习和自适应系统 62B10型 信息理论主题的统计方面 94甲12 信号理论（表征、重建、滤波等） 62-02 与统计有关的研究展览（专著、调查文章） 68-02 与计算机科学有关的研究展览会（专著、调查文章） 94-02 与信息与传播理论相关的研究展览（专著、调查文章） 关键词：算法的设计与分析;信息论;随机算法;统计机器学习;统计信号处理：估计;回归，回归 软件：委员会机器 PDF格式BibTeX公司 XML格式引用 \textit{O.Y.Feng}等人，发现。趋势马赫数。学习。15，编号4，335-536（2022；兹bl 1491.68152） 全文： 内政部 arXiv公司 链接 参考文献： [1] Advani、M.S.、A.M.Saxe和H.Sompolinsky（2020年）。“神经网络泛化误差的高维动力学”。神经网络。132: 428-446. ·Zbl 1475.68258号 [2] Agresti，A.（2015）。线性和广义线性模型基础。新泽西州：威利·Zbl 1309.62001号 [3] Albert，A.和J.A.Anderson（1984年）。“关于logistic回归模型中最大似然估计的存在性”。生物特征。71: 1-10. ·兹伯利0543.62020 [4] Aliprantis，C.D.和O.Burkinshaw（1998年）。真实分析原理。第3版。圣地亚哥：学术出版社·兹比尔1006.2001 [5] Alon，N.、M.Krivelevich和B.Sudakov（1998年）。“在随机图中找到一个隐藏的大集团”。随机结构。算法。13: 457-466. ·Zbl 0959.05082号 [6] Anderson，G.、A.Guionnet和O.Zeitouni（2010年）。随机矩阵导论。剑桥：剑桥大学出版社·Zbl 1184.15023号 [7] Aubin，B.、B.Loureiro、A.Maillard、F.Krzakala和L.Zdeborová（2020年）。“具有生成性先验的尖峰矩阵模型”。IEEE传输。信息理论。67: 1156-1181. ·Zbl 1465.94020号 [8] Aubin，B.、A.Maillard、J.Barbier、F.Krzakala、N.Macris和L.Zdeborová（2019年）。“委员会机器：两层神经网络学习中计算到统计的差距”。《统计力学杂志》。理论实验124023·Zbl 1459.82248号 [9] Bai，Z.和J.Silverstein（2010年）。大维随机矩阵的谱分析。第2版。纽约：斯普林格·Zbl 1301.60002号 [10] Baik，J.、G.Ben Arous和S.Péché（2005）。“非零复样本协方差矩阵最大特征值的相变”。安·普罗巴伯。33: 1643-1697. ·Zbl 1086.15022号 [11] Baik，J.和J.W.Silverstein（2006年）。“峰值人口模型大样本协方差矩阵的特征值”。《多元分析杂志》。97: 1382-1408. ·Zbl 1220.15011号 [12] Bakhshizadeh，M.、A.Maleki和V.H.de la Pena（2020年）。“重尾分布的急剧集中结果”。网址：https://arxiv.org/pdf/2003.13819.pdf。 [13] Barata，J.C.A.和M.S.Hussein（2012年）。“Moore-Penrose pseu-doinverse：理论的教程回顾”。钎焊。《物理学杂志》。42: 146-165. [14] Barbier，J.、M.Dia、N.Macris、F.Krzakala、T.Lesieur和L.Zde-borová（2016）。“对称秩一矩阵估计的互信息：复制公式的证明”。神经信息处理系统的进展。29: 424-432. [15] Barbier，J.和F.Krzakala（2017年）。“近似消息传递解码器和实现稀疏叠加码的容量”。IEEE传输。Inf.理论。63: 4894-4927. ·Zbl 1372.94387号 [16] Barbier，J.、F.Krzakala、N.Macris、L.Miolane和L.Zdeborová（2019年）。“高维广义线性模型中的最佳误差和相变”。程序。国家。阿卡德。科学。美国116:5451-5460·Zbl 1416.62421号 [17] Barbier，J.、N.Macris和C.Rush（2020年）。“稀疏峰值矩阵估计中的全或无统计和计算相变”。网址：https://arxiv.org/pdf/2006.07971.pdf。 [18] Bartlett，P.L.、P.M.Long、G.Lugosi和A.Tsigler（2020年）。“线性回归中的良性过拟合”。程序。国家。阿卡德。科学。美国117：30063-30070·Zbl 1485.62085号 [19] Bayati，M.、M.Lelarge和A.Montanari（2015）。“多面体相变和消息传递算法的普遍性”。附录申请。普罗巴伯。25: 753-822. ·Zbl 1322.60207号 [20] Bayati，M.和A.Montanari（2011年）。“密集图形上消息传递的动态，以及压缩感知的应用”。IEEE传输。信息理论。57: 764-785. ·Zbl 1366.94079号 [21] Bayati，M.和A.Montanari（2012年）。“高斯矩阵的LASSO风险”。IEEE传输。信息理论。58: 1997-2017. ·Zbl 1365.62196号 [22] Beck，A.和M.Teboulle（2009年）。“线性反问题的快速迭代收缩阈值算法”。SIAM J.成像科学。2: 183-202. ·兹比尔1175.94009 [23] Belkin，M.、D.Hsu、S.Ma和S.Mandal（2019年）。“协调现代机器学习实践和经典偏差-方差权衡”。程序。国家。阿卡德。科学。美国116:15849-15854·兹比尔1433.68325 [24] Belkin，M.、D.Hsu和J.Xu（2020年）。“两种针对弱特征的双下降模型”。SIAM J.数学。数据科学。2: 1167-1180. ·Zbl 1484.62090号 [25] Bellec，P.C.、G.Lecué和A.B.Tsybakov（2018）。“SLOPE符合LASSO：改进了预言界和优化”。安。统计师。46: 3603-3642. ·Zbl 1405.62056号 [26] Benaych-Georges，F.和R.R.Nadakuditi（2011年）。“大型随机矩阵的有限低秩扰动的特征值和特征向量”。高级数学。227: 494-521. ·Zbl 1226.15023号 [27] Berthier，R.、A.Montanari和P.-M.Nguyen（2020年）。“具有不可分离功能的近似消息传递的状态演变”。信息推断。9: 33-79. ·Zbl 1470.94003号 [28] Blei，D.M.、A.Y.Ng和M.I.Jordan（2003年）。“潜在Dirichlet分配”。J.马赫。学习。决议3:993-1022·Zbl 1112.68379号 [29] Bogdan，M.、E.van den Berg、C.Sabatti、W.Su和E.Candès（2015）。“SLOPE-通过凸优化进行自适应变量选择”。附录申请。统计数据9:1103-1140·Zbl 1454.62212号 [30] Bolthausen，E.（2014）。“Sherrington-Kirkpatrick模型TAP方程解的迭代构造”。公共数学。物理学。325: 333-366. ·Zbl 1288.82038号 [31] Boucheron，S.、G.Lugosi和P.Massart（2013年）。集中不等式：独立性的非渐近理论。牛津：牛津大学出版社·Zbl 1279.60005号 [32] Boyd，S.、N.Parikh、E.Chu、B.Peleato和J.Eckstein（2011年）。“通过交替方向乘数法进行分布式优化和统计学习”。已找到。趋势马赫数。学习。3: 1-122. ·Zbl 1229.90122号 [33] Brown，L.D.和R.Purves（1973年）。“极值的可测量选择”。安。统计师。1: 902-912. ·Zbl 0265.28003号 [34] Bu，Z.、J.Klusowski、C.Rush和W.Su（2021）。“算法分析——通过近似消息传递对斜率进行统计估计”。IEEE传输。信息理论。67: 506-537. ·Zbl 1473.62238号 [35] Bühlmann，P.和S.van de Geer（2011）。高维数据统计：方法、理论和应用。柏林：斯普林格·Zbl 1273.62015年 [36] 乔·阿克马克，B.和M.奥珀（2019）。“具有随机耦合矩阵任意旋转不变系综的伊辛模型的Thouless-Anderson-Palmer方程的无记忆动力学”。物理学。版本E.99:062140。 [37] Candès，E.J.和B.Recht（2009年）。“通过凸优化精确完成矩阵”。已找到。计算。数学。9: 717-772. ·Zbl 1219.90124号 [38] Candès，E.J.和P.Sur（2020年）。“高维logistic回归中最大似然估计存在的相变”。安。统计师。48: 27-42. ·Zbl 1439.62171号 [39] Capitaine，M.、C.Donati-Martin和D.Féral（2009年）。“大型Wigner矩阵有限秩变形的最大特征值：涨落的收敛性和非均匀性”。安·普罗巴伯。37: 1-47. ·Zbl 1163.15026号 [40] Celentano，M.和A.Montanari（2022年）。“凸惩罚高维回归的基本障碍”。安。统计师。50: 170-196. ·Zbl 1486.62198号 [41] Celentano，M.、A.Montanari和Y.Wu（2020年）。“一般一阶方法的估计误差”。程序。机器。学习。第125号决议：1-64。 [42] Chen，W.-K.和W.-K Lam（2021年）。“近似消息传递算法的普遍性”。电子。J.概率。26: 1-44. ·兹比尔1483.60007 [43] Dar，Y.、V.Muthukumar和R.Baraniuk（2021年）。“告别偏差-方差权衡？超参数机器学习理论概述”。网址：https://arxiv.org/pdf/2109.02355.pdf。参考文献d’Ascoli，S.，M.Refinetti，G.Biroli和F.Krzakala（2020）。“双重血统中的双重麻烦：懒惰政权中的偏见和差异”。程序。机器。学习。第119:2280-2290号决议。 [44] Deng，Z.、A.Kammoun和C.Thrampoulidis（2019年）。“用于高维二元线性分类的双重下降模型”。网址：https://arxiv.org/pdf/1911.05822.pdf。 [45] Deshpande，Y.、E.Abbe和A.Montanari（2016年）。“平衡二元随机块模型的渐近互信息”。信息推断。6: 125-170. ·Zbl 1383.62021号 [46] Deshpande，Y.和A.Montanari（2014）。“信息理论上最优稀疏PCA”。2014年IEEE信息理论国际研讨会。2197-2201. [47] Deshpande，Y.和A.Montanari（2015）。“在几乎线性时间内发现大小为N/e的隐藏团”。已找到。计算。数学。15: 1069-1128. ·Zbl 1347.05227号 [48] Donoho，D.L.、A.Javanmard和A.Montanari（2013年）。“信息——通过空间耦合和近似信息传递实现理论上最优的压缩感知”。IEEE传输。信息理论。59: 7434-7464. ·Zbl 1364.94120号 [49] Donoho，D.L.和I.M.Johnstone（1994年）。“lq错误对lp球的最小风险”。探针。理论相关领域。99: 277-303. ·Zbl 0802.62006 [50] Donoho，D.L.和I.M.Johnstone（1998年）。“通过小波收缩进行Minimax估计”。安。统计师。26: 879-921. ·Zbl 0935.62041号 [51] Donoho，D.L.、A.Maleki和A.Montanari（2009年）。“压缩感知的消息传递算法”。程序。国家。阿卡德。科学。美国106:18914-18919。 [52] Donoho，D.和A.Montanari（2015）。“Huber（M）-估计的方差分解：n/p→M∈（1，∞）”。网址：https://arxiv.org/pdf/153.02106.pdf。 [53] Donoho，D.和A.Montanari（2016）。“高维稳健M估计：通过近似消息传递的渐近方差”。普罗巴伯。理论相关领域。166: 935-969. ·Zbl 1357.62220号 [54] Dudley，R.M.（2002）。真实分析和概率。第2版。剑桥：剑桥大学出版社·Zbl 1023.60001号 [55] Dümbgen，L.、R.J.Samworth和J.A.Wellner（2021年）。“通过密度比限制分布误差”。伯努利。27: 818-852. ·Zbl 1497.62054号 [56] Dümbgen，L.、R.Samworth和D.Schuhmacher（2011年）。“对数曲线分布的近似时间，及其在回归中的应用”。安。统计师。39: 702-730. ·Zbl 1216.62023号 [57] Efron，B.（2011年）。“Tweedie公式和选择偏差”。J.Amer。统计师。协会106:1602-1614·Zbl 1234.62007年 [58] El Alaoui，A.、A.Ramdas、F.Krzakala、Zdeborová和M.I.Jordan（2018年）。“从池数据解码：消息传递的阶段转换”。IEEE传输。信息理论。65: 572-585. ·Zbl 1431.94015号 [59] Emami，M.、M.Sahraee-Ardakan、P.Pandit、S.Rangan和A.K.Fletcher（2020年）。“高维广义线性模型的泛化误差”。程序。机器。学习。第119:2892-2901号决议。 [60] 范，Z。（2022）。“旋转不变矩阵的近似消息传递算法”。Ann.Statist公司。50: 197-224. ·Zbl 1486.94026号 [61] 费德勒·H（1996）。几何测量理论。纽约：施普林格出版社·Zbl 0874.49001号 [62] Féral，D.和S.Péché（2007）。“大型Wigner矩阵秩一变形的最大特征值”。公共数学。物理学。272: 185-228. ·Zbl 1136.82016年 [63] Fletcher，A.K.和S.Rangan（2014）。“钙成像对神经元连接的可缩放推断”。神经信息处理系统的进展。27: 2843-2851. [64] Fletcher、A.K.、S.Rangan和P.Schniter（2018年）。“高维度深度网络中的推理”。2018年IEEE信息理论国际研讨会。1884-1888. [65] Fourdrinier，D.、W.E.Strawderman和M.T.Wells（2018年）。收缩率估算。纽约：斯普林格·Zbl 1411.62011年 [66] Gataric，M.、T.Wang和R.J.Samworth（2020年）。“通过轴对齐随机投影进行稀疏主成分分析”。J.罗伊。统计师。Soc.，Ser.公司。B.82:329-359·Zbl 07554757号 [67] Geiger，M.、A.Jacot、S.Spigler、F.Gabriel、L.Sagun、S.d'Ascoli、G.Biroli、C.Hongler和M.Wyart（2019年）。“深度学习中泛化与参数数量的缩放描述”。网址：https://arxiv.org/pdf/1901.01608.pdf。 [68] Gerbelot，C.、A.Abbara和F.Krzakala（2020a）。“高斯矩阵以外凸惩罚线性回归的渐近误差”。程序。机器。学习。第125号决议：1682-1713。 [69] Gerbelot，C.、A.Abbara和F.Krzakala（2020b）。“师生凸广义线性模型的渐近误差（或：如何证明Kabashima的复制公式）”。网址：https://arxiv.org/pdf/2006.06581.pdf。 [70] Gordon，L.（1994）。“伽马函数的随机方法”。美国数学。周一。101: 858-865. ·Zbl 0823.33001号 [71] Guo，D.和S.Verdú（2005）。“随机扩展CDMA：通过统计物理的渐近”。IEEE传输。信息理论。51: 1983-2010. ·Zbl 1309.94005号 [72] 韩强（2022）。“凸约束下的噪声线性反问题：高维精确风险渐近性”。网址：https://arxiv.org/pdf/2201.08435.pdf。 [73] Hastie，T.、A.Montanari、S.Rosset和R.J.Tibshirani（2022年）。“高维无脊最小二乘插值中的超投影”。安。统计师。50: 949-986. ·Zbl 1486.62202号 [74] Hopkins，S.B.，J.Shi和D.Steurer（2015）。“通过平方和证明进行张量主成分分析”。程序。机器。学习。第40:956-1006号决议。 [75] Hsu，P.L.和H.Robbins（1947）。“完全收敛和大数定律”。程序。国家。阿卡德。科学。美国33:25-31·Zbl 0030.20101号 [76] Huber，P.J.（1964年）。“位置参数的稳健估计”。安。数学。统计师。35: 73-101. ·Zbl 0136.39805号 [77] Huber，P.J.（1973）。“稳健回归：渐近、猜想和蒙特卡罗”。安。统计师。1: 799-821. ·Zbl 0289.62033号 [78] Huber，P.J.和E.Ronchetti（2009年）。稳健统计。第2版。纽约：Wiley·Zbl 1276.62022号 [79] Javanmard，A.和A.Montanari（2013年）。“一般近似消息传递算法的状态演化，以及空间耦合应用”。信息推断。2: 115-144. ·Zbl 1335.94015号 [80] Jeon，C.、R.Ghods、A.Maleki和C.Studer（2015）。“通过近似消息传递进行大型MIMO检测的最佳性”。2015年IEEE信息理论国际研讨会。1227-1231. [81] Johnstone，I.M.（2006）。“高维统计推断和随机矩阵”。摘自：2006年马德里国际数学家大会会议记录。307-333. ·Zbl 1120.62033号 [82] Johnstone，I.M.和A.Y.Lu（2009年）。“关于高维主成分分析的一致性和稀疏性”。J.Amer。统计师。协会104:682-693·Zbl 1388.62174号 [83] Johnstone，I.M.和D.Paul（2018年）。“高维度PCA：一种方向”。程序。电气与电子工程师协会。106: 1277-1292. [84] Jolliffe，I.T.、N.T.Trendafilov和M.Uddin（2003年）。“基于LASSO的改进主成分技术”。J.计算。图表。统计师。12: 531-547. [85] Kabashima，Y.、F.Krzakala、M.Mézard、A.Sakata和L.Zdeborová（2016）。“贝叶斯最优矩阵分解中的相变和样本复杂性”。IEEE传输。信息理论。62: 4228-4265. ·Zbl 1359.94109号 [86] Kabashima，Y.和M.Vehkaperä（2014）。“使用线性观测的实验一致性近似进行信号恢复”。2014年IEEE信息理论国际研讨会。226-230. [87] Kallenberg，O.（1997）。现代概率基础。纽约：Springer-Verlag·Zbl 0892.60001号 [88] Kini，G.R.和C.Thrampoulidis（2020年）。“二进制分类中双重下降的分析研究：损失的影响”。2020年IEEE信息理论国际研讨会。2527-2532. [89] Knowles，A.和J.Yin（2013年）。“各向同性半圆定律与Wigner矩阵的变形”。普通纯应用程序。数学。66: 1663-1749. ·Zbl 1290.60004号 [90] Koller，D.和N.Friedman（2009年）。概率图形模型：原理和技术。马萨诸塞州剑桥：麻省理工学院出版社·兹比尔1183.68483 [91] Krzakala，F.、M.Mézard、F.Sausset、Y.Sun和L.Zdeborová（2012）。“压缩感知中的概率重建：算法、相图和阈值实现矩阵”。《统计力学杂志》。理论实验P08009。 [92] Kuchibhotla，A.和A.Chakrabortty（2018年）。“超越高维统计中的亚高斯性：协方差估计和线性回归的应用”。网址：https://arxiv。org/pdf/1804.02605.pdf。 [93] Lelarge，M.和L.Miolane（2019年）。“对称低秩矩阵估计的基本极限”。普罗巴伯。理论相关领域。173: 859-929. ·Zbl 1411.60014号 [94] Lesieur，T.、F.Krzakala和L.Zdeborová（2017年）。“约束低秩矩阵估计：相位转换、近似信息传递和应用”。《统计力学杂志》。理论实验073403·Zbl 1462.62324号 [95] Li，Y.和Y.Wei（2021）。“最小1范数插值：精确渐近和多重下降”。网址：https://arxiv.org/pdf/2110.09502.pdf。 [96] Liang，T.和A.Rakhlin（2020年）。只需插补：内核“无脊”回归可以推广。安。统计师。48: 1329-1347. ·Zbl 1453.68155号 [97] Liang，T.和P.Sur（2022年）。“用于boosting和最小1范数插值分类器的精确高维渐近理论”。安。统计师。出现·Zbl 1490.68188号 [98] Liu，L.、S.Huang和B.M.Kurkoski（2021年）。“内存近似消息传递”。2021年IEEE国际信息形成理论研讨会。1379-1384. [99] Ma，J.和L.Ping（2017）。“正交AMP”。IEEE接入。5: 2020-2033. [100] Ma，J.、J.Xu和A.Maleki（2019a）。“用于相位恢复的基于优化的AMP：初始化和2次正则化的影响”。IEEE传输。Inf.理论。65: 3600-3629. ·Zbl 1432.94032号 [101] Ma，J.、J.Xu和A.Maleki（2021年）。“广义线性模型中传感频谱对信号恢复的影响”。网址：https://arxiv.org/pdf/2111.03237.pdf。 [102] Ma，Y.，C.Rush和D.Baron（2019b）。“用不可分离的去噪器和马尔可夫随机场先验分析近似信息传递”。IEEE传输。信息理论。65: 7367-7389. ·兹比尔1433.94009 [103] Ma，Z.和Y.Wu（2015）。“最小极大子矩阵检测中的计算障碍”。安。统计师。43: 1089-1116. ·Zbl 1328.62354号 [104] Manoel，A.、F.Krzakala、M.Mézard和L.Zdeborová（2017年）。“多层广义线性估计”。2017年IEEE信息理论国际研讨会。2098-2102. [105] Matsushita，R.和T.Tanaka（2013年）。“通过近似消息传递进行低秩矩阵重构和聚类”。神经信息处理系统的进展。26: 917-925. [106] McCullagh，P.和J.A.Nelder（1989年）。广义线性模型。第2版。博卡拉顿：查普曼和霍尔/CRC·Zbl 0744.62098号 [107] Mehta，M.L.（2004）。随机矩阵。第3版。圣地亚哥：爱思唯尔·兹伯利1107.15019 [108] Mei，S.和A.Montanari（2020）。“随机特征回归的泛化误差：精确渐近和双下降曲线”。普通纯应用程序。数学。75: 667-766. ·Zbl 07513415号 [109] Metzler，C.、A.Mousavi和R.Baraniuk（2017年）。“学习型D-AMP:基于原理神经网络的压缩图像恢复”。神经信息处理系统进展。30: 1772-1783. [110] Mézard，M.和M.Montanari（2009年）。信息、物理和通信。牛津：牛津大学出版社·Zbl 1163.94001号 [111] Mézard，M.、G.Parisi和M.A.Virasoro（1987年）。旋转玻璃理论及其他。第9卷。世界科学物理讲稿·Zbl 0992.82500号 [112] Miolane，L.和A.Montanari（2021年）。“套索的分布：对稀疏球的统一控制和自适应参数调整”。安。统计师。49: 2313-2335. ·Zbl 1480.62145号 [113] Mondelli，M.、C.Thrampoulidis和R.Venkataramanan（2021年）。“广义线性模型的线性和谱估计的运算时间组合”。已找到。计算。数学。2021 [114] Mondelli，M.和R.Venkataramanan（2020年）。“广义线性模型谱初始化的近似消息传递”。程序。机器。学习。第130号决议：397-405。 [115] Mondelli，M.和R.Venkataramanan（2021年）。“旋转不变模型中近似消息传递的PCA初始化”。网址：https://arxiv.org/pdf/2106.02356.pdf。 [116] Montanari，A.（2012）。“压缩感知中的图形模型概念”。压缩传感：理论与应用。编辑：Y.Eldar和G.Kutyniok。剑桥：剑桥大学出版社。 [117] Montanari，A.和E.Richard（2014）。“张量PCA的统计模型”。神经信息处理系统的进展。27: 2897-2905. [118] Montanari，A.和E.Richard（2016）。“非负主成分分析：消息传递算法和尖锐渐近”。IEEE传输。Inf.理论。62: 1458-1484. ·Zbl 1359.62224号 [119] Montanari，A.和R.Venkataramanan（2021年）。“通过近似消息传递估计低秩矩阵”。Ann.Statist公司。49: 321-345. ·Zbl 1461.62070号 [120] Mousavi，A.、A.Maleki和R.G.Baraniuk（2018年）。“LASSO和近似消息传递的一致参数估计”。安。统计师。46: 119-148. ·Zbl 1401.62116号 [121] Nakkiran，P.、G.Kaplun、Y.Bansal、T.Yang、B.Barak和I.Sutskever（2021年）。“深度双重下降：更大的模型和更多数据带来的伤害”。《统计力学杂志》。理论实验124003·兹伯利07451713 [122] Opper，M.、B.Jo akmak和O.Winther（2016年）。“用一般不变随机矩阵求解伊辛模型的TAP方程的理论”。《物理学杂志》。答49:114002·Zbl 1342.82042号 [123] Opper，M.和O.Winther（2005年）。“期望一致的近似推断”。J.马赫。学习。决议6:2177-2204·Zbl 1222.68278号 [124] 佩斯，L.和A.Salvan（1997）。统计推断原理：从新费希尔的角度。新加坡：世界科学·Zbl 0911.62003号 [125] Panaretos，V.M.和Y.Zemel（2020年）。Wasserstein空间统计邀请函。纽约：Springer-Verlag·Zbl 1433.62010年 [126] Pandit，P.、M.Sahraee-Ardakan、S.Rangan、P.Schniter和A.K.Fletcher（2020年）。“在高维度中具有深层生成性先验的推理”。IEEE J.选择。区域信息理论。1: 336-347. [127] Parikh，N.和S.Boyd（2013年）。“近似算法”。已找到。趋势优化。1: 123-231. [128] Parker，J.T.、P.Schniter和V.Cevher（2014a）。“双线性广义近似消息传递第一部分：推导”。IEEE传输。信号处理。62: 5839-5853. ·Zbl 1394.94447号 [129] Parker，J.T.、P.Schniter和V.Cevher（2014b）。“双线性广义近似消息传递——第二部分：应用”。IEEE传输。信号处理。62: 5854-5867. ·Zbl 1394.94448号 [130] Paul，D.（2007年）。“大维峰值协方差模型样本特征结构的渐近性”。统计师。西尼卡。17: 1617-1642. ·Zbl 1134.62029号 [131] 彭先生（2012）。“变形随机矩阵的特征值”。网址：https://arxiv.org/pdf/1205.0572.pdf。 [132] Perry，A.、A.S.Wein、A.S.Bandeira和A.Moitra（2018年）。“PCA I的最优性和次最优性：尖峰随机矩阵模型”。安。统计师。46: 2416-2451. ·Zbl 1404.62065号 [133] Portnoy，S.（1984）。“当p 2/n较大时，p回归参数的M-估计的渐近行为。I.一致性”。安。统计师。12: 1298-1309. ·Zbl 0584.62050号 [134] Portnoy，S.（1985）。“当p 2/n较大时，p回归参数的M-估计量的渐近行为；II.正态近似”。安。统计师。13: 1403-1417. ·Zbl 0601.62026号 [135] Portnoy，S.（1988）。“当参数数量趋于无穷大时，指数族的似然方法的渐近行为”。安。统计师。16: 356-366. ·兹比尔0637.62026 [136] Prékopa，A.（1980）。“对数凹度量和相关主题”。收录于：《随机编程》（牛津大学国际编辑，牛津大学，1974年，M.A.H.Dempster主编）伦敦：学术出版社。63-82. ·兹比尔0459.90056 [137] Rangan，S.（2011）。“随机线性混合估计的广义近似消息传递”。2011年IEEE信息理论国际研讨会。2168-2172. [138] Rangan，S.和A.K.Fletcher（2012年）。“噪声中约束秩一矩阵的迭代估计”。2012年IEEE信息理论国际研讨会。1246-1250. [139] Rangan，S.和A.K.Fletcher（2018年）。“噪声中秩一矩阵的迭代重建”。Inf.推断。7: 1246-1250. [140] Rangan，S.、A.K.Fletcher和V.K.Goyal（2009年）。“通过复制方法对MAP估计的渐近分析以及在压缩感知中的应用”。神经信息处理系统的进展。22: 1545-1553. [141] Rangan，S.、P.Schniter和A.K.Fletcher（2019b）。“矢量近似消息传递”。IEEE传输。信息理论。65: 6664-6684. ·Zbl 1432.94036号 [142] Rangan，S.、P.Schniter、A.K.Fletcher和S.Sarkar（2019a）。“关于用任意矩阵传递近似消息的收敛性”。IEEE传输。信息理论。65: 5339-5351. ·Zbl 1432.94037号 [143] Rangan，S.、P.Schniter、E.Riegler、A.K.Fletcher和V.Cevher（2016）。“使用任意矩阵传递广义近似消息的不动点”。IEEE传输。信息理论。62: 7464-7474. ·Zbl 1359.94158号 [144] Reeves，G.和H.D.Pfister（2019年）。“高斯矩阵随机线性估计的复制对称预测是精确的”。IEEE传输。信息理论。65: 2252-2283. ·Zbl 1431.94021号 [145] Robbins，H.（1956年）。“统计学的经验贝叶斯方法”。程序。伯克利第三交响乐团。数学。统计师。探针。1: 157-163. ·Zbl 0074.35302号 [146] Rockafellar，R.T.（1997）。凸分析。普林斯顿：普林斯顿大学出版社·Zbl 0932.90001号 [147] Rush，C.、A.Greig和R.Venkataramanan（2017年）。“通过近似消息传递解码实现稀疏叠加码的容量”。IEEE传输。信息理论。63: 1476-1500. ·兹比尔1366.94609 [148] Rush，C.和R.Venkataramanan（2018年）。“近似消息传递算法的有限样本分析”。IEEE传输。信息理论。64: 7264-7286. ·Zbl 1432.62017年 [149] Schniter，P.（2011）。“未知集群稀疏信道上BICM-OFDM的消息传递接收器”。IEEE J.选择。顶部。信号处理。5: 1462-1474. [150] Schniter，P.（2020年）。“AMP的简单推导及其通过一阶相消的状态演化”。IEEE传输。信号处理。68: 4283-4292. ·Zbl 07591035号 [151] Schniter，P.和S.Rangan（2014）。“通过广义近似消息传递进行压缩相位恢复”。IEEE传输。信号处理。63: 1043-1055. ·Zbl 1394.94506号 [152] Schniter，P.、S.Rangan和A.K.Fletcher（2016）。“广义线性模型的矢量近似信息传递”。参加：第50届信号、系统和计算机Asilomar会议。1525-1529. [153] Serfling，R.J.（1980）。数理统计的近似定理。纽约：Wiley·Zbl 0538.62002号 [154] Su，W.、M.Bogdan和E.Candès（2017年）。“LASSO路径上的错误发现很早就出现了”。安。统计师。45: 2133-2150. ·Zbl 1459.62142号 [155] Su，W.和E.Candès（2016）。“SLOPE适应未知稀疏性和渐近极小”。安。统计师。44: 1038-1068. ·Zbl 1338.62032号 [156] Su，X.和T.M.Khoshgoftaar（2009年）。“协作过滤技术调查”。高级Artif。智慧。2009: 1-19. [157] Sur，P.和E.J.Candès（2019a）。“高维逻辑回归的现代极大似然理论”。程序。国家。阿卡德。科学。美国116:14516-14525·Zbl 1431.62084号 [158] Sur，P.和E.J.Candès（2019b）。“《现代高维逻辑回归极大似然理论》的补充材料”。网址：https://sites.fas.harvard.edu网站/prs499/papers/proofs_LogisticAMP.pdf。 [159] Sur、P.、Y.Chen和E.J.Candès（2017年）。“高维logistic回归中的似然比检验是一个逐步重标的X平方”。普罗巴伯。理论相关领域。175: 487-558. ·Zbl 1431.62319号 [160] Takeuchi，K.（2021a）。“贝叶斯最优卷积AMP”。IEEE传输。信息理论。67: 4405-4428. ·Zbl 1475.94045号 [161] Takeuchi，K.（2021b）。“关于正交/矢量AMP的收敛性：长记忆消息传递策略”。网址：https://arxiv.org/pdf/2111.05522.pdf。 [162] Takeuchi，K.（2020）。“单位不变测量中基于期望传播的信号恢复的严格动力学”。IEEE传输。信息理论。66: 368-386. ·Zbl 1433.94031号 [163] 塔拉格兰德，M.（2011）。自旋玻璃的平均场模型，第一卷：基本示例。纽约：斯普林格·Zbl 1214.82002号 [164] Tanaka，T.（2002）。“CDMA多用户检测器大系统分析的统计力学方法”。IEEE传输。信息理论。48: 2888-2910. ·Zbl 1062.94527号 [165] Thrampoulidis，C.、E.Abbasi和B.Hassibi（2018年）。“高维正则化M-估计量的精确误差分析”。IEEE传输。信息理论。64: 5592-5628. ·Zbl 1401.94051号 [166] Thrampoulidis，C.、S.Oymak和B.Hassibi（2015年）。“正则线性回归：估计误差的精确分析”。程序。机器。学习。决议40:1683-1709。 [167] 田凤、刘立群和X.Chen（2021）。“广义内存近似消息传递”。网址：https://arxiv.org/pdf/2110.06069.pdf。 [168] Tibshirani，R.（1996）。“通过拉索回归收缩和选择”。J.罗伊。统计师。Soc.，Ser.公司。B.58:267-288页·Zbl 0850.62538号 [169] Tramel，E.W.、S.Kumar、A.Giurgiu和A.Montanari（2014年）。“统计估计：从去噪到稀疏回归和隐藏团”。网址：https://arxiv.org/pdf/1409.5557.pdf。 [170] Tsybakov，A.B.（2009年）。非参数估计简介。纽约：Springer-Verlag。参考van der Vaart，A.W.（1998）。渐进统计。剑桥：剑桥大学出版社。 [171] Venkataramanan，R.、K.Kögler和M.Mondelli（2021年）。“通过近似消息传递在旋转不变广义线性模型中进行估计”。网址：https://arxiv.org/pdf/2112.04330.pdf。 [172] Vila，J.、P.Schniter和J.Meola（2015）。“通过turbo双线性近似信息传递实现高光谱解混”。IEEE传输。计算。成像。1: 143-158. [173] 维拉尼，C.（2003年）。最佳运输主题。数学研究生课程。普罗维登斯，RI：美国数学学会·Zbl 1106.90001号 [174] Villani，C.（2009年）。新旧运输最佳。纽约：Springer-Verlag·Zbl 1156.53003号 [175] von Luxburg，U.（2007年）。“光谱聚类教程”。统计师。计算。17: 395-416. [176] Vu，V.Q.和J.Lei（2013）。“高维极小极大稀疏主子空间估计”。安。统计师。41: 2905-2947. ·Zbl 1288.62103号 [177] Wang，T.、Q.Berthet和R.J.Samworth（2016）。“稀疏主成分估计中的统计和交换权衡”。安。统计师。44: 1896-1930. ·Zbl 1349.62254号 [178] Wein，A.S.、A.El Alaoui和C.Moore（2019年）。“菊池层次和张量PCA”。2019年IEEE计算机科学基础年度研讨会。1446-1468. [179] Yang，G.（2019）。“具有权重分担的宽神经网络的缩放极限：高斯过程行为、梯度独立性和神经切线核推导”。网址：https://arxiv。org/pdf/1902.04760.pdf。 [180] Zdeborová，L.和F.Krzakala（2016年）。“推理的统计物理：阈值和算法”。高级物理。65: 453-552. [181] Zhong，X.，T.Wang和Z.Fan（2021）。“正交不变系综的近似信息传递：多元非线性和谱初始化”。网址：https://arxiv.org/pdf/2110.02318.pdf。 [182] Zhu、T.Wang和R.J.Samworth（2019年）。“具有异质缺失的高维主成分分析”。网址：https://arxiv.org/pdf/1906.12125.pdf。 [183] Zou，H.、T.Hastie和R.Tibshirani（2006年）。“稀疏主成分分析”。J.计算。图表。统计师。15: 265-286. 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。