×
范，周;梅，宋;安德烈亚·蒙塔纳里

TAP自由能，自旋玻璃和变分推断。 （英语） Zbl 1467.60025号

安·普罗巴伯。 49，编号1，1-45（2021）.
作者摘要：我们考虑了铁磁偏置耦合自旋玻璃的Sherrington-Kirkpatrick模型。对于耦合平均值的特定选择，得到的吉布斯测度等价于高维估计问题的贝叶斯后验{Z} 2个\)同步。”统计物理建议通过最小化所谓的Thouless-Anderson-Palmer（TAP）自由能，而不是平均场（MF）自由能来计算关于这个Gibbs测度（同步问题中的后验平均值）的期望。我们证明了这种识别是正确的，假设铁磁偏置大于一个常数（即同步时噪声水平足够小）。即，我们证明了TAP自由能的任何低能局部极小元与Gibbs测度平均值之间的标度距离在大尺寸极限中消失。我们的证明技术基于使用Kac-Rice公式的TAP自由能的预期临界点数量的上限。
审核人：爱德华·奥梅（布鲁塞尔）

引用于6文件

MSC公司：

60层10 大偏差
2015年1月62日 贝叶斯推断

关键词：

贝叶斯推断;TAP复杂性;Sherrington-Kirkpatrick模型;Kac-Rice配方奶粉;自由概率
PDF格式BibTeX公司 XML格式引用
\textit{Z.Fan}等人，Ann.Probab。49，编号1，1--45（2021；Zbl 1467.60025）
全文： 内政部 arXiv公司 欧几里得

参考文献：

[1] Adler，R.J.和Taylor，J.E.（2007）。随机域和几何体。施普林格数学专著。纽约州施普林格·Zbl 1149.60003号
[2] Alaoui，A.E.、Krzakala，F.和Jordan，M.I.（2017年）。尖峰Wigner模型中的有限尺寸修正和似然比波动。arXiv:1710.02903。
[3] Anderson，G.W.、Guionnet，A.和Zeitouni，O.（2010年）。随机矩阵导论。剑桥高等数学研究118。剑桥大学出版社，剑桥·Zbl 1184.15023号
[4] Andrieu，C.、De Freitas，N.、Doucet，A.和Jordan，M.I.（2003年）。机器学习MCMC简介。机器。学习。50 5-43. ·Zbl 1033.68081号 ·doi:10.1023/A：1020281327116
[5] Auffinger，A.（2011）。随机矩阵，自旋玻璃的复杂性和重尾过程。ProQuest LLC，密歇根州安阿伯。论文（博士）-纽约大学。
[6] Auffinger，A.和Ben Arous，G.（2013年）。高维球面上随机光滑函数的复杂性。安·普罗巴伯。41 4214-4247. ·Zbl 1288.15045号 ·doi:10.1214/13-AOP862
[7] Auffinger，A.、Ben Arous，G.和Cerní，J.（2013）。自旋玻璃的随机矩阵和复杂性。普通纯应用程序。数学。66 165-201. ·Zbl 1269.82066号 ·doi:10.1002/第21422页
[8] Auffinger，A.和Jagannath，A.（2019）。一般自旋玻璃的Thouless-Anderson-Palmer方程。安·普罗巴伯。47 2230-2256. ·Zbl 1426.82067号 ·doi:10.1214/18-AOP1307
[9] Baik，J.、Ben Arous，G.和Péché，S.（2005）。非零复样本协方差矩阵最大特征值的相变。安·普罗巴伯。33 1643-1697. ·Zbl 1086.15022号 ·doi:10.1214/00911790500000233
[10] Bansal，N.、Blum，A.和Chawla，S.（2004年）。相关聚类。马赫数。学习。56 89-113. ·Zbl 1089.68085号 ·doi:10.1023/B:MACH.0000033116.57574.95
[11] Barbier，J.和Macris，N.（2019年）。自适应插值方法：贝叶斯推理中证明副本公式的简单方案。普罗巴伯。理论相关领域174 1133-1185·Zbl 1478.60253号 ·doi:10.1007/s00440-018-0879-0
[12] Bayati，M.和Montanari，A.（2011年）。消息在密集图形上传递的动力学，以及压缩感知的应用。IEEE传输。信息论57 764-785·Zbl 1366.94079号 ·doi:10.1109/TIT.2010.2094817
[13] Ben Arous，G.、Mei，S.、Montanari，A.和Nica，M.（2019年）。尖峰张量模型的前景。普通纯应用程序。数学。72 2282-2330. ·兹比尔1434.62078 ·doi:10.1002/cpa.21861
[14] Biane，P.（1997）。关于半圆形分布的自由卷积。印第安纳大学数学。期刊46 705-718·兹比尔0904.46045 ·doi:10.1512/iumj.1997.46.1467
[15] Blei，D.M.（2012）。概率主题模型。Commun公司。ACM 55 77-84。
[16] Blei，D.M.、Kucukelbir，A.和McAuliffe，J.D.（2017）。变分推理：统计学家评论。J.Amer。统计师。协会112 859-877。
[17] Bolthausen，E.（2014）。Sherrington-Kirkpatrick模型TAP方程解的迭代构造。公共数学。物理学。325 333-366. ·Zbl 1288.82038号 ·文件编号：10.1007/s00220-013-1862-3
[18] Boucheron，S.、Lugosi，G.和Massart，P.（2013）。集中不等式：一个非渐近独立理论。牛津大学出版社，牛津。米歇尔·勒杜（Michel Ledoux）的前言·Zbl 1279.60005号
[19] Bray，A.J.和Moore，M.A.（1980年）。自旋玻璃中的亚稳态。《物理学杂志》。C、 固态物理。13 L469。
[20] Bray，A.J.、Moore，M.A.和Young，A.P.（1984年）。TAP解决方案和Parisi q（x）的加权平均值。《物理学杂志》。C、 固态物理。17 L155。
[21] Brown，L.D.和Purves，R.（1973）。极值的可测量选择。Ann.Statist公司。1 902-912. ·Zbl 0265.28003号 ·doi:10.1214/aos/1176342510
[22] Capitaine，M.、Donati-Martin，C.、Féral，D.和Février，M.（2011）。Wigner矩阵的半圆形分布和尖峰变形特征值的自由卷积。电子。J.概率。16 1750-1792. ·Zbl 1245.15037号
[23] Cavagna，A.、Giardin，I.、Parisi，G.和Mézard，M.（2003）。关于SK模型中TAP和热力学方法的形式等价性。《物理学杂志》。A 36 1175-1194年·兹比尔1066.82023 ·doi:10.1088/0305-4470/36/5/301
[24] Chatterjee，S.（2010年）。旋转眼镜和Stein的方法。普罗巴伯。理论相关领域148 567-600·兹比尔1209.82016 ·doi:10.1007/s00440-009-0240-8
[25] Chen，W.-K.和Panchenko，D.（2018年）。关于混合自旋模型中的TAP自由能。公共数学。物理学。362 219-252. ·Zbl 1397.82012年 ·doi:10.1007/s00220-018-3143-7
[26] Crisanti，A.、Leuzzi，L.、Parisi，G.和Rizzo，T.（2003）。退火近似下Sherrington-Kirkpatrick模型的复杂性。物理学。版次B 68 174401。
[27] Crisanti，A.、Leuzzi，L.、Parisi，G.和Rizzo，T.（2004）。旋转类复杂性。物理学。修订稿。92 127203.
[28] Crisanti，A.、Leuzzi，L.和Rizzo，T.（2005）。平均场自旋类模型的复杂性：伊辛p-spin。物理学。版次B 71 094202。
[29] Davidson，K.R.和Szarek，S.J.（2001）。局部算子理论、随机矩阵和Banach空间。《巴拿赫空间几何手册》，第131卷·Zbl 1067.46008号
[30] De Dominicis，C.和Young，A.P.（1983年）。无限范围伊辛自旋玻璃的加权平均值和顺序参数。《物理学杂志》。甲16 2063-2075。
[31] Dembo，A.和Zeitouni，O.（2010年）。大偏差技术和应用。随机建模和应用概率38。柏林施普林格。修正了第二版（1998年）的重印·Zbl 1177.60035号
[32] Deshpande，Y.、Abbe，E.和Montanari，A.（2017年）。平衡二元随机块模型的渐近互信息。Inf.推理6 125-170·Zbl 1383.62021号
[33] Dia，M.，Macris，N.，Krzakala，F.，Lesieur，T.，Zdeborová，L.等人（2016年）。对称秩一矩阵估计的互信息：副本公式的证明。神经信息处理系统进展424-432。
[34] Diaconis，P.（2009）。马尔可夫链蒙特卡罗革命。牛市。阿默尔。数学。社会（N.S.）46 179-205·Zbl 1168.60032号 ·doi:10.1090/S0273-0979-08-01238-X
[35] Füredi，Z.和Komlós，J.（1981）。随机对称矩阵的特征值。组合数学1 233-241·Zbl 0494.15010号
[36] Fyodorov，Y.V.（2004）。随机能量景观的复杂性、玻璃化转变和随机矩阵谱行列式的绝对值。物理学。修订稿。92 240601, 4. ·Zbl 1267.82055号
[37] Ghorbani，B.、Javadi，H.和Montanari，A.（2018年）。主题模型变分推理中的一种不稳定性。arXiv:1802.00568。
[38] Guerra，F.（2003）。平均场自旋玻璃模型中的破复型对称边界。公共数学。物理学。233 1-12. ·Zbl 1013.82023号 ·doi:10.1007/s00220-002-0773-5
[39] Holland，P.W.、Laskey，K.B.和Leinhardt，S.（1983年）。随机块模型：第一步。Soc.网络。5 109-137.
[40] Javanmard，A.、Montanari，A.和Ricci-Tersenghi，F.（2016）。半定弛豫中的相变。程序。国家。阿卡德。科学。美国113 E2218-E2223·Zbl 1359.62188号 ·doi:10.1073/pnas.1523097113
[41] Kirkpatrick，S.和Sherrington，D.（1978年）。自旋类的无限范围模型。物理学。版次B 17 4384。
[42] Koller，D.和Friedman，N.（2009年）。概率图形模型：原理和技术。自适应计算和机器学习。麻省理工学院出版社，马萨诸塞州剑桥·Zbl 1183.68483号
[43] Lelarge，M.和Miolane，L.（2019年）。对称低秩矩阵估计的基本极限。普罗巴伯。理论相关领域173 859-929·Zbl 1411.60014号 ·doi:10.1007/s00440-018-0845-x
[44] Levin，D.A.和Peres，Y.（2017年）。马尔可夫链和混合时间。阿默尔。数学。Soc.，Providence，RI.第二版[MR2466937]，由Elizabeth L.Wilmer撰写，James G.Propp和David B.Wilson撰写的“从过去耦合”一章·Zbl 1390.60001号
[45] Mézard，M.和Montanari，A.（2009年）。信息、物理和计算。牛津大学毕业生文凭。牛津大学出版社，牛津·Zbl 1163.94001号
[46] Mézard，M.、Parisi，G.和Virasoro，M.A.（1987年）。旋转玻璃理论及其他。世界物理学科学讲稿9。新泽西州蒂内克市世界科学公司·Zbl 0992.82500号
[47] Miolane，L.（2017）。低秩矩阵估计的基本极限：非对称情况。arXiv:1702.00473。
[48] Mityagin，B.S.（2020年）。实解析函数的零点集。Mat.Zametki材料：107 473-475·Zbl 1442.26039号
[49] Montanari，A.和Sen，S.（2016）。稀疏随机图上的半定规划及其在社区检测中的应用。STOC’16-第48届ACM SIGACT计算理论研讨会论文集814-827。纽约ACM·Zbl 1376.90043号
[50] Montanari，A.和Venkataramanan，R.（2020年）。通过近似消息传递估计低秩矩阵。Ann.Statist公司。出现。arXiv:1711.01682。
[51] Nishimori，H.（2001）。自旋玻璃统计物理与信息处理：导论。国际物理学专著系列111。牛津大学出版社，纽约。翻译自1999年的日语原文·Zbl 1103.82002号
[52] Parisi，G.（1979年）。自旋类的序参数的数量是无限的。物理学。修订稿。43 1754.
[53] Parisi，G.（1980年）。自旋玻璃SK模型的一系列近似解。《物理学杂志》。A： 数学。将军13 L115。
[54] Parisi，G.（1983年）。自旋类的顺序参数。物理学。修订稿。50 1946-1948.
[55] Parisi，G.和Potters，M.（1995年）。关于自旋玻璃中亚稳态的数量。欧洲鱼。莱特。32 13. ·Zbl 0868.60052号 ·doi:10.1088/0305-4470/28/18/016
[56] Pastur，L.A.（1972年）。随机矩阵的谱。茶杯。材料Fiz。10 102-112.
[57] Pastur，L.A.（2005）。随机矩阵的高斯系综的全局状态的一种简单方法。乌克兰。材料Zh。57 790-817. ·Zbl 1102.82015年 ·doi:10.1007/s11253-005-0241-4
[58] Perry，A.、Wein，A.S.、Bandeira，A.S.和Moitra，A.（2018年）。PCA I的最优性和次最优性：尖峰随机矩阵模型。Ann.Statist公司。46 2416-2451. ·Zbl 1404.62065号 ·doi:10.1214/17-AOS1625
[59] Plefka，T.（1982）。无限长伊辛自旋玻璃模型TAP方程的收敛条件。《物理学杂志》。A 15 1971-1978年。
[60] Sinclair，A.（2012）。随机生成和计数算法：马尔可夫链方法。施普林格科技与商业媒体·Zbl 0780.68096号
[61] Singer，A.（2011年）。通过特征向量和半定规划实现角度同步。申请。计算。哈蒙。分析。30 20-36. ·Zbl 1206.90116号 ·doi:10.1016/j.aca.2010.02.001
[62] Singer，A.和Wu，H.（2011年）。定向性和扩散贴图。申请。计算。哈蒙。分析。31 44-58. ·Zbl 1218.68131号 ·doi:10.1016/j.acha.2010.10.001
[63] 苏巴格，E.（2017）。球面自旋模型的复杂性——二阶矩方法。安·普罗巴伯。45 3385-3450. ·Zbl 1417.60029号 ·doi:10.1214/16-AOP1139
[64] Talagrand，M.（2011）。自旋玻璃的平均场模型。第一卷：基本示例。Ergebnisse der Mathematik和Ihrer Grenzgebiete。3.佛尔吉。数学现代调查系列[数学及相关领域的结果。第三系列。数学现代调查丛书]54。柏林施普林格·Zbl 1214.82002号
[65] Thouless，D.J.、Anderson，P.W.和Palmer，R.G.（1977年）。“自旋玻璃的可解模型”的解。菲洛斯。杂志：35 593-601。
[66] Voiculescu，D.（1991）。随机矩阵和自由积的极限定律。发明。数学。104 201-220. ·Zbl 0736.60007号 ·doi:10.1007/BF01245072
[67] Wainwright，M.J.和Jordan，M.I.（2008）。图形模型、指数族和变分推理。已找到。趋势马赫数。学习。1 1-305. ·Zbl 1193.62107号 ·数字对象标识代码：10.1561/220000001
[68] A.张。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。