×
弗雷德里克·伊顿；佐宾·加赫拉马尼

推理的模型简化：成对、二元和平面因子图的通用性。 （英语） Zbl 1418.62232号

神经计算。 25，第5期，1213-1260（2013）.
摘要：我们提供了一个解决方案，用于在不同类型的离散统计模型之间高效地转换算法。我们研究了三类模型的表达能力，即具有二元变量、成对因子和平面拓扑的模型，以及它们的四个交点。我们形式化了用于推断边际概率问题的“简单约简”概念，并考虑是否可以将一般离散因子图中的边际推理“简单地约简”为这七个子类中每一个子类中的因子图。我们刻画了每类的可约性，特别表明了这类二元两两因子图只能简单地约简正模型。我们还展示了基于多项式插值的连续“谱缩减”，它克服了这一限制。实验评估了标准近似推理算法对约简输出的性能。

MSC公司：

62甲12 多元分析中的估计
05C90年 图论的应用
68兰特 计算机科学中的图论（包括图形绘制）

关键词：

推理约简；光谱降低；一类二元成对因子图

软件：

利伯达
PDF格式BibTeX公司 XML格式引用
\textit{F.Eaton}和\textit{Z.Ghahramani}，神经计算。25，第5号，1213-1260（2013；Zbl 1418.62232）
全文： 内政部

参考文献：

[1] Arora，S.和Barak，B.（2009年）。计算复杂性：一种现代方法。剑桥：剑桥大学出版社·Zbl 1193.68112号
[2] Barahona，F.（1982年）。伊辛自旋玻璃模型的计算复杂性。《物理学报A：数学与概论》，第15期，第3241-3253页，
[3] Bernstein，E.和Vazirani，U.（1997年）。量子复杂性理论。SIAM计算机杂志，26（5），1411-1473·Zbl 0895.68042号
[4] Boros，E.和Hammer，P.（2002年）。伪布尔优化。离散应用数学，123（1-3），155-225·Zbl 1076.90032号
[5] Braunstein，A.、Mezard，M.和Zecchina，R.（2005）。调查传播：一种可满足性算法。随机结构与算法，27（2），201-226·Zbl 1087.68126号
[6] Bulatov，A.和Grohe，M.（2005年）。配分函数的复杂性。理论计算机科学，348（2），148-186·Zbl 1081.68030号
[7] Castillo，E.、Gutiérrez，J.和Hadi，A.（1997）。专家系统和概率网络模型。纽约：Springer-Verlag·Zbl 0867.68099号
[8] Chertkov，M.和Chernyak，V.（2006）。图上离散统计模型的循环序列。《统计力学杂志：理论与实验》，2006年。第6009页·Zbl 1244.82059号
[9] Chertkov，M.、Chernyak，V.和Teodorescu，R.（2008）。平面图上的信念传播和圈级数。《统计力学杂志：理论与实验》，2008年。第05003页·Zbl 1243.82016年
[10] Cook，S.（1971）。理论证明程序的复杂性。第三届ACM计算机理论研讨会论文集（第151-158页）。纽约：ACM·Zbl 0253.68020号
[11] Cooper，G.（1990年）。使用贝叶斯信念网络进行概率推理的计算复杂性。人工智能，42（2-3），393-405·Zbl 0717.68080号
[12] Dyer，M.、Goldberg，L.和Jerrum，M.（2009年）。加权布尔CSP的复杂性。SIAM计算机杂志，38（5），1970-1986·Zbl 1191.68351号
[13] 伊顿，F.（2011）。比较近似值的条件游戏。第十四届国际人工智能与统计会议论文集。旧金山：摩根考夫曼。
[14] Fisher，M.（1966年）。关于平面伊辛模型的二聚体解。《数学物理杂志》，1776-1781，
[15] Gallager，R.（1962）。低密度奇偶校验码。IRE信息理论汇刊，8（1），21-28·Zbl 0107.11802号
[16] Garey，M.和Johnson，D.（1979年）。计算机与难处理性：NP-完备性理论指南。纽约：弗里曼·Zbl 0411.68039号
[17] Geman，S.和Geman，D.（1984）。随机松弛、吉布斯分布和图像的贝叶斯恢复。IEEE模式分析和机器智能汇刊，6（6），721-741·Zbl 0573.62030号
[18] Globerson，A.和Jaakkola，T.（2007）。使用平面图分解进行近似推断。B.Schölkopf、J.Platt和T.Hofmann（编辑），《神经信息处理系统进展》，第19页。马萨诸塞州剑桥：麻省理工学院出版社。
[19] Goldberg，L.和Jerrum，M.（2008）。Tutte多项式的不近似性。信息与计算，206（7），908-929·Zbl 1153.68039号
[20] Heskes，T.、Albers，K.和Kappen，B.（2003年）。近似推理和约束优化。《第19届人工智能不确定性年会论文集》（第313-320页）。旧金山：摩根考夫曼。
[21] Ihler，A.（2007）。信念传播的准确度界限。《第23届人工智能不确定性会议论文集》（第183-190页）。科尔瓦利斯，俄勒冈州：AOAI出版社。
[22] Ishikawa，H.（2009年）。二元图切割中的高阶团约简。计算机视觉和模式识别（第2993-3000页）。新泽西州皮斯卡塔韦：IEEE，
[23] Jensen，F.、Olesen，K.和Andersen，S.（1990年）。基于知识系统的贝叶斯信念域代数。网络，20（5），637-659·Zbl 0719.68081号
[24] Jung，K.和Shah，D.（2006年）。二元成对马尔可夫随机场中通过自回避行走的推理。arXiv预印本cs/0610111。
[25] Kasteleyn，P.（1961年）。格点上二聚体的统计。《物理学》，27（12），1209-1225·兹比尔1244.82014
[26] Kasteleyn，P.（1963年）。二聚体统计和相变。数学物理杂志，4287-293，
[27] Kimura，K.、Taki，K.和Kikó，S.（1991年）。时间均匀并行退火算法。新一代计算机技术研究所。
[28] Knuth，D.（2008）。计算机编程艺术，IV，分册0：组合算法和布尔函数简介。马萨诸塞州雷丁：Addison-Wesley。
[29] Kschichang，F.、Frey，B.和Loeliger，H.（2001）。因子图和求和算法。IEEE信息理论汇刊，47（2），498-519·Zbl 0998.68234号
[30] Kuratowski，K.（1930年）。在拓扑学中，课程问题的解决。基金。数学。，15, 271-283. ·JFM 56.1141.03号机组
[31] Lichtenstein，D.（1982）。平面公式及其用途。SIAM计算机杂志，11，329-343·Zbl 0478.68043号
[32] Minka，T.（2005）。分歧测量和信息传递（技术代表MSR-TR-2005-173）。英国剑桥：微软研究。
[33] Montanari，A.和Rizzo，T.（2005）。如何计算Bethe近似的循环修正。统计力学杂志：理论与实验，10，P10011·Zbl 07077848号
[34] Mooij，J.（2010）。libDAI 0.2.5：一个用于离散近似推理的自由/开源C++库。机器学习研究杂志，11，2169-2173·Zbl 1242.62004号
[35] Mooij，J.和Kappen，H.（2005a）。关于二元网络上Bethe逼近和循环信念传播的性质。统计力学杂志：理论与实验，2005（11），P11012·兹伯利07077866
[36] Mooij，J.和Kappen，H.（2005年b）。二进制真实世界网络上循环信念传播的有效性估计。L.K.Saul、Y.Weiss和L.Bottou（编辑），《神经信息处理系统的进展》，17（第945-952页）。马萨诸塞州剑桥：麻省理工学院出版社。
[37] Mooij，J.、Wemmenhove，B.、Kappen，H.和Rizzo，T.（2007年）。循环修正了信念传播。第十一届国际人工智能与统计会议论文集。旧金山：摩根考夫曼。
[38] Nair，C.和Tetali，P.（2007）。多针系统中的相关衰减（CD）树和强空间混合。arXiv预打印数学/0701494。
[39] Papadimitriou，C.（1994年）。计算复杂性。马萨诸塞州雷丁：Addison-Wesley·Zbl 0833.68049号
[40] Pearl，J.（1982）。推理引擎上的Reverend Bayes：分布式层次方法。AAAI全国AI会议记录（第133-136页）。加利福尼亚州门洛帕克：AAAI出版社。
[41] Pearl，J.（1988）。智能系统中的概率推理：似是而非推理网络。旧金山：摩根考夫曼·Zbl 0746.68089号
[42] Pearl，J.（2000）。因果关系：模型、推理和推理。剑桥：剑桥大学出版社·Zbl 0959.68116号
[43] 罗森博格，I.（1975）。二价最大化问题的二次化简。《歌剧院院长》（Cahiers du Centre d'Etudes de Recherche Operationlle），第17、71至74页·Zbl 0302.90041号
[44] Sanghavi，S.、Shah，D.和Willsky，A.（2009年）。最大重量独立集的消息传递。IEEE信息理论汇刊，55（11），4822-4834·Zbl 1367.94443号
[45] Schaefer，T.（1978）。可满足性问题的复杂性。第十届ACM计算机理论研讨会论文集（第216-226页）。纽约：ACM·Zbl 1282.68143号
[46] Selman，B.、Levesque，H.和Mitchell，D.（1992年）。一种解决难满足问题的新方法。《第十届全国人工智能会议记录》（第440-446页）。加利福尼亚州门洛帕克：AAAI出版社。
[47] Sudderth，E.、Wainwright，M.和Willsky，A.（2008）。吸引人的图形模型中的循环级数和Bethe变分界。J.C.Platt、D.Koller、Y.Singer和S.T.Roweis（编辑），《神经信息处理系统的进展》，20（第1425-1432页）。马萨诸塞州剑桥：麻省理工学院出版社。
[48] Ungar，P.（1951年）。平面图的一个定理。伦敦数学学会杂志，1（4），256-262·兹比尔0043.38601
[49] Valiant，L.（1979年a）。计算永久性的复杂性。理论计算机科学，8（2），189-201·Zbl 0415.68008号
[50] Valiant，L.（1979年b）。枚举和可靠性问题的复杂性。SIAM计算机杂志，8，410-421·Zbl 0419.68082号
[51] Valiant，L.（2006）。意外算法。第47届IEEE计算机科学基础年会（第509-517页）。新泽西州皮斯卡塔韦：IEEE，
[52] Valiant，L.（2008年）。全息算法。SIAM计算机杂志，37（5），1565-1594·Zbl 1152.05010号
[53] Wagner，K.（1937年）。尤伯·埃因·埃比恩·科普勒的本征学院。数学。安，144570-590·Zbl 0017.19005号
[54] Wainwright，M.、Jaakkola，T.和Willsky，A.（2002年）。对数配分函数的一类新上界。《第十八届人工智能不确定性年会论文集》（PP.536-554）。旧金山：摩根考夫曼。
[55] Watanabe，Y.和Fukumizu，K.（2011年）。伊辛配分函数Bethe近似的新图多项式。组合数学，概率与计算，20，299-320·Zbl 1209.05126号
[56] Weitz，D.（2006年）。计算达到树阈值的独立设置数。第三十八届ACM计算机理论年会论文集（第140-149页）。纽约：ACM·Zbl 1301.68276号
[57] Welling，M.和Teh，Y.（2001年）。二进制网络的信念优化：循环信念传播的稳定替代方案。《第十七届人工智能不确定性会议记录》（第554-561页）。旧金山：摩根考夫曼。
[58] Welling，M.和Teh，Y.（2004）。图形模型中近似推理的线性响应算法。神经计算，16（1），197-221·Zbl 1097.68118号
[59] Wiegerinck，W.（2000年）。平均场理论和连接树算法之间的变分近似。《第十六届人工智能不确定性会议记录》（第626-633页）。旧金山：摩根考夫曼。
[60] Yedidia，J.、Freeman，W.和Weiss，Y.（2001a）。广义的信仰传播。T.K.Leen、T.G.Dietterich和V.Tresp（编辑），《神经信息处理系统的进展》，13（第689-695页）。马萨诸塞州剑桥：麻省理工学院出版社。
[61] Yedidia，J.、Freeman，W.和Weiss，Y.（2001b）。理解信念传播及其推广。国际人工智能联合会议。旧金山：摩根考夫曼。
[62] Yuille，A.（2002年）。最小化Bethe和Kikuchi自由能的CCCP算法：信念传播的收敛替代方案。神经计算，14（7），1691-1722·Zbl 1051.68121号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。