×
Ole J.蒙苏尔。;丹·罗斯;大卫·C·威尔金斯。

随机局部搜索中的投资组合：在贝叶斯网络中高效计算最可能的解释。 （英文） Zbl 1213.68582号

J.汽车。推理 46，第2期，103-160（2011）.
摘要：投资组合方法支持不同算法和启发式的组合，包括随机局部搜索（SLS）启发式，并被认为是解决计算困难问题的一种有前途的方法。虽然在实验中取得了成功，但基于组合的SLS启发式的理论基础和分析结果还不够成熟。本文旨在提高对启发式组合在SLS中的作用的理解。我们强调贝叶斯网络中计算最可能解释（MPE）的问题。在算法上，我们讨论了一种用于MPE计算的基于组合的SLS算法，即随机贪婪搜索（SGS）。SGS支持集成不同的初始化操作符（或初始化启发式）和不同的搜索操作符（贪婪和噪声启发式），从而获得新的分析和实验结果。在分析方面，我们引入了一种新的马尔可夫链模型，该模型适用于基于组合的SLS算法，包括SGS，从而使我们能够分析地形成预期命中时间结果，从而解释经验运行时间结果。对于特定的BN，我们展示了使用同质初始化投资组合的好处。为了进一步说明投资组合方法，我们考虑了处理BN中条件概率表中零项形式的确定性的新的加性搜索启发式。当计算解释的效用时，我们的加性方法增加而不是增加概率。我们通过研究条件概率表中零项对零概率解释数量的巨大影响来激发可加性度量，这再次使搜索过程复杂化。我们考虑了MAXSAT和MPE之间的关系，并表明加法效用（或增益）是著名的GSAT和WalkSAT算法及其后代中使用的MAXSAT效用（或收益）的概率设置的推广。利用我们的马尔可夫链框架，我们证明了预期命中时间是应用加法搜索算子的概率的有理函数，即两个多项式的比率。在实验上，我们报告了综合生成的BN以及来自应用程序的BN，并将SGS的性能与Hugin的性能进行了比较，Hugin通过编译和在团树中传播来执行BN推理。在合成网络中，与Hugin相比，SGS将计算速度提高了大约两个数量级。在应用网络中，我们的方法在具有高度确定性的贝叶斯网络中具有很强的竞争力。除了表明随机局部搜索可以与团树聚类竞争外，我们的实证结果还改进了对基于组合的SLS优于团树聚类以及反之亦然的情况的理解。

引用于5文件

MSC公司：

68T20型 人工智能背景下的问题解决（启发式、搜索策略等）

关键词：

随机局部搜索;投资组合;贝叶斯网络;最可能的解释;决定论;随机贪婪搜索;马尔可夫链;打击次数

软件：

MiniMaxSat卫星;禁忌搜索;徒步旅行;MaxSolver（最大解算器）
PDF格式BibTeX公司 XML格式引用
\textit{O.J.Mengshoel}等人，J.Autom。推理46，编号2103--160（2011年；Zbl 1213.68582）
全文： 内政部 链接

参考文献：

[1] Abdelbar，A.M.，Hedetnieme，S.M.：信念网络的近似MAP是NP-hard和其他定理。Artif公司。智力。102, 21–38 (1998) ·Zbl 0909.68077号 ·doi:10.1016/S0004-3702（98）00043-5
[2] Andersen，S.K.，Olesen，K.G.，Jensen，F.V.，Jessen，F.：HUGIN——为专家系统构建贝叶斯信念宇宙的外壳。摘自：《第十一届国际人工智能联合会议记录》，第2卷，第1080–1085页。密歇根州底特律（1989）·Zbl 0713.68051号
[3] Arnborg，S.：有界可分解图上组合问题的有效算法——综述。BIT 25、2–23（1985）·Zbl 0573.68018号 ·doi:10.1007/BF01934985
[4] Chavira，M.，Darwiche，A.：编译具有本地结构的贝叶斯网络。摘自：第19届国际人工智能联合会议（IJCAI）会议记录，第1306–1312页（2005）
[5] Chavira，M.，Darwiche，A.：对CNF进行编码以支持组件分析。摘自：《第九届满意度测试理论与应用国际会议论文集》，第4121卷，第61-74页。柏林斯普林格计算机科学讲稿（2006）
[6] Chavira，M.，Darwiche，A.：使用变量消除编译贝叶斯网络。《第二十届国际人工智能联合会议记录》（IJCAI-07），第2443–2449页。印度海得拉巴（2007年）
[7] Chavira，M.，Darwiche，A.：关于加权模型计数的概率推断。Artif公司。智力。172(6–7), 772–799 (2008) ·兹比尔1182.68297 ·doi:10.1016/j.artint.2007.11.002
[8] Cooper，F.G.：使用贝叶斯信念网络进行概率推理的计算复杂性。Artif公司。智力。42, 393–405 (1990) ·Zbl 0717.68080号 ·doi:10.1016/0004-3702（90）90060-D
[9] Darwiche，A.：递归条件反射。Artif公司。智力。126(1-2), 5–41 (2001) ·Zbl 0969.68150号 ·doi:10.1016/S0004-3702（00）00069-2
[10] Darwiche，A.：分解信念网络的逻辑方法。摘自：《第八届国际原则与知识表示与推理会议记录》（KR-02），第409-420页（2002年）
[11] Darwiche，A.：贝叶斯网络中推理的微分方法。《美国医学会期刊》50（3），280-305（2003）·兹比尔1325.68226 ·doi:10.1145/765568.765570
[12] Davis，M.，Logemann，G.，Loveland，D.：理论证明的机器程序。Commun公司。ACM 5（7），394–397（1962）·Zbl 0217.54002号 ·数字对象标识代码：10.1145/368273.368557
[13] Davis，M.，Putnam，H.：量化理论的计算程序。J.ACM 7（3），201–215（1960）·Zbl 0212.34203号 ·数字对象标识代码：10.1145/321033.321034
[14] Dawid，A.P.：概率专家系统通用传播算法的应用。统计计算。2, 25–36 (1992) ·doi:10.1007/BF01890546
[15] Dechter，R.：桶消除：推理的统一框架。Artif公司。智力。113(1–2), 41–85 (1999) ·Zbl 0939.68847号 ·doi:10.1016/S0004-3702（99）00059-4
[16] Dechter，R.，El Fattah，Y.：时空权衡的拓扑参数。Artif公司。智力。125(1–2), 93–118 (2001) ·Zbl 0969.68149号 ·doi:10.1016/S0004-3702（00）00050-3
[17] Dechter，R.，Mateescu，R.：图形模型的AND/OR搜索空间。Artif公司。智力。171(2–3), 73–106 (2007) ·Zbl 1168.68549号 ·doi:10.1016/j.artint.2006.11.003（文件编号：10.1016/j.artint.2006.11.003）
[18] Dechter，R.，Pearl，J.：基于网络的约束满足问题启发式。Artif公司。智力。34(1), 1–38 (1987) ·Zbl 0643.68156号 ·doi:10.1016/0004-3702（87）90002-6
[19] Festa，P.，Pardalos，P.M.，Pitsoulis，L.S.，Resende，M.G.C.：加权MAXSAT问题的路径重新链接GRASP。J.Exp.算法。11, 1–16 (2006) ·Zbl 1140.68403号
[20] Fukunaga，A.，Rabideau，G.，Chien，S.：使用自适应噪声对航天器运行进行稳健的局部搜索。摘自：第四届空间规划与调度国际研讨会论文集（IWPSS-04）。德国达姆施塔特（2004）
[21] Galán，S.F.，Mengshoel，O.J.：使用锦标赛选择的约束处理：部分确定性贝叶斯网络中的外推推理。进化。计算。17(1), 55–88 (2009) ·doi:10.11162/evco.2009.17.1.55
[22] Gallager，R.G.：低密度奇偶校验码。IRE事务处理。Inf.理论8，21–28（1962）·Zbl 0107.11802号 ·doi:10.1109/TIT.1962.1057683号
[23] Geman，S.、Geman，D.：随机松弛、吉布斯分布和图像的贝叶斯恢复。IEEE传输。模式分析。机器。智力。6(1), 721–741 (1984) ·Zbl 0573.62030号 ·doi:10.1109/TPAMI.1984.4767596
[24] Glover，F.，Laguna，M.：禁忌搜索。收录于：《组合问题的现代启发式技术》，第70-150页。威利，纽约（1993）·Zbl 0774.90033号
[25] Gomes，C.P.，Selman，B.：算法组合。Artif公司。智力。126(1–2), 43–62 (2001) ·Zbl 0969.68047号 ·doi:10.1016/S0004-3702（00）00081-3
[26] Gomes，C.P.，Selman，B.，Kautz，H.：通过随机化推进组合搜索。摘自：《第十五届全国人工智能会议记录》（AAAI-98），第431-437页。威斯康星州麦迪逊（1998）
[27] Gu，P.W.，Purdom，J.，Franco，J.，Wah，B.W.：可满足性问题：理论与应用，可满足性SAT问题的算法：调查，第19-152页。离散数学和理论计算机科学DIMACS系列。美国数学学会，波士顿（1997）·兹比尔0945.03040
[28] Henrion，M.：通过概率逻辑抽样在贝叶斯网络中传播不确定性。摘自：《人工智能中的不确定性》2，第149-163页。Elsevier，阿姆斯特丹（1988）·Zbl 0649.68095号
[29] Heras，F.、Larrosa，J.、Oliveras，A.：MiniMaxSAT：一种高效的加权Max-SAT解算器。J.阿蒂夫。智力。决议31，1-32（2008年）·Zbl 1183.68578号
[30] 胡克，J.：试探法：我们都错了。《启发式杂志》1，33–42（1996）·Zbl 0853.68155号 ·doi:10.1007/BF02430364
[31] Hoos，H.H.：WalkSAT的自适应噪声机制。摘自：《第十八届全国人工智能会议记录》（AAAI-02），第655-660页。加拿大阿尔伯塔省埃德蒙顿市（2002年）
[32] Hoos，H.H.：SAT中SLS算法行为的混合模型。摘自：《第十八届全国人工智能会议论文集》（AAAI-02），第661-667页。加拿大阿尔伯塔省埃德蒙顿市（2002年）
[33] Hoos，H.H.，Stützle，T.：SAT.Artif随机局部搜索算法行为的特征化。智力。112(1–2), 213–232 (1999) ·Zbl 0996.68069号 ·doi:10.1016/S0004-3702（99）00048-X
[34] Hoos，H.H.，Stützle，T.：SAT的局部搜索算法：经验评估。J.汽车。原因。24(4), 421–481 (2000) ·Zbl 0961.68039号 ·doi:10.1023/A:1006350622830
[35] Hoos，H.H.，Stützle，T.：随机局部搜索：基础与应用。Morgan Kaufmann，旧金山（2005）·Zbl 1126.68032号
[36] Horvitz，E.，Ruan，Y.，Gomes，C.，Kautz，H.，Selman，B.，Chickering，D.：解决困难计算问题的贝叶斯方法。摘自：《第17届人工智能不确定性年会论文集》（UAI-01），第235-244页。西雅图，华盛顿州（2001）·Zbl 0991.68564号
[37] Horvitz，E.J.、Suermondt，H.J.、Cooper，G.F.：有限条件反射：稀缺资源下决策的灵活推理。摘自：《第五届人工智能不确定性会议论文集》（UAI-89），第182-193页。Morgan Kaufmann，温莎（1989）
[38] Huberman，B.A.，Lukose，R.M.，Hogg，T.：硬计算问题的经济学方法。《科学》275（3），51–54（1997）·doi:10.122/科学275.5296.51
[39] Hutter，F.，Hoos，H.H.，Stützle，T.：MPE求解的有效随机局部搜索。摘自：《第十九届国际人工智能联合会议记录》（IJCAI-05），第169-174页。苏格兰爱丁堡。(2005)
[40] Jensen，F.V.、Lauritzen，S.L.、Olesen，K.G.：通过局部计算在因果概率网络中进行贝叶斯更新。SIAM J.计算。4, 269–282 (1990) ·Zbl 0715.68076号
[41] Kask，K.，Dechter，R.：贝叶斯网络的随机局部搜索。摘自：第七届人工智能与统计国际研讨会论文集。摩根·考夫曼（Morgan Kaufmann），劳德代尔堡（Fort Lauderdale）（1999）·兹比尔0971.68035
[42] Kautz，H.，Selman，B.，Jiang，Y.：解决硬约束和软约束问题的一般随机方法。作者：Gu，J.，Pardalos，P.M.，Du，D.（编辑）《可满足性问题：理论与应用》（DIMACS Workshop）。美国数学学会，波士顿（1997）·兹比尔0891.68100
[43] Lagoudakis，M.G.，Littman，M.L.：使用强化学习的算法选择。In：程序。第17届国际机器学习大会，第511-518页。Morgan Kaufmann，旧金山（2000）
[44] Larrosa，J.，Heras，F.，de Givry，S.：高效Max-SAT求解的逻辑方法。Artif公司。智力。172(2–3), 204–233 (2008) ·Zbl 1182.68253号 ·doi:10.1016/j.artint.2007.05.006
[45] Lauritzen，S.，Spiegelhalter，D.J.：图形结构概率的局部计算及其在专家系统中的应用（含讨论）。J.R.统计社会服务。B 50（2），157–224（1988）·Zbl 0684.68106号
[46] Li，C.M.，Manya，F.，Planes，J.：Max-SAT.J.Artif的新推理规则。智力。第30号决议，第321-359号决议（2007年）·Zbl 1182.68254号
[47] Li，Z.，D’Ambrosio，B.：贝叶斯网中的有效推理是一个组合优化问题。国际期刊近似原因。11(1), 55–81 (1994) ·Zbl 0808.68098号 ·doi:10.1016/0888-613X（94）90019-1
[48] Lin，R.，Galper，A.，Shachter，R.：使用概率网络的外推推理：随机搜索技术。技术报告KSL-90-73，斯坦福知识系统实验室，1990年11月
[49] 麦凯，D.J.C.：信息理论、推理和学习算法。剑桥大学出版社，剑桥（2002）
[50] Marinescu，R.，Dechter，R.：图形模型的AND/OR分界。In：程序。第19届国际人工智能联合会议（IJCAI-05），第224-229页（2005）
[51] Marinescu，R.，Dechter，R.：图形模型的内存密集型分支和边界搜索。In：程序。第21届全国人工智能会议（AAAI-06），第1200–1205页（2006）
[52] Marinescu，R.，Dechter，R.：最佳和/或搜索最大可能的解释。In：程序。第23届人工智能不确定性会议（UAI-07）（2007）·Zbl 1214.90088号
[53] McAllester，D.，Selman，B.，Kautz，H.：局部搜索中不变量的证据。摘自：《第十四届全国人工智能会议记录》（AAAI-97），第321-326页。普罗维登斯，RI（1997）
[54] Mongshoel，O.J.：高效贝叶斯网络推理：遗传算法、随机局部搜索和抽象。伊利诺伊大学厄本那-香槟分校计算机科学系博士论文（1999年）
[55] Mongshoel，O.J.：使用贝叶斯网络设计基于资源的推理机：系统健康监测和诊断。摘自：第18届诊断原理国际研讨会论文集（DX-07），第330-337页。田纳西州纳什维尔（2007）
[56] Mongshoel，O.J.：贝叶斯网络集团树增长的宏观模型。载：《第二十二届全国人工智能大会论文集》（AAAI-07），第1256–1262页。不列颠哥伦比亚省温哥华市（2007）
[57] 蒙索尔，O.J.：理解噪声在随机局部搜索中的作用：分析和实验。Artif公司。智力。172(8–9), 955–990 (2008) ·Zbl 1183.68582号 ·doi:10.1016/j.artint.2007.09.010
[58] Mengshoel，O.J.、Darwiche，A.、Cascio，K.、Chavira，M.、Poll，S.、Uckun，S.：航天器和飞机电力系统故障诊断。摘自：《第二十届人工智能创新应用会议论文集》（IAAI-08），第1699-1705页。伊利诺伊州芝加哥市（2008年）
[59] Mengshoel，O.J.，Darwiche，A.，Uckun，S.：使用贝叶斯网络进行传感器验证。摘自：第九届空间人工智能、机器人和自动化国际研讨会论文集（iSAIRAS-08）（2008）
[60] Mongshoel，O.J.，Roth，D.，Wilkins，D.C.：随机贪婪搜索：计算贝叶斯网络中最可能的解释。伊利诺伊大学厄本那-香槟分校计算机科学系UIUCDCS-R-2000-2150技术报告（2000年）·Zbl 1213.68582号
[61] Mengshoel，O.J.，Wilkins，D.C.，Roth，D.：硬贝叶斯网络和易贝叶斯网的受控生成：对树聚类中最大团树的影响。智力。170(16–17), 1137–1174 (2006) ·Zbl 1130.68096号 ·doi:10.1016/j.artint.2006.09.003
[62] Mongshoel，O.J.，Wilkins，D.C.，Roth，D.：随机局部搜索中的初始化和重启：在贝叶斯网络中计算最可能的解释。IEEE传输。知识。数据工程，（出版，2010年）
[63] Mills，P.，Tsang，E.：解决SAT和加权MAX-SAT问题的引导式局部搜索。J.汽车。原因。24（1-2）、205–223（2000）·Zbl 0967.68152号 ·doi:10.1023/A:1006343127545
[64] Mitchell，D.，Selman，B.，Levsque，H.J.：SAT问题的难易分布。摘自：《第十届全国人工智能会议记录》（AAAI-92），第459-465页。加利福尼亚州圣何塞（1992）
[65] Musliner，D.，Hendler，J.，Agrawala，A.K.，Durfee，E.，Strosnider，J.K.，Paul，C.J.：实时人工智能的挑战。IEEE计算。28, 58–66 (1995)
[66] Park，J.：使用加权MAX-SAT引擎求解MPE。摘自：《第18届全国人工智能会议记录》（AAAI-02），第682-687页。加拿大埃德蒙顿（2004）
[67] Park，J.D.，Darwiche，A.：使用本地搜索近似MAP。摘自：《第十七届人工智能不确定性会议记录》（UAI-01），第403-410页。西雅图，华盛顿州（2001）
[68] Park，J.D.和Darwiche，A.：MAP解释的复杂性结果和近似策略。J.阿蒂夫。智力。研究（JAIR）21、101–133（2004）·Zbl 1080.68689号
[69] Parkes，A.J.，Walser，J.P.：为可满足性测试调整局部搜索。摘自：《第十三届全国人工智能会议记录》（AAAI-96），第356–362页。俄勒冈州波特兰（1996）
[70] Pearl，J.：概率推理的约束传播方法。摘自：Kanal，Lemmer，J.F.（编辑）《人工智能中的不确定性》，第357-369页。Elsevier，阿姆斯特丹（1986）
[71] Pearl，J.：《智能系统中的概率推理：合理推理网络》。Morgan Kaufmann，圣马特奥（1988）·Zbl 0746.68089号
[72] Roth，D.：关于近似推理的难度。Artif公司。智力。82, 273–302 (1996) ·doi:10.1016/0004-3702（94）00092-1
[73] Ruan，Y.、Horvitz，E.、Kautz，H.：重新启动运行之间依赖的策略：动态编程方法。摘自：《第八届约束编程原理与实践国际会议论文集》，第573-586页。纽约州伊萨卡市（2002年）
[74] Sang，T.，Beame，P.，Kautz，H.：MPE和加权MAX-SAT的动态方法。摘自：第二十届国际人工智能联合会议论文集（IJCAI-07），第173-179页（2007）
[75] Schuurmans，D.，Southey，F.：不完整SAT程序的局部搜索特征。Artif公司。智力。132(2), 121–150 (2001) ·Zbl 0983.68180号 ·doi:10.1016/S0004-3702（01）00151-5
[76] Selman，B.，Kautz，H.：GSAT的领域相关扩展：解决大型结构化可满足性问题。载：《国际人工智能联合会议论文集》（IJCAI-93），第290–295页。法国尚贝里（1993）
[77] Selman，B.，Kautz，H.A.，Cohen，B.：改进局部搜索的噪音策略。载：《第十二届全国人工智能大会论文集》（AAAI-94），第337–343页。西雅图，华盛顿州（1994）
[78] Selman，B.，Levesque，H.，Mitchell，D.：解决难满足性问题的新方法。摘自：《第十届全国人工智能会议记录》（AAAI-92），第440-446页。加利福尼亚州圣何塞（1992）
[79] Shenoy，P.P.：用于专家系统的基于评估的语言。国际期刊近似原因。5(3), 383–411 (1989) ·doi:10.1016/0888-613X（89）90009-1
[80] Shimony，E.：寻找信仰网络的MAP是NP-hard。Artif公司。智力。68, 399–410 (1994) ·Zbl 0818.68097号 ·doi:10.1016/0004-3702（94）90072-8
[81] Shwe，M.A.，Middleton，B.，Heckerman，D.E.，Henrion，M.，Horvitz，E.J.，Lehmann，H.P.，Cooper，G.F.：使用INTERNIST-1/QMR知识库重新制定的概率诊断：I.，概率模型和推理算法。方法Inf.Med.30（4），241-255（1991）
[82] 维特比，A.J.：卷积码的误差界和渐近最优解码算法。IEEE传输。Inf.理论13，260-269（1967）·Zbl 0148.40501号 ·doi:10.1109/TIT.1967.1054010
[83] Xing，Z.，Zhang，W.：MaxSolver：（加权）最大可满足性的有效精确算法。Artif公司。智力。164(1–2), 47–80 (2005) ·Zbl 1132.68716号 ·doi:10.1016/j.artint.2005.01.004
[84] Xu，L.，Hutter，F.，Hoos，H.H.，Leyton-Brown，K.：SATzilla-07:sat算法组合的设计与分析。摘自：第十三届约束编程原理与实践国际会议论文集（CP-07）（2007）·Zbl 1182.68272号
[85] Zhang，N.L.，Poole，D.：利用贝叶斯网络推理中的因果独立性。J.阿蒂夫。智力。第5号决议，301-328（1996年）·Zbl 0900.68384号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。