×

BNC-PSO:通过粒子群优化对贝叶斯网络进行结构学习。 (英语) Zbl 1398.68435号

摘要:结构学习是贝叶斯网络领域的一个非常重要的问题。这也是20多年来一个活跃的研究领域;因此,人们提出了许多基于训练样本的结构优化方法。本文提出了一种基于粒子群优化(PSO)的算法来解决BN结构学习问题;命名为BNC-PSO(使用PSO的贝叶斯网络构建算法)。该算法采用边插入/删除的方法,使粒子具有获得最优解的能力,同时采用循环消除过程来防止无效解的产生。然后,利用马尔可夫链定理证明了该算法的全局收敛性。最后,设计了一些实验来评估所提出的基于PSO的算法的性能。实验结果表明,BNC-PSO在BNs构建领域值得研究。同时,与其他基于优化的算法相比,它可以显著提高近15%的评分度量值。

MSC公司:

68T05型 人工智能中的学习和自适应系统
68T20型 人工智能背景下的问题解决(启发式、搜索策略等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 酸,S。;de Campos,L.M.,学习信念网络的混合方法论:BENEDICT,Int.J.近似原因。,27, 3, 235-262 (2001) ·Zbl 0983.68197号
[2] Adabor,E.S。;Acquaah-Mensah,G.K。;Oduro,F.T.,SAGA:转录调控网络贝叶斯网络结构学习的混合搜索算法,J.Biomed。信息,53,27-35(2015)
[3] Akaike,H.,统计模型识别的新视角,IEEE Trans。自动。控制,19,6,716-723(1974)·Zbl 0314.62039号
[5] Beinlich,美国伊利诺伊州。;Suermondt,H.J。;马丁·查韦斯(Martin Chavez),R。;Cooper,G.F.,《警报监测系统:信念网络两种概率推理技术的案例研究》(1989年),施普林格出版社:施普林格-柏林-海德堡
[6] 粘合剂,J。;科勒,D。;罗素,S。;Kanazawa,K.,带隐藏变量的自适应概率网络,马赫数。学习,29,2-3,213-244(1997)·Zbl 0892.68079号
[7] Borboudakis,G。;Tsamardinos,I.,离散病例对照数据的贝叶斯网络学习,(人工智能不确定性(UAI)(2015))
[8] 曹,S。;丁,X。;王,Q。;Chen,B.,基于反对的改进粒子群算法,用于优化无功功率调度和电压控制,数学。问题。工程,501,第754582条pp.(2015)
[9] Chickering,D.M.,《学习贝叶斯网络是NP-complete》,《从数据中学习》,121-130(1996),Springer:Springer New York
[10] Chickering,D.M.,《贝叶斯网络结构的学习等价类》,J.Mach。学习。决议,2445-498(2002)·Zbl 1007.68179号
[11] Chickering,D.M。;赫克曼,D。;Meek,C.,贝叶斯网络的大样本学习是NP-hard,J.Mach。学习。Res.,51287-1330(2004)·Zbl 1222.68169号
[12] Clerc,M.,《离散粒子群优化,以旅行商问题为例》,《工程中的新优化技术》,219-239(2004),施普林格出版社:施普林格-柏林-海德堡出版社·Zbl 1139.90415号
[13] 库珀,G.F。;Herskovits,E.,从数据中归纳概率网络的贝叶斯方法,马赫。学习。,9, 4, 309-347 (1992) ·Zbl 0766.68109号
[14] 库森,J。;Bartlett,M.,《使用整数规划的贝叶斯网络学习进展》,(第29届人工智能不确定性会议论文集(2013)),189-191
[15] 戴J。;Ren,J.,动态贝叶斯网络结构学习的无监督进化算法,贝叶斯网高级方法,136-151(2015),施普林格国际出版公司
[16] Daly,R。;Shen,Q.,用蚁群优化学习贝叶斯网络等价类,J.Artif。智力。决议,35,1391(2009)·兹比尔1192.68670
[17] 达世币,D。;Druzdzel,M.J.,《从稀疏数据构建因果模型的混合算法》(《第十五届人工智能不确定性会议论文集》(1999),MorGan-Kaufmann Publishers Inc.),142-149
[18] De Campos,C.P。;季,Q.,使用约束的贝叶斯网络的有效结构学习,J.Mach。学习。决议,12663-689(2011年)·Zbl 1280.68226号
[19] De Campos,L.M。;Miguel Puerta,J.,学习信念网络的随机局部算法:在有序空间中搜索,不确定性推理的符号和定量方法,228-239(2001),施普林格:施普林格-柏林-海德堡·Zbl 1001.68565号
[20] De Campos,L.M。;Huete,J.F.,《使用独立标准学习信念网络的新方法》,《国际期刊近似推理》。,24, 1, 11-37 (2000) ·兹比尔0995.68109
[21] De Campos,L.M。;Fernandez-Luna,J.M。;Gámez,J.A。;Puerta,J.M.,用于学习贝叶斯网络的蚁群优化,国际期刊近似推理。,31, 3, 291-311 (2002) ·Zbl 1033.68091号
[22] 德尔·卡门·查韦斯,M。;卡萨斯,G。;Falcón,R。;Moreira,J.E。;Grau,R.,《利用基于粒子群的特征选择构建精细贝叶斯网络》,MICAI 2007:《人工智能进展》,441-451(2007),Springer:Springer Berlin Heidelberg
[23] Dünder,E。;Cengiz,医学硕士。;Koç,H.,《基于约束的算法对医学研究混合算法中贝叶斯网络结构质量影响的调查》,J.Adv.Sci。第5、1号决议(2014年)
[24] 钢筋混凝土埃伯哈特。;Kennedy,J.,《使用粒子群理论的新优化器》(第六届国际微机器与人类科学研讨会论文集,第1卷(1995)),39-43
[25] 冯·G。;张,J-D;Liao,SS,结合贝叶斯网络的新方法,理论分析及其应用,模式识别。,47, 5, 2057-2069 (2014) ·Zbl 1339.68220号
[26] 弗里德曼,N。;我·纳奇曼。;Peér,D.,从海量数据集学习贝叶斯网络结构:“稀疏候选”算法,(第十五届人工智能不确定性会议论文集(1999),MorGan-Kaufmann Publishers Inc.),206-215
[27] 加拉格尔,M。;伍德,I。;Keith,J。;Sofronov,G.,分布算法估计中的贝叶斯推断,(IEEE进化计算大会,2007年)。CEC 2007(2007),IEEE),127-133
[29] 盖萨里,S。;Meybodi,M.R。;Dehghan,M。;Ebadzadeh,M.M.,《基于学习自动机游戏的贝叶斯网络结构训练》,国际J·马赫出版社。学习。网络。,7, 1-13 (2016)
[30] Glover,F.,《禁忌搜索:教程,界面》,20,4,74-94(1990)
[31] 何,Y.-L;王,R。;Kwong,S。;Wang,X-Z,基于概率密度估计的贝叶斯分类器及其在同时故障诊断中的应用,Inf.Sci。,259, 252-268 (2014) ·Zbl 1329.62134号
[32] Heckerman,D.,《贝叶斯网络学习教程》(1998),施普林格:施普林格荷兰·Zbl 0921.62029号
[33] Heckerman,D.,《贝叶斯网络学习教程》,贝叶斯网创新,33-82(2008),施普林格:施普林格-柏林-海德堡·Zbl 1196.62027号
[34] 赫克曼,D。;盖革,D。;Chickering,D.M.,《学习贝叶斯网络:知识和统计数据的结合》,马赫出版社。学习。,20, 3, 197-243 (1995) ·Zbl 0831.68096号
[35] Hemmecke,R。;Lindner,S。;Studení,M.,学习贝叶斯网络结构的特征集,国际期刊近似推理。,53, 9, 1336-1349 (2012) ·Zbl 1281.68183号
[36] Heng,X-C;秦,Z。;王,X-H;Shao,L-P,通过粒子群优化学习贝叶斯网络的研究,信息技术。J.,5,3,540-545(2006)
[37] Hesar,A.S.,《使用模拟退火算法的贝叶斯信念网络结构学习》,《中东科学杂志》。研究,18,9,1343-1348(2013)
[38] Hsu,W.H。;郭,H。;佩里,B.B。;Stilson,J.A.,从数据中学习贝叶斯网络中变量排序的置换遗传算法,(GECCO,第2卷(2002)),383-390
[39] Jaakkola,T。;桑塔格,D。;A.Globerson。;Meila,M.,《使用LP松弛学习贝叶斯网络结构》(国际人工智能与统计会议(2010)),358-365
[40] 贾拉亚,A。;Leray,P。;Masmoudi,A.,《离散指数贝叶斯网络:密度估计的定义、学习和应用》,神经计算,137142-149(2014)
[41] 肯尼迪,J。;Eberhart,R.C.,粒子群算法的离散二进制版本,(IEEE系统、人与控制论国际会议,1997年)。计算控制论与仿真。1997年,第5卷(1997),IEEE),4104-4108
[42] Kohavi,R。;John,G.H.,特征子集选择包装器,Artif。智力。,97, 1, 273-324 (1997) ·兹伯利0904.68143
[43] Koivisto,M.,《贝叶斯网络中精确贝叶斯结构发现的进展》,《第22届人工智能不确定性会议论文集》,241-248(2006),加利福尼亚州门洛帕克
[44] 科维斯托,M。;Sood,K.,《贝叶斯网络中的精确贝叶斯结构发现》,J.Mach。学习。第5549-573号决议(2004年)·Zbl 1222.68234号
[45] Koski,T.J.T。;Noble,J.M.,《贝叶斯网络和结构学习综述》,Ann.Soc.Math。波罗纳。系列3:数学。应用。,40, 1, 53-103 (2012) ·Zbl 1320.62051号
[46] Kullback,S.,《信息理论与统计》(1968年),Courier Corporation·Zbl 0149.37901号
[47] 拉腊尼亚加,P。;Karshenas,H。;比尔扎,C。;Santana,R.,《贝叶斯网络学习和推理任务中的进化算法综述》,《信息科学》。,233, 109-125 (2013) ·Zbl 1284.68501号
[48] 拉腊尼亚加,P。;波扎,M。;Yurramendi,Y。;MurGa,R.H。;Kuijpers,C.M.H.,《用遗传算法学习贝叶斯网络的结构:控制参数的性能分析》,IEEE Trans。模式分析。机器。智力。,1892-1926(1996年)
[49] Lauritzen,S.L。;Spiegelhalter,D.J.,《图形结构概率的局部计算及其在专家系统中的应用》,J.皇家统计学会。序列号。B(Methodol.),157-224(1988)·Zbl 0684.68106号
[50] Li,X-L,用于贝叶斯网络结构学习的粒子群优化和基于免疫理论的算法,《国际数据库理论应用》,3,2,61-69(2010)
[51] 李,X-L;王,S-C;He,X-D,基于记忆二进制粒子群优化的贝叶斯网络结构学习,模拟进化与学习,568-574(2006),施普林格:施普林格-柏林-海德堡
[52] 马云(Ma,Y.)。;杨,P。;赵,Z。;Wang,Y.,使用改进的粒子群优化算法优化岛内微电网经济运行,数学。探针。工程,501,第379250条pp.(2015)
[54] 马龙,B.,《贝叶斯网络结构学习算法的经验行为》,贝叶斯网高级方法,105-121(2015),斯普林格国际出版公司
[55] 马里尼,S。;Trifoglio,E。;北卡罗来纳州巴巴里尼。;Sambo,F。;卡米略,B.D。;马洛维尼,A。;Manfrini,M。;科贝利,C。;Bellazzi,R.,用于1型糖尿病临床并发症长期模拟的动态贝叶斯网络模型,J.Biomed。Inf.,57,369-376(2015)
[56] 摩尔,A。;Wong,W-K,《最佳重新插入:一种新的搜索算子,用于加速和更准确的贝叶斯网络结构学习》(ICML,第3卷(2003)),552-559
[59] 迈尔斯,JW。;拉斯基,KB;Levitt,T.,《使用随机搜索算法从不完整数据中学习贝叶斯网络》,(第十五届人工智能不确定性会议论文集(1999),MorGan-Kaufmann Publishers Inc.),476-485
[61] 奥戈曼,B。;巴布什,R。;Perdomo-Ortiz,A。;Aspuru-Guzik,A。;Smelyanskiy,V.,《使用量子退火的贝叶斯网络结构学习》,《欧洲物理》。J.专题,224,1,163-188(2015)
[62] 潘,Q.-K;Fatih Tasgetiren,M。;Liang,Y.C.,无等待flowshop调度问题的离散粒子群优化算法,计算。操作。研究,35,9,2807-2839(2008)·Zbl 1144.90393号
[63] S.、P。;费尔南多;Maciel,C.D.,用于学习高阶动态贝叶斯网络过渡结构的PSO方法,(生物信号和生物机器人会议(2014):生物信号和机器人技术促进更好和更安全的生活(BRC),第五届ISSNIP-EEE(2014),IEEE),1-6
[64] Pearl,J。;Russell,S.,贝叶斯网络(1998),加利福尼亚大学计算机科学系
[65] Pelikan,M.,贝叶斯优化算法,分层贝叶斯最优化算法,31-48(2005),施普林格:施普林格-柏林-海德堡·Zbl 1107.68084号
[66] 佩利坎,M。;Goldberg,D.E.,Bayesian Optimization Algorithm:From Single Level to Hierarchy(2002),伊利诺伊大学香槟分校:伊利诺伊州香槟分校
[67] Perkusich,M。;苏亚雷斯,G。;阿尔梅达,H。;Perkusich,A.,《使用贝叶斯网络检测软件开发项目中过程问题的程序》,专家系统。应用。,42, 1, 437-450 (2015)
[68] Pernkopf,F.,贝叶斯网络分类器与选择性k-NN分类器,模式识别。,38, 1, 1-10 (2005) ·Zbl 1101.68826号
[69] 佩里尔,E。;Imoto,S。;Miyano,S.,《寻找给定超结构的最优贝叶斯网络》,J.Mach。学习。第9,2251-2286号决议(2008年)·Zbl 1225.68206号
[70] Polprasert,J。;Ongsakul,W。;Dieu,VN,用于解决非凸经济调度问题的新改进粒子群优化,国际能源优化杂志。工程师(IJEOE),2,1,60-77(2013)
[71] 奎尔,G。;Meenakhisundaram,H。;Tamma,B。;Manoj,B.S。;Rao,R。;Zorzi,M.,通过贝叶斯网络分析进行认知网络推断,(全球电信会议(GLOBECOM 2010),2010 IEEE(2010),IEEE),1-6
[72] Rasmussen,L.K.,《牛的血型鉴定和亲子鉴定贝叶斯网络》(1995),研究中心Foulum:丹麦Foulum研究中心,博士。论文
[73] Ratnaweera,A.G。;HalGamuge,S.K。;Watson,H.C.,具有时变加速系数的自组织分层粒子群优化算法,IEEE Trans。进化。计算。,8, 3, 240-255 (2004)
[74] 罗宾逊,R.W.,《计算未标记的无环有向图》,组合数学V,28-43(1977),施普林格:施普林格-柏林-海德堡·兹比尔0376.05031
[75] 萨拉马,K.M。;Freitas,A.A.,构建贝叶斯多网分类器的蚁群算法,智能。数据分析。,19, 2, 233-257 (2015)
[76] Schwarz,G.,估算模型的维数,《Ann.Stat.》,6,2,461-464(1978)·兹伯利0379.62005
[77] Shi,Y。;Eberhart,R.,《改进的粒子群优化器》(1998年IEEE进化计算会议记录,1998年)。IEEE计算智能世界大会。(1998),IEEE),69-73
[78] Silverstein,C。;布林,S。;Motwani,R。;Ullman,J.,挖掘因果结构的可伸缩技术,Data Min.Knowl。发现。,163-192年4月2日至3日(2000年)
[79] Silander,T.公司。;Myllymaki,P.,《寻找全局最优贝叶斯网络结构的简单方法》,(第22届人工智能不确定性会议(2012)),445-452
[81] Spirtes,P。;Clark,N.、Glymour和Richard Scheines,因果关系、预测和搜索,第81卷(2000年),麻省理工出版社
[82] 铃木,J.,《连续变量贝叶斯网络结构学习的一致性:信息论方法》,《熵》,17,8,5752-5770(2015)
[83] Teyssier,T。;Koller,D.,《基于排序的搜索:学习贝叶斯网络的简单有效算法》,第二十一届人工智能不确定性会议论文集,584-590(2005)
[84] 沙马尔迪诺斯一世。;Brown,L.E。;Aliferis,C.F.,最大爬山贝叶斯网络结构学习算法,马赫。学习。,65, 1, 31-78 (2006) ·兹比尔1470.68192
[85] 维拉努埃瓦,E。;Maciel,CD,学习贝叶斯网络超结构的有效方法,神经计算,123,3-12(2014)
[87] Wang,T。;Yang,J.,使用离散粒子群优化学习贝叶斯网络的启发式方法,Knowl。信息系统。,24, 2, 269-281 (2010)
[88] Y.Welhazi。;Guesmi,T。;Abdallah,H.H.,使用多目标PSO算法的多机电力系统特征值分配,国际能源优化杂志。工程师(IJEOE),4,3,33-48(2015)
[89] 谢,X。;Geng,Z.,有向非循环图结构学习的递归方法,J.Mach。学习。第9号决议,第459-483页(2008年)·兹比尔1225.68222
[90] 兴辰,H。;郑琦。;Lei,T。;Li-Ping,S.,《使用离散粒子群优化算法学习贝叶斯网络结构》(IEEE计算智能基础研讨会,2007年)。FOCI 2007。(2007),IEEE),47-52
[91] 兴辰,H。;郑琦。;Lei,T。;Li-Ping,S.,《基于粒子群优化的动态贝叶斯网络结构学习研究》(IEEE人工生命研讨会,2007年)。2007年阿里夫。(2007),IEEE),85-91
[92] 袁,C。;Malone,B.,学习最优贝叶斯网络:最短路径视角,J.Artif。智力。研究(JAIR),48,23-65(2013)·Zbl 1361.68182号
[93] 袁,C。;马龙,B。;Wu,X.,使用A*搜索学习最优贝叶斯网络,(IJCAI会议记录-国际人工智能联合会议,第22卷(2011)),2186
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。