×

通过对多重干预进行评分,发现具有潜在变量的混合贝叶斯网络。 (英语) Zbl 1517.68328号

摘要:在贝叶斯网络中,边的方向对于因果推理和推理至关重要。然而,马尔可夫等价类的考虑意味着不可能总是建立边缘方向,这就是为什么许多BN结构学习算法不能从纯观测数据中确定所有边缘的方向。此外,潜在的混淆可能导致假阳性边缘。针对这些问题提出的方法相对较少。在这项工作中,我们提出了混合mFGS-BS(多数规则和快速贪婪等价搜索与贝叶斯评分)算法,用于从包含观测数据集和一个或多个干预数据集的离散数据中进行结构学习。该算法假设存在潜在变量时存在因果关系不足,并生成部分祖先图(PAG)。结构学习依赖于一种混合方法和一种新的贝叶斯评分范式,该范式计算每个有向边被添加到学习图中的后验概率。基于多达109个变量和10k样本大小的著名网络的实验结果表明,相对于最新技术,mFGS-BS提高了结构学习的准确性,并且计算效率高。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H22个 概率图形模型
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 安德森公司;Madigan博士。;Perlman,MD,非循环有向图的马尔可夫等价类的特征,Ann Stat,25,2,505-541(1997)·兹比尔0876.60095 ·doi:10.1214/aos/1031833662
[2] 爱荷华州贝因利希;苏尔蒙特,HJ;马丁·查韦斯(Martin Chavez),R。;库珀,GF;吉姆·亨特(Jim Hunter);约翰·库克森;Wyatt,Jeremy,《警报监控系统:信念网络两种概率推理技术的案例研究》,AIME 89,247-256(1989),柏林:斯普林格-柏林-海德堡,柏林·doi:10.1007/978-3-642-93437-7_28
[3] 卡斯特罗,R。;Siebes,A.,关于网络结构的Priors。对贝叶斯网络搜索的偏见,Int J Approx Reason,24,1,39-57(2000)·Zbl 0995.68112号 ·doi:10.1016/S0888-613X(99)00041-9
[4] Chickering,DM,贪婪搜索的最优结构识别,J Mach Learn Res,3507-554(2003)·Zbl 1084.68519号 ·doi:10.1162/153244303321897717
[5] Chobtham K和Constantinou AC(2020)贝叶斯网络结构学习,在存在潜在变量的情况下具有因果效应。M.Jaeger和T.D.Nielsen(编辑)。摘自:第十届概率图形模型国际会议论文集,机器学习研究论文集第138卷,第101-112页
[6] 科伦坡,D。;Maathuis,MH,基于有序依赖约束的因果结构学习,J Mach Learn Res,15,116,3921-3962(2014)·Zbl 1312.68165号
[7] 科伦坡,D。;Maathuis,M。;Kalisch,M。;Richardson,T.,《学习具有潜在和选择变量的高维有向无环图》,《年鉴统计》,40,04(2011)·Zbl 1246.62131号 ·doi:10.1214/11-AOS940
[8] Constantinou,AC,使用平衡计分函数评估结构学习算法,CoRR,arXiv,126662019(1905)
[9] Constantinou,AC;芬顿,N。;Neil,M.,《将专家知识与贝叶斯网络中的数据整合:在专家变量未被观察时保留数据驱动的期望》,《专家系统应用》,56,197-208(2016)·doi:10.1016/j.eswa.2016.02.050
[10] Constantinou,AC;刘,Y。;科布瑟姆。;郭,Z。;Kitson,NK,《含噪声数据的贝叶斯网络结构学习算法的大规模实证验证》,《国际近似推理》,131151-188(2021)·doi:10.1016/j.ijar.2021.01.001
[11] Constantinou AC、Liu Y、Chobtham K、Guo Z和Kitson NK(2020)贝叶斯数据和贝叶斯网络知识库。统一资源定位地址http://Bayesian-ai.eecs.qmul.ac.uk/贝叶斯/。
[12] Cussens J(2012)Bdeu本地分数的上限。
[13] de Waal A、Koen H、de Villiers P、Roodt H、Moorosi N和Pavlin G(2016)用专家定义的潜在变量构建和评估贝叶斯网络。2016年第19届信息融合国际会议(Fusion),第774-781页。
[14] de Zoete,J。;芬顿,N。;Noguchi,T。;拉格纳多,D.,用贝叶斯网络解决所谓的“法律推理中的概率悖论”,《科学司法》,59,4,367-379(2019)·doi:10.1016/j.scijus.2019.03.003
[15] Eaton D和Murphy K(2007)从不确定干预中学习精确贝叶斯结构。在M.Meila和X.Shen,(编辑),《第十一届人工智能与统计国际会议论文集》,机器学习研究论文集第2卷,第107-114页,波多黎各圣胡安,21-24。PMLR公司。
[16] Fisher R(1935)实验设计。1935.爱丁堡奥利弗和博伊德。
[17] Gebser,M。;考夫曼,B。;卡明斯基,R。;奥斯特罗斯基,M。;Schaub,T。;Schneider,M.,1 potassco:The potsdam答案集求解集合,AI Commun,24,107-124(2011)·Zbl 1215.68214号 ·doi:10.3233/AIC-2011-0491
[18] Gelfond M和Lifschitz V(1988)逻辑编程的稳定模型语义。在R.Kowalski、Bowen和Kenneth(编辑)中。摘自:国际逻辑编程会议和研讨会记录,第1070-1080页。麻省理工学院出版社。统一资源定位地址http://www.cs.utexas.edu/users/ai-lab?gel88。
[19] Hauser A和Bu¨hlmann P(2012)有向无环图的介入马尔可夫等价类的刻画和贪婪学习·Zbl 1433.68346号
[20] 赫克曼,D。;霍维茨,E。;Nathwani,B.,《走向规范化专家系统:第一部分探路者项目》,《方法通知医学》,3190-105(1992)·doi:10.1055/s-0038-1634867
[21] 赫克曼,D。;盖革,D。;Chickering,DM,Learning Bayesian networks:the combination of knowledge and statistical data,马赫学习,20,3,197-243(1995)·Zbl 0831.68096号 ·doi:10.1007/BF00994016
[22] Hyttinen A、Eberhardt F和Ja¨rvisalo M(2014)《基于约束的因果发现:用答案集编程解决冲突》。摘自:《第三十届人工智能不确定性会议论文集》,UAI'14,第340-349页,美国弗吉尼亚州阿灵顿,AUAI出版社。国际标准图书编号9780974903910。
[23] 贾巴里,F。;Cooper,G.,一种用于学习包含潜在变量的因果贝叶斯网络结构的特定实例算法,Proc SIAM Int Conf Data Mining(2020)·doi:10.1137/1.9781611976236.49
[24] 贾巴里,F。;Ramsey,J。;Spirtes,P。;Cooper,GF,通过独立性约束的贝叶斯评分发现包含潜在变量的因果模型,Mach Learn Knoll Discov Databases:Eur Conf,ECML PKDD,142-1572017(2017)
[25] 科尔布,KB;希望,LR;AE尼科尔森;Axnick,K。;张,C。;Guesgen,HW;Yeap,W-K,因果干预的多样性,PRICAI 2004:人工智能趋势(2004),柏林:施普林格-柏林-海德堡,柏林
[26] Kummerfeld,E.,对基本图中无向边的简单解释是错误的,PLOS ONE,16,4,1-12(2021)·doi:10.1371/journal.pone.0249415
[27] Lauritzen,SL;Spiegelhalter,DJ,图形结构概率的局部计算及其在专家系统中的应用,J Roy Stat Soc:Ser B(Methodol),50,2,157-194(1988)·Zbl 0684.68106号
[28] Magliabane S、Claassen T和Mooij JM(2017)《祖先因果推断》·Zbl 1507.62224号
[29] Margaritis D(2005)连续域中贝叶斯网络结构的无分布学习。摘自:第20届全国人工智能会议纪要第2卷,AAAI'05,第825-830页。AAAI出版社,2005年。国际标准图书编号157735236x。
[30] Mooij JM、Magliabane S和Claassen T(2020)《从多个上下文进行联合因果推断》·Zbl 1507.62224号
[31] Niemela,I.,《以稳定模型语义作为约束编程范式的逻辑程序》,《Ann Math Artif Intell》,25,3-4,241-273(1999)·Zbl 0940.68018号 ·doi:10.1023/A:1018930122475
[32] Ogarrio JM、Spirtes P和Ramsey J(2016)潜在变量模型的混合因果搜索算法。在A.Antonucci、G.Corani和C.P.Campos(编辑)中。摘自:第八届概率图形模型国际会议论文集,第368-379页。
[33] Pearl,J.,《因果关系:模型、推理和推断》(2013),剑桥大学出版社·doi:10.1017/CBO9780511803161
[34] Ramsey J、Zhang J和Spirtes P(2012)邻信度和保守因果推断。CoRR,abs/1206.6843。
[35] Ramsey JD(2015)扩大连续变量的贪婪等价搜索。CoRR,abs/1507.07749。
[36] 理查德森,T。;Spirtes,P.,《祖先图马尔可夫模型》,《Ann Stat》,30,11(2000)·Zbl 1033.60008号 ·doi:10.1214/aos/1031689015
[37] Rickles,D.,复杂干预措施中的因果关系,Med Health Care Philos,12,77-90(2009)·数字对象标识代码:10.1007/s11019-008-9140-4
[38] 伦格,J。;巴蒂亚尼,S。;博尔特,E。;Camps-Valls,G。;库姆·D·。;Deyle,E。;Glymour,C。;Kretschmer,M。;Mahecha,医学博士;穆尼奥斯·马雷,J。;爱荷华州van Nes;彼得斯,J。;奎克斯,R。;Reichstein,M。;谢弗,M。;Schölkopf,B。;Spirtes,P。;杉原,G。;孙,J。;张凯。;Zscheischler,J.,《从地球系统科学中的时间序列推断因果关系》,国家公社(2019)·doi:10.1038/s41467-019-10105-3
[39] 萨克斯,K。;佩雷斯,O。;佩尔,D。;劳芬伯格,DA;Nolan,GP,《从多参数单细胞数据导出的因果蛋白信号网络》,《科学》,308,5721,523-529(2005)·doi:10.1126/science.1105809
[40] M.Scutari.离散贝叶斯网络的经验贝叶斯分数,2017年。
[41] Scutari M(2019)学习数据集存储库。统一资源定位地址https://www.bnlearn.com/bnrepository。
[42] Silander T、Kontkanen P和Myllymaki P(2012)关于映射贝叶斯网络结构对等效样本大小参数的敏感性。
[43] Spirtes P、Glymour C和Scheines R(2001)《因果、预测和搜索》,麻省理工学院出版社第2版第1卷。麻省理工学院出版社。ISBN阵列(0x479b6ad8)·Zbl 0806.62001
[44] 索恩利,S。;RJ马歇尔;杰克逊,R。;先生们,D。;Dalbeth,N。;克伦格尔,S。;科尔,A。;Wells,S.,血清尿酸与心血管疾病的发病有因果关系吗?,《风湿病学》,52,1,135-142(2012)·doi:10.1093/风湿病/kes269
[45] Tian J和Pearl J(2001),从变化中发现因果关系:贝叶斯方法。01 2001.
[46] Triantafillou,S。;Tsamardinos,I.,从重叠变量集的多重干预中基于约束的因果发现,J Mach Learn Res,16,66,2147-2205(2015)·Zbl 1351.68239号
[47] Triantafillou S(2016)COmbINE MATLAB库。统一资源定位地址https://github.com/striantafillou/COmbINE网站 .
[48] Tsirlis,K。;拉加尼,V。;Triantafillou,S。;Tsamardinos,I.,关于用max-min爬山算法对最大祖先图进行评分,Int J Approx Reason,10208(2018)·兹比尔1448.68378 ·doi:10.1016/j.ijar.2018.08.002
[49] Verma T和Pearl J(1990)因果模型的等效性和综合。摘自:第六届人工智能不确定性年度会议记录,UAI’90,第255-270页,美国,1990年。爱思唯尔科学公司ISBN 0444892648。
[50] Wang Y,Solus L,Yang KD和Uhler C(2017)基于置换的因果推理算法与干预。
[51] Wongchokprasitti C(2019)《四分体文库的R因果R包装》,第1.1.1版。https://github.com/bd2kccd/r-castual(https://吉特胡布.com/bd2千卡/r因果)
[52] 张杰(2006)因果推理与因果不充分系统中的推理。技术报告。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。