×

混合半参数贝叶斯网络。 (英语) Zbl 1492.62022号

摘要:本文提出了一类新的贝叶斯网络,称为混合半参数贝叶斯网,它可以通过混合参数和非参数估计模型来建模混合数据(离散数据和连续数据)。参数估计模型可以表示变量之间的条件线性高斯关系,而非参数估计模型则可以表示其他类型的关系,例如非高斯和非线性关系。这类新的贝叶斯网络推广了条件线性高斯贝叶斯网,并将其作为一个特例。此外,我们描述了我们所提出的贝叶斯网络的结构和参数的学习过程。该学习过程自动从数据中找到参数模型和非参数模型的最佳组合。这需要定义交叉验证分数。我们还详细介绍了如何从混合半参数贝叶斯网络中抽取新数据,这反过来又有助于解决其他相关任务,例如推理。此外,我们直观地将我们的建议与自适应核密度估计模型联系起来。实验结果表明,混合半参数贝叶斯网络在处理不符合其他模型(如条件线性高斯贝叶斯网)预期的参数假设的数据时是一个有价值的贡献。我们使用UCI存储库中的合成数据和真实数据进行了实验,这些实验证明了良好的性能和提取有关模型中变量之间关系的有用信息的能力。

MSC公司:

62-08 统计学相关问题的计算方法
68层37 人工智能背景下的不确定性推理
2015年1月62日 贝叶斯推断
62G07年 密度估算
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Atienza,D。;比尔扎,C。;Larrañaga,P.,半参数贝叶斯网络,信息科学,584564-582(2022)·Zbl 07798599号 ·doi:10.1016/j.ins.2021.10.074
[2] Bielza C,Larrañaga P(2014a)离散贝叶斯网络分类器:一项调查。ACM Compute Surv 47(1):第5条·Zbl 1322.68147号
[3] Bielza C,Larrañaga P(2014b)《神经科学中的贝叶斯网络:一项调查》。前计算机神经科学8:第131条·Zbl 1322.68147号
[4] Boukabour S,Masmoudi A(2020),连续数据的半参数贝叶斯网络。公共统计理论方法1-23·Zbl 07532237号
[5] 鲍曼,AW,密度估计平滑的交叉验证替代方法,生物统计学,71,2,353-360(1984)·doi:10.1093/biomet/71.2.353
[6] 布雷曼,L。;梅塞尔,W。;Purcell,E.,多变量密度的可变核估计,Technometrics,19,2135-144(1977)·Zbl 0379.62023号 ·doi:10.1080/00401706.1977.10489521
[7] 曹,R。;Cuevas,A。;González Manteiga,W.,密度估计中几种平滑方法的比较研究,《计算统计数据分析》,17,2,153-176(1994)·Zbl 0937.62518号 ·doi:10.1016/0167-9473(92)00066-Z
[8] 卡彭特,B。;Gelman,A。;医学博士霍夫曼;Lee,D。;古德里奇,B。;贝当古,M。;布鲁贝克,M。;郭杰。;李,P。;Riddell,A.,Stan:概率编程语言,J Stat Softw,76,1,1-32(2017)·doi:10.18637/jss.v076.i01
[9] 恰科恩,JE;Duong,T.,多元核平滑及其应用(2018),伦敦:Chapman和Hall/CRC,伦敦·Zbl 1402.62003号 ·doi:10.1201/9780429485572
[10] Codetta-Raiteri,D。;Portinale,L.,用于自主航天器故障检测、识别和恢复的动态贝叶斯网络,IEEE Trans-Syst Man Cybern Syst,45,1,13-24(2015)·doi:10.1109/TSMC.2014.2323212
[11] Darwiche,A.,《贝叶斯网络建模与推理》(2009),剑桥:剑桥大学出版社,剑桥·Zbl 1231.68003号 ·doi:10.1017/CBO9780511811357
[12] Demšar,J.,多数据集上分类器的统计比较,J Mach Learn Res,7,1-30(2006)·Zbl 1222.68184号
[13] Dua D,Graff C(2017)UCI机器学习库。网址:http://archive.ics.uci.edu/ml
[14] Duong,T。;Hazelton,M.,《双变量核密度估计的插入带宽矩阵》,《非参数统计杂志》,第15、1、17-30页(2003年)·Zbl 1019.62032号 ·doi:10.1080/10485250306039
[15] Fox,J.,《应用回归分析、线性模型和相关方法》(1997),贝弗利山:SAGE出版物,贝弗利山
[16] Friedman N,Goldszmidt M(1996)学习具有局部结构的贝叶斯网络。摘自:第十二届人工智能不确定性国际会议记录。Morgan Kaufmann Publishers,Los Altos,第252-262页·Zbl 0910.68176号
[17] Friedman N,Nachman I(2000),高斯过程网络。摘自:第十六届人工智能不确定性会议记录。Morgan Kaufmann Publishers,Los Altos,第211-219页
[18] 南卡罗来纳州加西亚。;Herrera,F.,“多数据集上分类器的统计比较”对所有成对比较的扩展,《机器学习研究杂志》,9,2677-2694(2008)·Zbl 1225.68178号
[19] 手套,F。;Laguna,M.,《禁忌搜索》(1993),伦敦:John Wiley&Sons出版社,伦敦·Zbl 0774.90033号
[20] Gonzalez,R。;黄,B。;Lau,E.,《使用核密度估计和贝叶斯网络进行过程监控,并进行工业案例研究》,ISA Trans,58,330-347(2015)·doi:10.1016/j.isatra.2015.04.001
[21] Heckerman D,Chickering DM(1997)贝叶斯模型选择的科学和工程标准比较。摘自:第六届人工智能与统计国际研讨会论文集,R1卷,第275-282页
[22] 赫克曼博士。;盖革,D。;Chickering,DM,Learning Bayesian networks:the combination of knowledge and statistical data,马赫学习,20,3,197-243(1995)·Zbl 0831.68096号
[23] Hofmann R,Tresp V(1995)使用贝叶斯网络发现连续变量的结构。收录:神经信息处理系统进展论文集,第8卷。麻省理工学院出版社,剑桥,第500-506页
[24] Ickstadt K、Bornkamp B、Grzegorczyk M、Wieczorek J、Rahuman Sheriff M、Grecco HE、Zamir E(2012)非参数贝叶斯网络。在:贝叶斯统计学,第9卷。牛津大学出版社,牛津,第1-40页
[25] John GH,Langley P(1995)估计贝叶斯分类器中的连续分布。摘自:第十一届人工智能不确定性会议论文集。Morgan Kaufmann Publishers,Los Altos,第338-345页
[26] 科勒,D。;弗里德曼,N.,《概率图形模型:原理和技术》(2009),剑桥:麻省理工学院出版社,剑桥·Zbl 1183.68483号
[27] Langseth,H。;尼尔森,TD;Rumí,R。;Salmerón,A.,截断基函数的混合,国际J近似推理,53,2,212-227(2012)·Zbl 1242.68333号 ·doi:10.1016/j.ijar.2011.10.004
[28] Lauritzen,SL;Wermuth,N.,变量之间关联的图形模型,其中一些是定性的,一些是定量的,Ann Stat,17,1,31-57(1989)·Zbl 0669.62045号 ·doi:10.1214操作系统/1176347003
[29] Lerner U,Segal E,Koller D(2001)连续父母离散子女网络中的精确推理。摘自:第十七届人工智能不确定性会议论文集。Morgan Kaufmann Publishers,Los Altos,第319-328页
[30] DO Loftsgaarden;Quesenberry,CP,多元密度函数的非参数估计,《数学统计年鉴》,36,3,1049-1051(1965)·Zbl 0132.38905号 ·doi:10.1214/aoms/1177700079
[31] Luengo-Sanchez,S。;拉腊尼亚加,P。;Bielza,C.,定向线性贝叶斯网络及其在神经体聚类和模拟中的应用,IEEE Access,769907-69921(2019)·doi:10.1109/ACCESS.2019.2918494
[32] Lunn,D。;Spiegelhalter,D。;托马斯。;Best,N.,《BUGS项目:进化、批判和未来方向》,《Stat Med》,第28、25、3049-3067页(2009年)·doi:10.1002/sim.3680
[33] Maathuis,M。;德顿,M。;Lauritzen,S。;Wainwright,M.,《图形模型手册》(2018),博卡拉顿:CRC出版社,博卡拉顿·兹比尔1410.62001 ·数字对象标识代码:10.1201/9780429463976
[34] 马斯卡罗,S。;AE尼科尔森;Korb,KB,《使用贝叶斯网络对船舶航迹进行异常检测》,《国际J近似原因》,55,1,84-98(2014)·doi:10.1016/j.ijar.2013.03.012
[35] Masmoudi,K。;Masmoudi,A.,一类新的连续贝叶斯网络,《国际J近似推理》,109125-138(2019)·兹比尔1466.62346 ·doi:10.1016/j.ijar.2019.03.010
[36] 道德,S。;Rumí,R。;Salmerón,A.,混合贝叶斯网络中截断指数的混合,不确定性推理的符号和定量方法,156-167(2001),柏林:施普林格出版社,柏林·Zbl 1001.68544号 ·doi:10.1007/3-540-44652-4_15
[37] Nadaraya,EA,《关于估计回归》,《概率论应用》,9,1,141-142(1964)·doi:10.1137/1109020
[38] Pearl,J.,《智能系统中的概率推理》(1988),洛杉矶:摩根考夫曼出版社,洛杉矶·Zbl 0746.68089号
[39] 佩雷斯,A。;拉腊尼亚加,P。;Inza,I.,《基于核密度估计的贝叶斯分类器:柔性分类器》,《国际J近似推理》,50,2,341-362(2009)·Zbl 1191.68600号 ·doi:10.1016/j.ijar.2008.08.008
[40] Prechelt,L.,提前停止——但什么时候?,《神经网络:贸易技巧》,53-67(2012),柏林:施普林格出版社,柏林·doi:10.1007/978-3-642-35289-85
[41] Rudemo,M.,直方图和核密度估计的经验选择,Scand J Stat,9,2,65-78(1982)·Zbl 0501.62028号
[42] 斯科特,德国之声,《多变量密度估计:理论、实践和可视化》(2015),伦敦:威利,伦敦·Zbl 1311.62004号
[43] Scutari,M。;格拉夫兰,CE;Gutiérrez,JM,《谁学习更好的贝叶斯网络结构:结构学习算法的准确性和速度》,《国际近似推理》,115,235-253(2019)·Zbl 1470.68171号 ·doi:10.1016/j.ijar.2019.10.003
[44] Shenoy,PP公司;West,JC,《使用多项式混合物的混合贝叶斯网络推断》,《国际J近似推理》,52,5,641-657(2011)·Zbl 1214.68404号 ·doi:10.1016/j.ijar.2010.09.003
[45] Spirtes,P。;Glymour,C。;Scheines,R.,因果、预测和搜索(2001),剑桥:麻省理工学院出版社,剑桥·Zbl 0981.62001号 ·doi:10.7551/mitpress/1754.001.0001
[46] 杉山,M。;铃木,T。;Kanamori,T.,机器学习中的密度比估计(2012),剑桥:剑桥大学出版社,剑桥·Zbl 1274.62037号 ·文件编号:10.1017/CBO9781139035613
[47] Thiesson B、Meek C、Chickering DM、Heckerman D(1998)学习DAG模型的混合。摘自:第十四届人工智能不确定性会议论文集。Morgan Kaufmann Publishers,Los Altos,第504-513页
[48] 沙马尔迪诺斯一世。;布朗,LE;Aliferis,CF,最大爬山贝叶斯网络结构学习算法,马赫学习,65,1,31-78(2006)·Zbl 1470.68192号 ·doi:10.1007/s10994-006-6889-7
[49] Watson,GS,平滑回归分析,Sankhya Indian J Stat Ser A(1961-2002),26,4,359-372(1964)·Zbl 0137.13002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。