×

贝叶斯网络中参数的层次估计。 (英语) Zbl 1507.62005年

摘要:提出了一种贝叶斯网络参数估计的新方法。其主要思想是在多项式狄利克雷模型中引入超先验,该模型传统上用于贝叶斯网络中的条件分布估计。由此产生的层次模型联合估计属于同一条件概率表的不同条件分布,从而借用统计强度彼此之间。对层次模型诱导的先验依赖结构进行了分析研究特别的推导了快速准确推理的变分算法。与传统模型相比,所提出的层次模型在贝叶斯网络分类方面取得了重大的性能改进。与传统的MCMC方法相比,所提出的变分算法将计算时间减少了两个数量级,在参数估计方面具有相同的精度。此外,受实际案例研究的启发,将层次模型应用于贝叶斯网络参数的估计借款强度来自相关领域。

MSC公司:

62-08 统计问题的计算方法
2015年1月62日 贝叶斯推断
68层35 人工智能语言和软件系统理论(基于知识的系统、专家系统等)
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 巴格纳尔,A。;Cawley,G.C.,《关于分类算法实证评估中默认参数设置的使用》(2017),arXiv预印本arXiv:1703.06777
[2] 巴特利特,M。;Cussens,J.,贝叶斯网络结构学习问题的整数线性规划,人工智能,244258-271(2017)·Zbl 1404.68094号
[3] 布莱,D.M。;Kucukelbir,A。;McAuliffe,J.D.,《变分推理:统计学家评论》,J.Amer。统计师。协会,112,518,859-877(2017)
[4] 布莱,D.M。;Ng,A.Y。;Jordan,M.I.,《潜在迪里克莱分配》,J.Mach。学习。决议,3,993-1022(2003)·Zbl 1112.68379号
[5] Bradley,A.P.,机器学习算法评估中ROC曲线下面积的使用,模式识别。,30, 7, 1145-1159 (1997)
[6] Bucher,D.,Cellina,F.,Mangili,F.、Raubal,M.、Rudel,R.、Rizzoli,A.E.、Elabed,O.,2016年。开发健身应用程序实现可持续移动-部署GoEco的挑战!应用程序。In:第四届国际会议ICT支持。(ICT4S 2016),2016年9月,第89-98页。;Bucher,D.,Cellina,F.,Mangili,F.、Raubal,M.、Rudel,R.、Rizzoli,A.E.、Elabed,O.,2016年。开发健身应用程序实现可持续移动-部署GoEco的挑战!应用程序。In:第四届国际会议ICT支持。(ICT4S 2016),2016年9月,第89-98页。
[7] 坎波斯,C.P.d。;季,Q.,使用约束的贝叶斯网络的有效结构学习,J.Mach。学习。决议,663-689年3月12日(2011年)·Zbl 1280.68226号
[8] 卡彭特,B。;Gelman,A。;霍夫曼,M。;Lee,D。;古德里奇,B。;贝当古,M。;布鲁贝克,M。;郭杰。;李,P。;Riddell,A.,Stan:概率编程语言,J.Stat.Softw。,76, 1, 1-32 (2017)
[9] 卡塞拉,G。;Moreno,E.,《评估双向列联表中独立性内在测试的稳健性》,J.Amer。统计师。协会,104,487,1261-1271(2009)·Zbl 1328.62359号
[10] Cellina,F.,Bucher,D.,Rudel,R.,Raubal,M.,Andrea,E.,2016年。利用生态反馈和游戏化元素促进可持续的出行方式:GoEco!活体实验室实验。In:第四版Eur.Conf.Behav。能效。(Behave 2016),9月,第8-9页。;Cellina,F.、Bucher,D.、Rudel,R.、Raubal,M.、Andrea,E.,2016年。利用生态反馈和游戏化元素推广可持续的出行方式:推出GoEco!活体实验室实验。In:第四版Eur.Conf.Behav。能效。(Behave 2016),9月,第8-9页。
[11] Darwiche,A.,《贝叶斯网络建模与推理》(2009),剑桥大学出版社·Zbl 1231.68003号
[12] Darwiche,A.,贝叶斯网络,Commun。ACM,53,12,80-90(2010)
[13] Demichelis,F。;Magni,P。;Piergiorgi,P。;鲁宾,医学硕士。;Bellazzi,R.,用于处理分类问题中样本异质性的分层朴素贝叶斯模型:组织微阵列的应用,BMC生物信息学,7,1,514(2006)
[14] 多明戈斯,P。;Pazzani,M.,关于零损失下简单贝叶斯分类器的最佳性,马赫。学习。,29, 2, 103-130 (1997) ·Zbl 0892.68076号
[15] 费尔南德斯·德尔加多,M。;Cernadas,E。;巴罗,S。;Amorim,D.,我们需要数百个分类器来解决现实世界的分类问题,J.Mach。学习。研究,15,1,3133-3181(2014)·Zbl 1319.62005号
[16] Friedman,J.,《关于偏见、方差、0/1损失和维度诅咒》,Data Min.Knowl。发现。,1, 55-77 (1997)
[17] 弗里德曼,N。;盖革,D。;Goldszmidt,M.,贝叶斯网络分类器,马赫。学习。,29, 2/3, 131-163 (1997) ·Zbl 0892.68077号
[18] Gelman,A。;Carlin,J.B。;斯特恩,H.S。;邓森,D.B。;Vehtari,A。;Rubin,D.B.,贝叶斯数据分析(2014),CRC出版社·Zbl 1279.62004号
[19] 格雷戈奇克,M。;Husmeier,D.,《系统和合成生物学应用中具有顺序耦合交互参数的非齐次动态贝叶斯网络》,《统计应用》。遗传学。分子生物学。,11, 4 (2012) ·Zbl 1296.92039号
[20] Jaakkola,T.S。;Jordan,M.I.,通过变分方法进行贝叶斯参数估计,Stat.Comput。,10, 1, 25-37 (2000)
[21] M.I.乔丹。;加赫拉马尼,Z。;Jaakkola,T.S。;Saul,L.K.,《图形模型变分方法简介》,马赫。学习。,37, 2, 183-233 (1999) ·兹比尔0945.68164
[22] Kim,D.-k。;Voelker,G。;Saul,L.,《层次语料库主题建模的变分近似》,(第30届机器学习国际会议论文集,第28卷(2013),PMLR),55-63
[23] 科勒,D。;弗里德曼,N.,《概率图形模型:原理和技术》(2009),麻省理工学院出版社·兹比尔1183.68483
[24] Kucukelbir,A。;Tran,D。;Ranganath,R。;Gelman,A。;布莱,D.M.,自动微分变分推理,J.马赫。学习。第18号决议,1430-474(2017)·Zbl 1437.62109号
[25] Leday,G.G。;de Gunst,M.C。;Kpogbezan,G.B。;范德法特,A.W。;Van Wieringen,W.N。;Van de Wiel,M.A.,《使用全局-局部收缩先验进行基因网络重建》,Ann.Appl。《法律总汇》,11,1,41(2017)·Zbl 1366.62227号
[26] 马洛维尼,A。;北卡罗来纳州巴巴里尼。;贝拉齐,R。;De Michelis,F.,遗传关联研究的层次朴素贝叶斯,BMC生物信息学,13,14,S6(2012)
[27] Murphy,K.P.,《机器学习:概率观点》(2012),麻省理工出版社·Zbl 1295.68003号
[28] Niculescu-Mizil,A.,Caruana,R.,2007年。贝叶斯网络结构学习的归纳迁移。In:程序。《人工智能与统计》,第339-346页。;Niculescu-Mizil,A.,Caruana,R.,2007年。贝叶斯网络结构学习的归纳迁移。In:程序。《人工智能与统计》,第339-346页。
[29] Oates,C.J。;J.Q.史密斯。;穆克吉,S。;Cussens,J.,多重有向无环图的精确估计,统计计算。,26, 4, 797-811 (2016) ·Zbl 1505.62300号
[30] 潘,S.J。;Yang,Q.,迁移学习调查,IEEE Trans。知识。数据工程,22,10,1345-1359(2010)
[31] 佩蒂让,F。;W.邦廷。;韦伯,G.I。;Zaidi,N.,《使用分层Dirichlet过程对贝叶斯网络分类器进行精确参数估计》,马赫。学习。,107, 8, 1303-1331 (2018) ·兹比尔1473.68189
[32] Scanagatta,M。;Corani,G。;de Campos,C。;Zaffalon,M.,《带数千个变量的学习树宽边界贝叶斯网络》(Lee,D.D.;Sugiyama,M.;Luxburg,U.V.;Guyon,I.;Garnett,R.,NIPS 2016:神经信息处理系统进展,第29卷(2016))
[33] Scutari,M.,《使用bnlearn R包学习贝叶斯网络》,J.Stat.Softw。,35, 3 (2010)
[34] Teh,Y.W。;M.I.乔丹。;Beal,M.J。;Blei,D.M.,分层狄利克雷过程,J.Amer。统计师。协会,101,476,1566-1581(2006)·Zbl 1171.62349号
[35] 温伯格,M。;Alipanahi,B。;Frey,B.J.,“随机森林真的是最好的分类器吗?”?,J.马赫。学习。研究,17,1,3837-3841(2016)
[36] Wainwright,M.J。;Jordan,M.I.,《图形模型、指数族和变分推理》,Found。趋势马赫数。学习。,1, 1-2, 1-305 (2008) ·Zbl 1193.62107号
[37] 韦布,G.I。;J.R.布顿。;Wang,Z.,《不那么天真的贝叶斯:聚合单依赖估计量》,马赫。学习。,58, 1, 5-24 (2005) ·Zbl 1075.68078号
[38] Yuan,C.,Malone,B.,Wu,X.,2011年。使用A*搜索学习最佳贝叶斯网络。In:程序。国际人工智能联合会议,第22卷,第2186页。;Yuan,C.,Malone,B.,Wu,X.,2011年。使用A*搜索学习最佳贝叶斯网络。In:程序。国际人工智能联合会议,第22卷,第2186页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。