×

使用鲁棒性的sum-product网络层次结构。 (英文) 兹比尔1471.62388

概要:和积网络是一个流行的概率图形模型家族,已经证明在多个任务中可以实现最先进的性能。当从稀缺数据中学习sum-product网络时,所获得的模型可能容易出现鲁棒性问题,并且参数的微小变化可能导致不同的结论。我们讨论了sum-product网络作为分类器的特性,并研究了它们对参数的鲁棒性。使用稳健性度量来识别(可能)不可靠的决策,我们构建了一种分层方法,其中,如果结果被认为不可靠,则测试时的分类任务将推迟到另一个模型。我们将此方法应用于47个数据集的基准分类任务。实验表明,鲁棒性度量是构建分类器动态集成的一种有意义的方法,我们的层次和积网络保证了准确性的提高。

MSC公司:

62H22个 概率图形模型
62H30型 分类和区分;聚类分析(统计方面)
62G35型 非参数稳健性
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] 阿德尔,T。;巴尔杜齐,D。;Ghodsi,A.,通过基于SVD的算法学习总和网络的结构,(第三十一届人工智能不确定性会议论文集(2015))
[2] Breiman,L.,装袋预测,马赫数。学习。,24, 2, 123-140 (1996) ·Zbl 0858.68080号
[3] Breiman,L.,《随机森林》,马赫。学习。,45, 1, 5-32 (2001) ·Zbl 1007.68152号
[4] 布茨,C.J。;Oliveira,J.S。;多斯桑托斯,A.E。;Teixera,A.L.,深度卷积和生产网络(第三十三届AAAI人工智能会议(2019年))
[5] 布茨,C.J。;Oliveira,J.S。;多斯桑托斯,A.E。;特谢拉,A.L。;Poupart,P。;Kalra,A.,《spn学习和推理方法的实证研究》,(Kratochvíl,V.;Studen,M.,《第九届概率图形模型国际会议论文集》,《第八届概率图形模型国际会议论文录》,《机器论文集》第72卷(2018),《学习研究》,PMLR:学习研究,PMLR布拉格,捷克共和国),URL
[6] 科纳蒂,D。;Mauá,D.D。;de Campos,C.P.,总和网络中最大后验推理的近似复杂性,(第三十三届人工智能不确定性会议论文集(2017))
[7] Darwiche,A.,《贝叶斯网络中推理的微分方法》,J.ACM,50,3,280-305(2003)·Zbl 1325.68226号
[8] Darwiche,A.,《贝叶斯网络建模与推理》(2009),剑桥大学出版社·Zbl 1231.68003号
[9] de Bock,J。;Antonucci,A。;de Campos,C.P.,图形模型中MAP推理的全局灵敏度分析,(神经信息处理系统(2014))
[10] 丹尼斯。;Ventura,D.,《使用变量聚类学习sum-product网络的架构》(Pereira,F.;Burges,C.J.C.;Bottou,L.;Weinberger,K.Q.,《神经信息处理系统的进展》,第25卷(2012),Curran Associates,Inc.),2033-2041
[11] 丹尼斯。;Ventura,D.,sum-product网络贪婪结构搜索,(第24届国际人工智能联合会议(2015)会议记录)
[12] 弗伦德,Y。;Schapire,R.E.,《在线学习的决策理论推广及其在助推中的应用》,J.Compute。系统。科学。,55, 1, 119-139 (1997) ·Zbl 0880.68103号
[13] Gens,R。;Domingos,P.,sum-product网络的判别学习,(神经信息处理系统进展,第25卷(2012))
[14] Gens,R。;Domingos,P.,《学习sum-product网络的结构》(第三十届机器学习国际会议论文集(2013))
[15] Hansen,L.K。;Salamon,P.,《神经网络集成》,IEEE Trans。模式分析。机器。智力。,12, 10, 993-1001 (1990)
[16] 考夫曼,L。;Rousseuw,P.,通过类药物进行聚类,(基于L1范数和相关方法的统计数据分析(1987))
[17] 科勒,D。;弗里德曼,N.,概率图形模型(2009),麻省理工学院出版社·Zbl 1183.68483号
[18] 李,S.-W。;沃特金斯,C。;Zhang,B.-T.,非参数贝叶斯汇总网络,(ICML学习可追踪概率模型研讨会,第32卷(2014))
[19] Leonard Kaufman,P.J.R.,《集群化大型应用程序(程序CLARA)》,第3章,126-163(2008),John Wiley&Sons,Ltd
[20] 列维,I.,《知识的企业》(1980),麻省理工学院出版社:麻省理学院出版社伦敦
[21] Mauá,D.D。;Cozman,F.G。;科纳蒂,D。;de Campos,C.P.,Credal sum-product networks,(第十届不精确概率国际研讨会论文集:理论与应用(2017))
[22] Nath,A。;Domingos,P.,学习故障定位的易处理概率模型,(第三十届AAAI人工智能会议论文集(2016))
[23] 佩哈兹,R。;盖革,B.C。;Pernkopf,F.,sum-product networks的贪婪部分学习,(《数据库中的机器学习和知识发现》,数据库中的计算机学习和知识探索,LNAI,第8189卷(2013))
[24] 佩哈兹,R。;Gens,R。;Domingos,P.,《学习选择性sum-product网络》(ICML学习可追踪概率模型研讨会,第32卷(2014年))
[25] 佩哈兹,R。;Gens,R。;佩恩科普夫,F。;多明戈斯,P.,《关于总和生产网络中潜在变量的解释》,IEEE Trans。模式分析。机器。智力。,1-14 (2016)
[26] 佩哈兹,R。;奇亚切克,S。;佩恩科普夫,F。;Domingos,P.,《论sum-product网络的理论属性》(第18届国际人工智能与统计会议论文集(2015))
[27] Poon,H。;Domingos,P.,《Sum-product networks:a new deep architecture》,(第27届人工智能不确定性会议论文集(2011))
[28] 拉赫曼,T。;Gogate,V.,《高产网络的合并策略:从树到图》,(第32届人工智能不确定性会议论文集(2016))
[29] Rathke,F。;Desana,M。;Schnörr,C.,病理性OCT扫描全局分割的局部自适应概率模型,(医学图像计算和计算机辅助干预国际会议论文集(2017))
[30] Rooshenas,A。;Lowd,D.,《学习具有直接和间接变量交互作用的sum-product网络》(第31届机器学习国际会议论文集(2014))
[31] 萨吉,O。;Rokach,L.,合奏学习:调查,Wiley Interdiscip。版本数据最小知识。迪斯科。,第8、4条,第1249页(2018年)
[33] 索卡尔·R。;Rohlf,F.,《生物计量学:生物学研究中统计学的原理与实践》(1981),弗里曼·Zbl 0554.62094号
[34] Vergari,A。;Di Mauro,N。;Esposito,F.,简化、规范和加强sum-product网络结构学习(机器学习和数据库知识发现联合欧洲会议论文集(2015))
[35] 赵,H。;Poupart,P。;Fordon,G.,学习总和网络参数的统一方法,(神经信息处理系统进展,第29卷(2016))
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。