图形后验预测分类：基于粒子Gibbs的贝叶斯模型平均
作者：
塔贾娜·帕夫连科和费利克斯·L·里奥斯
日志：西奥。概率与数学。统计师。109(2023), 81-99
MSC（2020年）：初级54C40、14E20；次级46E25，20C20
内政部：https://doi.org/10.1090/tpms/1198
电子出版：2023年10月3日
全文PDF
摘要|工具书类|类似条款|其他信息
摘要：在本研究中，我们提出了一种多类图形贝叶斯预测分类器，该分类器将模型选择中的不确定性纳入标准贝叶斯形式。对于每一类，观测特征的依赖结构由一组可分解的高斯图形模型表示。然后重点放在贝叶斯模型平均它通过对后验图模型概率进行平均，充分考虑了特定类别模型的不确定性。众所周知，对模型概率的显式评估是不可行的。为了解决这个问题，我们考虑J.Olsson、T.Pavlenko和F.L.Rios的粒子Gibbs策略[Electron.J.Statist.13（2019），no.2，2865–2897]，用于从可分解图形模型进行后验采样，该模型使用所谓的圣诞树算法J.Olsson、T.Pavlenko和F.L.Rios【统计计算32（2022），第5号，第80、18号论文】作为提案核心。我们还导出了一个强大的超马尔可夫定律，我们称之为超正规Wishart定律允许在本地执行结果贝叶斯计算。与不考虑模型不确定性的普通贝叶斯预测规则以及一些现成的分类器相比，所提出的预测图形分类器显示出优越的性能。
工具书类
- 克里斯托夫·安德烈,阿诺·杜塞特、和罗曼·霍伦斯坦,粒子马尔可夫链蒙特卡罗方法，J.R.Stat.Soc.Ser.，《美国国家统计年鉴》。B统计方法。72（2010），第3期，269–342。先生2758115，内政部10.1111/j.1467-9868.2009.00736.x号
- 何塞·贝尔纳多（Jose-M.Bernardo）和阿德里安·F·M·史密斯,贝叶斯理论《概率和数理统计中的威利级数：概率和数理统计》，约翰·威利父子有限公司，奇切斯特出版社，1994年。先生1274699，内政部10.1002/9780470316870
- 西蒙·伯恩和A.菲利普·达维德,贝叶斯模型不确定性的结构马尔可夫图法则Ann.统计师。43（2015），第4期，1647–1681。先生3357874，内政部10.1214/15-AOS1319
- 尼古拉斯·肖邦和Sumeetpal S.Singh公司,关于粒子吉布斯采样，伯努利21（2015），第3期，1855-1883。先生3352064，内政部10.3150/14-BEJ629型
- 梅丽斯·克莱德和爱德华·乔治,模型不确定性，统计。科学。19（2004），第1期，第81–94页。先生2082148，内政部10.1214/088342304000000035
- 朱卡·科兰德,崔亚琼、和蒂莫·科斯基,归纳推理与分类中的分区互换性《算法概率与朋友》，《计算讲义》。科学。，第7070卷，施普林格，海德堡，2013年，第91-105页。先生3128216，内政部10.1007/978-3-642-44958-1_{7}
- 朱卡·科兰德,崔亚琼,蒂莫·科斯基、和尤卡爵士,我以前见过你吗？重温贝叶斯预测分类原理，统计计算。23（2013），第1期，59–73。先生3018350，内政部2007年10月17日/11222-011-9291-7
- J.Corander、T.Koski、T.Pavlenko和A.Tillander，高斯数据的贝叶斯块对角预测分类器《用于智能数据分析的软计算和统计的协同作用》，施普林格，柏林，海德堡，2013年，第543-551页。
- 崔亚琼,尤卡爵士,蒂莫·科斯基、和朱卡·科兰德,同时预测高斯分类器，J.分类33（2016），第1期，73–102。先生3503204，内政部2007年10月10日/00357-016-9197-3
- A.P.Dawid公司和B.Q.方,无穷多变量的共轭贝叶斯判别，J.多元分析。41（1992），第1期，第27–42页。先生1156679，内政部10.1016/0047-259X（92）90055-K
- A.P.Dawid公司和S.L.劳里岑,可分解图形模型统计分析中的超马尔科夫定律Ann.统计师。21（1993），第3期，1272-1317。先生1241267，内政部2014年10月14日/月1176349260
- 西莫·盖瑟,多元正态分类的后验概率，J.Roy。统计师。Soc.序列号。B类26(1964), 69–76.先生174133，内政部10.1111/j.2517-6161.1964.tb00540.x
- 西摩·盖瑟,预测性辨别《多元分析》（Proc.Internat.Sympos.，Dayton，Ohio，1965），学术出版社，纽约-朗登出版社，1966年，第149-163页。先生211539
- 西莫·盖瑟,预测推理《统计学和应用概率论专著》，第55卷，Chapman和Hall，纽约，1993年。引言。先生1252174，内政部10.1007/978-1-4899-4467-2
- 彼得·J·格林和阿伦·托马斯,使用连接树上的马尔可夫链对可分解图进行采样，生物特征100（2013），第1期，91–110。先生3034326，内政部10.1093/biomet/ass052
- 彼得·J·格林和阿伦·托马斯,允许控制团交点的可分解图法则的结构马尔可夫性质，生物特征105（2018），第1期，第19–29页。先生3768862，内政部10.1093/biomet/asx072
- 罗伯特·卡斯和阿德里安·拉弗瑞,贝叶斯因子，J.Amer。统计师。协会。90（1995），第430、773–795号。先生3363402，内政部10.1080/01621459.1995.10476572
- Steffen L.Lauritzen女士,图形模型《牛津统计科学丛书》，第17卷，克拉伦登出版社，牛津大学出版社，纽约，1996年。牛津科学出版物。先生1419991
- D.Madigan和A.E.Raftery，使用Occam窗口的图形模型中模型选择和模型不确定性计算《美国统计协会杂志》89（1994），编号4281535-1546。
- D.Madigan、J.York和D.Allard，离散数据的贝叶斯图形模型《国际统计评论》63（1995），第2期，215–232。
- 亨利克·尼曼,熊杰,约翰·彭萨尔、和朱卡·科兰德,使用分层图形模型的边缘和同时预测分类高级数据分析。分类。10（2016），第3期，305-326。先生3541238，内政部2007年10月10日/11634-015-0199-5
- 吉米·奥尔森,塔贾娜·帕夫连科、和费利克斯·L·里奥斯,基于序贯蒙特卡罗方法的弱结构马尔可夫图规律的贝叶斯学习，电子。J.统计。13（2019），第2期，2865–2897。先生3998930，内政部10.1214/19-EJS1585
- 吉米·奥尔森,塔贾娜·帕夫连科、和费利克斯·L·里奥斯,可分解图的连接树序列抽样，统计计算。32（2022年），第5号，第80、18号论文。先生4487691，内政部2007年10月17日/11222-022-10113-2
- 费比安·佩德雷戈萨,盖尔·瓦洛奎,亚历山大·格兰福特等。，Scikit-learn：Python中的机器学习，J.马赫。学习。研究。12(2011), 2825–2830.先生2854348
- A.Reiss和D.Stricker，创建和基准测试用于身体活动监测的新数据集《第五届辅助环境相关普及技术国际会议论文集》，ACM，2012年，第40页。
- 阿米尔·本·阿姆拉姆,简介：合理完整的编程语言，公牛。欧洲协会。计算。科学。EATCS公司64(1998), 153–155.先生1618301
- F.L.Rios、G.Moffa和J.Kuipers，Benchpress：图形模型结构学习算法基准测试的可扩展通用工作流，arXiv预印本arXiv:2107.03863（2021）。
- B.D.里普利,模式识别与神经网络，剑桥大学出版社，剑桥，2007年。重印1996年原件。先生2451352
- 阿伦·托马斯和彼得·J·格林,可分解图的连接树的枚举，J.计算。图表。统计师。18（2009），第4期，930–940。先生2598034，内政部10.1198/jcgs.2009.07129
- 尼古拉斯·沃马尔德,计数标记弦图，图形组合。1（1985），第2期，193-200。先生951781，内政部2007年10月10日/BF02582944
工具书类
- C.Andrieu、A.Doucet和R.Holenstein，粒子马尔可夫链蒙特卡罗方法，J.R.Stat.Soc.Ser.，《美国国家统计年鉴》。B统计方法。72（2010），第3期，269–342。先生2758115
- J.M.Bernardo和A.F.M.Smith，贝叶斯理论《概率统计中的威利系列》，约翰·威利父子公司，奇切斯特出版社，2000年。先生1274699
- S.Byrne和A.P.Dawid，贝叶斯模型不确定性的结构马尔可夫图法则，Ann.统计。43（2015），第4期，1647–1681。先生3357874
- N.肖邦和S.S.辛格，关于粒子吉布斯采样，伯努利21（2015），编号3，1855-1883。先生3352064
- M.Clyde和E.I.George，模型不确定性，统计。科学。19（2004），第1期，第81–94页。先生2082148
- J.Corander、Y.Cui和T.Koski，归纳推理与分类中的分区互换性算法概率和朋友。贝叶斯预测和人工智能，计算机课堂讲稿。科学。，第7070卷，施普林格出版社，2013年，第91–105页。先生3128216
- J.Corander、Y.Cui、T.Koski和J.Sirén，我以前见过你吗？重温贝叶斯预测分类原理，统计计算。23（2013），第1期，59–73。先生3018350
- J.Corander、T.Koski、T.Pavlenko和A.Tillander，高斯数据的贝叶斯块对角预测分类器《用于智能数据分析的软计算和统计的协同作用》，施普林格，柏林，海德堡，2013年，第543-551页。
- Y.Cui、J.Sirén、T.Koski和J.Corander，同时预测高斯分类器，J.分类33（2016），编号1，73–102。先生3503204
- A.P.Dawid和B.Q.Fang，无穷多变量的共轭贝叶斯判别，J.多元分析。41（1992），第1期，第27–42页。先生1156679
- A.P.Dawid和S.L.Lauritzen，可分解图形模型统计分析中的超马尔可夫定律Ann.统计师。21（1993），第3期，1272-1317。先生1241267
- S.Geisser，多元正态分类的后验优势，J.Roy。统计师。Soc.序列号。B类26(1964), 69–76.先生174133
- —,预测性辨别《多元分析》（Proc.Internat.Sympos.，Dayton，Ohio，1965），学术出版社，纽约，1966年，第149-163页。先生0211539
- —,预测推理：简介。《统计学和应用概率专著》，第55卷，查普曼和霍尔，纽约，1993年。先生1252174
- P.J.Green和A.Thomas，使用连接树上的马尔可夫链对可分解图进行采样，生物特征100（2013），第1期，91–110。先生3034326
- —,允许控制团交点的可分解图法则的结构马尔可夫性质，生物特征105（2018），第1期，第19–29页。先生3768862
- R.E.Kass和A.E.Raftery，贝叶斯因子，J.Amer。统计师。协会。90（1995），第430、773–795号。先生3363402
- S.L.Lauritzen，图形模型牛津大学出版社，纽约，1996年。先生1419991
- D.Madigan和A.E.Raftery，使用奥卡姆窗口的图形模型中的模型选择和模型不确定性核算《美国统计协会杂志》89（1994），第428、1535–1546号。
- D.Madigan、J.York和D.Allard，离散数据的贝叶斯图形模型《国际统计评论》63（1995），第2125-232号。
- H.Nyman、J.Xiong、J.Pensar和J.Corander，使用分层图形模型的边缘和同时预测分类高级数据分析。分类。10（2016），第3期，305-326。先生3541238
- J.Olsson、T.Pavlenko和F.L.Rios，基于序贯蒙特卡罗方法的弱结构马尔可夫图规律的贝叶斯学习，电子。J.统计。13（2019），第2期，2865–2897。先生3998930
- —,可分解图的连接树序列抽样，统计计算。32（2022年），第5号，第80、18号论文。先生4487691
- F.Pedregosa、G.Varoquaux、A.Gramfort、V.Michel、B.Thirion、O.Grisel、M.Blondel、P.Prettenhofer、R.Weiss、V.Dubourg等人。，Scikit-learn：Python中的机器学习，J.马赫。学习。研究。12(2011), 2825–2830.先生2854348
- A.Reiss和D.Stricker，为体力活动监测创建新数据集并进行基准测试《第五届辅助环境相关普及技术国际会议论文集》，ACM，2012年，第40页。
- —,引入用于活动监控的新基准数据集《可穿戴计算机（ISWC）》，2012年第16届可穿戴计算机国际研讨会，IEEE，2012年，第108–109页。先生1618301
- F.L.Rios、G.Moffa和J.Kuipers，Benchpress：图形模型结构学习算法基准测试的可扩展通用工作流，arXiv预印本arXiv:2107.03863（2021）。
- B.D.Ripley，模式识别与神经网络，剑桥大学出版社，剑桥，2007年。先生2451352
- A.Thomas和P.J.Green，可分解图的连接树的枚举，J.计算。图表。统计师。18（2009），第4期，930–940。先生2598034
- 北卡罗来纳州沃马尔，计数标记弦图，图形组合。1（1985），第2期，193-200。先生951781
类似条款
检索中的项目概率论与数理统计MSC（2020年）：54立方厘米,14E20型,46 E25型,20C20米
检索所有期刊中的文章MSC（2020年）：54立方厘米,14E20型,46 E25型,20C20米
其他信息
塔贾娜·帕夫连科
附属：瑞典乌普萨拉大学统计系，751 20，513信箱
电子邮件：tatjana.pavlenko@statistik.uu.se
费利克斯·L·里奥斯
附属：瑞典斯德哥尔摩KTH皇家理工学院数学系SE-100 44
电子邮件：flrios@kth.se
关键词：可分解的图形模型，强超马尔可夫定律，粒子马尔可夫链蒙特卡罗
编辑接收：2022年3月31日
接受发布：2023年2月3日
电子出版：2023年10月3日
附加说明：第一位作者得到了乌普萨拉大学AI4Reseach Grant的部分支持。
文章版权：©版权所有2023塔拉斯·舍甫琴科国立基辅大学
