×
尼古拉斯·西林;瑞安·马丁

亚指数型损失下的吉布斯后验浓度率。 （英语） Zbl 07666811号

伯努利 29，第2期，1080-1108（2023）.
摘要：贝叶斯后验分布广泛用于推断，但其对统计模型的依赖性带来了一些挑战。特别是，可能有很多麻烦的参数需要先验分布和后验计算，加上模型错误指定偏差的潜在严重风险。另一方面，吉布斯后验分布通过损失函数而不是基于模型的可能性，对感兴趣的数量提供了直接的、原则性的概率推断。这里，当损失函数为亚指数型时，我们为建立吉布斯后验浓度率提供了简单的充分条件。我们将这些一般结果应用于一系列实际相关的示例中，包括平均回归、分位数回归和稀疏高维分类。我们还将这些技术应用于医学统计中的一个重要问题，即个性化最小临床重要差异的估计。

引用于4文件

MSC公司：

62克xx 非参数推理
62英尺xx英寸 参数化推理
68泰克 人工智能

关键词：

分类;广义贝叶斯;高维问题;m-估计;型号规格错误

软件：

鲁棒基地
PDF格式BibTeX公司 XML格式引用
\textit{N.Syring}和\textit{R.Martin}，伯努利29，No.2，1080--1108（2023；Zbl 07666811）
全文： 内政部 arXiv公司 链接

参考文献：

[1] Alquier，P.（2008）。随机经验风险最小化者的PAC-Bayesian界。数学。方法统计。17 279-304. 10.3103/S1066530708040017·Zbl 1260.62038号
[2] Alquier，P.、Ridgway，J.和Chopin，N.（2016）。关于Gibbs后验函数的变分逼近的性质。J.马赫。学习。物件。17 239. ·Zbl 1437.62129号
[3] Barron，A.、Schervish，M.J.和Wasserman，L.（1999）。非参数问题中后验分布的一致性。安。统计师。27 536-561. 10.1214/aos/1018031206·Zbl 0980.62039号
[4] 巴塔查里亚，I.和马丁，R.（2022）。多元分位数的吉布斯后验推断。J.统计。计划。推断218 106-121. 2016年10月10日/j.jspi.2021.10.003·Zbl 1480.62089号
[5] Bissiri，P.G.、Holmes，C.C.和Walker，S.G.（2016）。更新信念分布的通用框架。J.R.统计社会服务。B.统计方法。78 1103-1130. 10.1111/rssb.12158·Zbl 1414.62039号
[6] Boucheron，S.、Lugosi，G.和Massart，P.（2012年）。集中不等式：一个非渐近独立理论牛津：克拉伦登出版社·Zbl 1279.60005号
[7] Castillo，I.、Schmidt-Hieber，J.和van der Vaart，A.W.具有稀疏先验的贝叶斯线性回归。安。统计师。5 1986-2018. ·Zbl 1486.62197号
[8] Catoni，O.（2004）。统计学习理论与随机优化.数学课堂笔记。1851.柏林：斯普林格。2007年10月10日/b99352·Zbl 1076.93002号
[9] Chernozhukov，V.和Hong，H.（2003）。经典估计的MCMC方法。J.计量经济学115 293-346. 10.1016/S0304-4076（03）00100-3·兹比尔1043.62022
[10] Chib，S.、Shin，M.和Simoni，A.（2018年）。矩条件模型的贝叶斯估计和比较。J.Amer。统计师。协会。113 1656-1668. 10.1080/01621459.2017.1358172 ·Zbl 1409.62058号
[11] Choudhuri，N.、Ghosal，S.和Roy，A.（2007年）。使用高斯过程先验的非参数二元回归。统计方法。4 227-243. 2016年10月10日/j.stamet.2006.07.003·Zbl 1248.62053号
[12] De Blasi，P.和Walker，S.G.（2013年）。错误指定模型的贝叶斯渐近性。统计师。西尼卡23 169-187. ·Zbl 1257.62026号
[13] Ghosal，S.、Ghosh，J.K.和van der Vaart，A.W.（2000年）。后验分布的收敛速度。安。统计师。28 500-531. 10.1214/aos/1016218228·Zbl 1105.62315号
[14] Godambe，V.P.编辑（1991年）估算函数纽约：牛津大学出版社·Zbl 0745.00006号
[15] Grünwald，P.（2012）。安全贝叶斯：通过可混合性差距学习学习率。在算法学习理论/会议录.计算机科学课堂讲稿7568 169-183. 海德堡：施普林格。10.1007/978-3-642-34106-9_16 ·Zbl 1255.68086号
[16] Grünwald，P.D.和Mehta，N.A.（2020年）。一般无界损失函数的快速率：从ERM到广义贝叶斯。J.马赫。学习。物件。21 56. ·Zbl 1498.68238号
[17] Grünwald，P.和van Ommen，T.（2017）。针对指定错误线性模型的贝叶斯推理的不一致性，以及修复该不一致性的建议。贝叶斯分析。12 1069-1103. 10.1214/17-BA1085·Zbl 1384.62088号
[18] Guedj，B.（2019年）。PAC-Bayes学习入门。可从arXiv获取：1901.05353·Zbl 1523.68057号
[19] Hedayat，A.S.、Wang，J.和Xu，T.（2015）。医学研究中最小的临床重要差异。生物计量学71 33-41. 10.1111/生物12251·Zbl 1419.62364号
[20] Holmes，C.C.和Walker，S.G.（2017年）。在一般贝叶斯模型中为幂似然赋值。生物特征104 497-503. 10.1093/生物技术/asx010·Zbl 1506.62264号
[21] Huber，P.J.和Ronchetti，E.M.（2009年）。稳健的统计，第2版。概率统计中的威利级数新泽西州霍博肯：威利。10.1002/9780470434697 ·Zbl 1276.62022号
[22] Jaescheke，R.、Signer，J.和Guyatt，G.（1989年）。健康状况测量：确定最小的临床重要差异。控制。临床。试验10 407-415.
[23] Jiang，W.和Tanner，M.A.（2008年）。Gibbs后验函数用于高维分类和数据挖掘中的变量选择。安。统计师。36 2207-2231. 2014年7月10日-AOS547·Zbl 1274.62227号
[24] Kim，J.-Y.（2002）。有限信息可能性和贝叶斯分析。J.计量经济学107 175-193. ·Zbl 1030.62016年 ·doi:10.1016/S0304-4076（01）00119-1
[25] Kleijn，B.J.K.和van der Vaart，A.W.（2006）。无限维贝叶斯统计中的错误规范。Ann.Statist公司。34 837-877. 10.1214/009053606000000029 ·Zbl 1095.62031号
[26] Koltchinskii，V.I.（1997）\（M）-估计、凸性和分位数。安。统计师。25 435-477. 10.1214/aos/1031833659·Zbl 0878.62037号
[27] Koltchinskii，V.（1997年b）。风险最小化中的局部Rademacher复杂性和oracle不等式。安。统计师。34 2593-2656. ·Zbl 1118.62065号
[28] Lafferty，J.、Liu，H.和Wasserman，L.（2010）。测量浓度。在统计机器学习第10章。可在http://www.stat.cmu.edu/larry/=sml/浓度.pdf。
[29] Lyddon，S.P.、Holmes，C.C.和Walker，S.G.（2019）。通用贝叶斯更新和损失-似然引导。生物特征106 465-478. 10.1093/biomet/asz006·Zbl 1454.62098号
[30] Mammen，E.和Tsybakov，A.B.（1995年）。光滑边界集的渐近极小极大恢复。安。统计师。23 502-524. 10.1214/aos/1176324533·Zbl 0834.62038号
[31] Mammen，E.和Tsybakov，A.B.（1999年）。平滑判别分析。安。统计师。27 1808-1829. 10.1214/aos/1017939240·兹比尔0961.62058
[32] Maronna，R.A.、Martin，R.D.和Yohai，V.J.（2006年）。稳健统计学：理论与方法.概率统计中的威利级数奇切斯特：威利。10.1002/0470010940 ·邮编1094.62040
[33] Martin，R.、Hong，L.和Walker，S.G.（2013年）。局部先验支持条件下贝叶斯收敛速度的注记。可从arXiv:120.3102获取。
[34] Martin，R.，Mess，R.和Walker，S.G.（2017年）。稀疏高维线性模型中的经验Bayes后验浓度。伯努利23 1822-1847. 10.3150/15-BEJ797型·Zbl 1450.62085号
[35] 马萨特（Massart，P.）和内德莱克（Nédélec，E..）。(2006). 统计学习的风险边界。Ann.Statist公司。34 2326-2366. 10.1214/009053606000000786 ·Zbl 1108.62007号
[36] McAllester，D.A.（1999年）。PAC贝叶斯模型平均。在第十二届计算学习理论年会论文集（加州圣克鲁斯，1999）164-170. 纽约：ACM。10.1145/307400.307435
[37] Ramamoorthi，R.V.、Sriram，K.和Martin，R.（2015）。关于错误指定模型中的后向浓度。贝叶斯分析。10 759-789. 10.1214/15-BA941·Zbl 1335.62022号
[38] Shen，W.和Ghosal，S.（2015）。使用随机序列先验的自适应贝叶斯过程。扫描。J.统计。42 1194-1213. 10.1111/sjos.12159·Zbl 1419.62076号
[39] Shen，X.和Wasserman，L.（2001）。后验分布的收敛速度。安。统计师。29 687-714. 10.1214/aos/1009210686·Zbl 1041.62022号
[40] Syring，N.和Martin，R.（2017年）。吉布斯后验推断最小临床重要差异。J.统计。计划。推断187 67-77. 2016年10月10日/j.jspi.2017.03.001·Zbl 1391.62251号
[41] Syring，N.和Martin，R.（2019年）。校准一般后部可信区域。生物特征106 479-486. 10.1093/生物组/asy054·Zbl 1454.62105号
[42] Syring，N.和Martin，R.（2020年）。噪声图像边界上稳健且速率最优的Gibbs后验推断。安。统计师。48 1498-1513. 10.1214/19-AOS1856·Zbl 1454.62209号
[43] Syring，N.、Martin，R.（2023年）。补充“亚指数型损失下的吉布斯后验浓度率”10.3150/22-BEJ1491SUPP
[44] Takeuchi，I.、Le，Q.V.、Sears，T.D.和Smola，A.J.（2006年）。非参数分位数估计。J.马赫。学习。物件。7 1231-1264. 10.1109/IJCNN.2006.1716084·Zbl 1222.68316号
[45] Tsybakov，A.B.（2004）。统计学习中分类器的最优聚合。安。统计师。32 135-166. 10.1214/aos/1079120131·Zbl 1105.62353号
[46] Valiant，L.G.（1984）。可学习理论。Commun公司。ACM公司27 1134-1142. ·Zbl 0587.68077号
[47] van Erven，T.、Grünwald，P.D.、Mehta，N.A.、Reid，M.D.和Williamson，R.C.（2015）。统计和在线学习速度快。J.马赫。学习。物件。16 1793-1861. ·兹比尔1351.68244
[48] van der Vaart，A.W.（1998）。渐近统计.剑桥统计与概率数学系列3.剑桥：剑桥大学出版社。10.1017/CBO978051180225·兹比尔0910.62001
[49] Wu，P.-S.和Martin，R.（2020年）。广义贝叶斯推理中学习率选择方法的比较。网址：arXiv:2012.1349。
[50] Wu，P.-S.和Martin，R.（2021）。校准广义预测分布。可从arXiv:2107.01688获取。
[51] 张涛（2006）。统计估计的信息论上下限。IEEE传输。Inf.理论52 1307-1321. 109年10月10日/年58月64439日·Zbl 1320.94033号
[52] Zhou，Z.、Zhao，J.和Bisson，L.J.（2020年）。使用非凸优化程序估计数据自适应最小临床重要差异。统计方法医学研究。29 879-893. 10
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。