×

在幂等概率下导出并推广最大熵,以解决贝叶斯频率不确定性和模型修正不确定性:可能性理论的信息理论语义。 (英语) Zbl 1522.94020号

摘要:典型的数据分析统计方法只处理确定性不确定性,即可以根据贝叶斯或置信推理理论建模的不确定性类型。不确定性的一个例子是贝叶斯理论或频率理论是否更适合当前问题的不确定性。另一个例子是不确定如何在得知贝叶斯模型的先验不足时修改该模型。这两个不确定性问题都可以在所提出的框架下得到解决。该框架基于非相干函数最小化的信息理论定义。它概括了选择一个估计值的原则,该估计值与之前的后验分布(如置信分布)之间的反向相对熵最小。非相干函数的最简单形式,称为非相干分布,是一个极小正概率分布,它等价于可能性分布,而不是测量论概率分布。一个简单的最小化不相干的例子导致了最小化相对熵和最大熵的推广。最小非相干框架被应用于贝叶斯置信不确定性问题和模型修正的不确定性并行问题。

MSC公司:

94甲17 信息的度量,熵
60A86型 模糊概率
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿切尔,J。;Daróczy,Z.,《信息度量及其特征》,《科学与工程中的数学》(1975),爱思唯尔科学·Zbl 0345.94022号
[2] 阿基安,M。;科恩,G。;Gaubert,S。;Quadrat,J。;Viot,M.,Max-plus代数及其在系统理论和最优控制中的应用,(国际数学家大会论文集(1994),Citeser,Birkhäuser:Citeser、Birkháuser Zurich,Switzerland)
[3] Améndola,C。;霍林,B。;沙利文,S。;Tran,N.,最大线性贝叶斯网络的马尔可夫等价性,(de Campos,C.;Maathuis,M.H.,《第三十七届人工智能不确定性会议论文集》(2021)),1746-1755
[4] (Augustin,T.;Coolen,F.;de Cooman,G.;Troffaes,M.,《不精确概率导论》,《概率统计中的威利级数》(2014),威利)·Zbl 1290.62003年
[5] 巴哈马卢,A。;Marchand,T.,《关于贝叶斯可信度和频率覆盖概率之间的差异》,Stat.Probab。莱特。,97, 63-68 (2015) ·Zbl 1314.62084号
[6] Bernardo,J.M.,《预期效用的预期信息》,《Ann.Stat.》,第7期,第686-690页(1979年)·Zbl 0407.62002号
[7] Bernardo,J.M.,综合客观贝叶斯估计和假设检验,贝叶斯统计,9,1-68(2011)
[8] Bickel,D.R.,《相干频率:基于置信集的决策理论》,Commun。统计,理论方法,411478-1496(2012)·Zbl 1319.62007号
[9] Bickel,D.R.,归纳推理的频率主义框架,Sankhya A,74,141-169(2012)·Zbl 1281.62027号
[10] Bickel,D.R.,根据先验信息的精度将贝叶斯方法和频率统计方法相结合,应用于假设检验,Stat.methods Appl。,24, 523-546 (2015) ·Zbl 1327.62132号
[11] Bickel,D.R.,《检查多个贝叶斯模型的数据冲突和应用以减轻被拒绝先验数据的影响后的推断》,《国际期刊近似原因》。,66, 53-72 (2015) ·Zbl 1397.62032号
[12] Bickel,D.R.,关于基准模型平均作为检查贝叶斯模型和频率模型的替代方法的注释,Commun。统计,理论方法,47,3125-3137(2018)·兹比尔1508.62004
[13] Bickel,D.R.,对先前给定的先验数据冲突、专家意见或类似见解的贝叶斯修正:大偏差方法,统计学,52,552-570(2018)·兹比尔1401.62036
[14] Bickel,D.R.,《通过贝叶斯模型检验维护和校准的零假设显著性检验》,《美国统计》,75,249-255(2021)·Zbl 07632862号
[15] Bickel,D.R.,不指定模型空间的贝叶斯模型的相干检查和更新:可能性理论的决策理论语义,Int.J.Approximate Reason。,142, 81-93 (2022) ·Zbl 07478939号
[16] Bickel,D.R.,《系统发生树和分子进化:不确定性量化校正简介》(2022年),即将出版
[17] Bickel,D.R.,《将分支和模型不确定性传播到发散时间和分支长度的置信区间》,《分子系统学》。演变。,167,第107357条pp.(2022)
[18] 比克尔,D.R。;Padilla,M.,相干推断的无先验框架及其简单收缩估计的推导,J.Stat.Plan。推断,145204-221(2014)·Zbl 1279.62068号
[19] 比克尔,D.R。;Patriota,A.G.,适用于限制参数的自洽置信集和复合假设测试,Bernoulli,25,47-74(2019)·Zbl 1512.62030
[20] 德库曼,G。;Walley,P.,《不确定性下行为的可能层次模型》,《理论决策》。,52, 327-374 (2002) ·Zbl 1148.91308号
[21] 盖,T。;Thomas,J.,《信息理论的要素》(2006),John Wiley&Sons:John Willey&Sons New York·Zbl 1140.94001号
[22] Cox,R.T.,《概率推理代数》(1961),约翰霍普金斯出版社:巴尔的摩·Zbl 0103.11404号
[23] Csiszár,I.,《扩展最大熵原理和贝叶斯证明》(Bernardo,J.;DeGroot,M.;Lindley,D.V.;Smith,a.,《贝叶斯统计》,第2卷(1985年),Elsevier Inc.:Elsevie Inc.阿姆斯特丹),83-98·Zbl 0672.62004号
[24] Csiszár,I.,为什么是最小平方和最大熵?线性反问题推理的公理方法,《Ann.Stat.》,192032-2066(1991)·Zbl 0753.62003号
[25] Cuzzolin,F.,《不确定性的几何:不精确概率的几何》,《人工智能:基础、理论和算法》(2021年),施普林格出版社:施普林格商学院·Zbl 1454.68003号
[26] De Baets,B。;齐波科娃,E。;梅西亚尔,R.,严格序范数可能性理论中的条件反射,模糊集系统。,106, 221-229 (1999) ·Zbl 0985.28015号
[27] Dempster,A.P.,《面向统计学家的Dempster-Shafer演算》,《国际期刊近似推理》。,48365-377(2008年)·Zbl 1274.62053号
[28] Dubois,D。;道德,S。;Prade,H.,《基于可能性的可能性理论语义学》,J.Math。分析。申请。,205, 359-380 (1997) ·兹伯利0884.03017
[29] Dubois,D。;Prade,H.,《可能性理论:计算机处理不确定性的方法》(1988),Plenum出版社:Plenum Press New York·Zbl 0703.68004号
[30] Efron,B.,基于置信区间的贝叶斯和似然计算,生物统计学,80,3-26(1993)·Zbl 0773.62021号
[31] Evans,M.,《使用相对信念测量统计证据》,Chapman&Hall/CRC统计学与应用概率专著(2015),CRC出版社:CRC出版社纽约·Zbl 1358.62004号
[32] 埃文斯,M。;Jang,G.,用于检查先验数据冲突的先验预测的极限结果,Stat.Probab。莱特。,81, 1034-1038 (2011) ·Zbl 1218.62013号
[33] Fitzpatrick,B.G.,《无人机团队规划问题中的Max plus决策过程》,(《无人机研究的最新进展》(2013年),施普林格出版社),第31-45页
[34] 弗莱明,W。;Kaise,H。;Sheu,S.J.,Max-plus随机控制和风险敏感性,应用。数学。最佳。,62, 81-144 (2010) ·Zbl 1197.49029号
[35] 弗雷泽,D.A.S.,贝叶斯后验只是快速而肮脏的自信吗?,统计科学。,26, 299-316 (2011) ·Zbl 1246.62040号
[36] Grundy,P.M.,《信托分布和先验分布:前者与后者不相关的示例》,J.R.Stat.Soc.B,18,217-221(1956)·Zbl 0073.14902号
[37] Grünwald,P。;Dawid,A.P.,博弈论,最大熵,最小差异和稳健贝叶斯决策理论,《统计年鉴》,32,1367-1433(2004)·Zbl 1048.62008号
[38] Grünwald,P.D.,《最小描述长度原则》(2007),麻省理工学院出版社:伦敦
[39] Hannig,J。;Iyer,H。;赖,R.C。;Lee,T.C.,《广义基准推断:综述和新结果》,美国统计协会,111,1346-1361(2016)
[40] 持有,L。;Ott,M.,《关于p值和贝叶斯因子》,年。Rev.Stat.应用。,5, 393-419 (2018)
[41] Hryniewicz,O.,可能性决策和模糊统计检验,模糊集系统。,157, 2665-2673 (2006) ·Zbl 1099.62008号
[42] Hurwicz,L.,《无知决策的最优标准》(1951年),考尔斯委员会讨论文件370
[43] Hurwicz,L.,《广义Bayes-minimax原则:不确定性决策的标准》(1951年),考尔斯委员会讨论文件355
[44] Jaynes,E.T.,最大熵在哪里?(1978),(Rosenkrantz,R.,E.T.Jaynes:概率、统计和统计物理论文。E.T.Jaynes:关于概率、统计与统计物理的论文,综合图书馆,第158卷(1989),施普林格:施普林格荷兰),210-314
[45] 约翰逊,R。;Shore,J.,最大熵原理和最小交叉熵原理的公理推导-评论和修正,IEEE Trans。Inf.理论,29942-943(1983)·Zbl 0532.94004号
[46] Knight,F.,《风险、不确定性和利润》(2012),多佛出版社
[47] Lad,F.,《操作主观统计方法:数学、哲学和历史导论》(1996年),威利国际科学出版社·Zbl 0862.62005号
[48] 拉波因特,S。;Bobée,B.,可能性分布的修正:贝叶斯推理模式,模糊集系统。,116, 119-140 (2000) ·Zbl 0966.62014号
[49] Lindley,D.V.,信度分布和贝叶斯定理,J.R.Stat.Soc.B,20,102-107(1958)·Zbl 0085.35503号
[50] 马丁·R。;Liu,C.,《推断模型:无先验后验概率推断的框架》,美国统计协会,108,301-313(2013)·Zbl 06158344号
[51] Mayo,D.,《作为严格测试的统计推断:如何超越统计战争》(2018),剑桥大学出版社:剑桥大学出版社·Zbl 1400.62002号
[52] Nadrajah,S.(南非)。;比特尤科夫,S。;Krasnikov,N.,《置信分布:综述》,Stat.Methodol。,22, 23-46 (2015) ·Zbl 1486.62071号
[53] Paris,J.B.,《不确定推理者的伴侣:数学视角》(1994),剑桥大学出版社:剑桥大学出版社,纽约·Zbl 0838.68104号
[54] 巴顿,L。;Troffaes,M.C.M。;船夫,N。;侯赛因,M。;Hart,A.,作物轮作建模中马尔可夫链的多项式逻辑回归,(Laurent,A.;Strauss,O.;Bouchon-Meunier,B.;Yager,R.R.,《基于知识的系统中的信息处理和不确定性管理》(2014),Springer International Publishing:Springer国际出版公司Cham),476-485
[55] Perakis,G。;Roels,G.,《报贩模型中的遗憾与部分信息》,欧宝。研究,56,188-203(2008)·兹比尔1167.90350
[56] 佩里奇,L.R。;Walley,P.,《稳健贝叶斯可信区间和先验无知》,《国际统计评论》,59,1-23(1991)
[57] (Picard,J.,《学习理论与随机优化:圣面粉概率学院》,XXXI。《学习理论与随机优化:圣面粉概率学院》,XXXI,2001。学习理论与随机优化:圣弗洛尔概率学院,XXXI。学习理论与随机优化:圣弗洛尔概率学院,XXXI,2001,数学课堂讲稿(2004),斯普林格
[58] Polansky,A.M.,《观察到的置信水平:理论和应用》(2007),查普曼和霍尔:查普曼与霍尔纽约
[59] Puhalskii,A.,《大偏差和幂等概率,纯数学和应用数学的专著和调查》(2001),CRC出版社:纽约CRC出版社·Zbl 0983.60003号
[60] Quadrat,J.,Min-plus概率演算(Algebre Max-plus et applications en informatique et automatique(1998)),393-411
[61] Quadrat,J.P.,Max-plus代数及其在系统理论和最优控制中的应用,(国际数学家大会论文集(1995),Springer),1511-1522·Zbl 0845.93004号
[62] Rényi,A.,《概率论》(1970),北荷兰:北荷兰阿姆斯特丹·Zbl 0206.18002号
[63] Samaniego,F.J.,《贝叶斯估计法和频繁估计法的比较》,《统计学中的斯普林格系列》(2010年),斯普林格:斯普林格纽约·Zbl 1204.62028号
[64] 施维德,T。;Hjort,N.,《置信、似然、概率:置信分布的统计推断》,《统计与概率数学剑桥系列》(2016),剑桥大学出版社:剑桥大学出版社·Zbl 1353.62007年
[65] 塞尔克,T。;巴亚里,M.J。;Berger,J.O.,《检验精确零假设的p值校准》,《美国统计》,55,62-71(2001)·Zbl 1182.62053号
[66] 肖尔,J.E。;Johnson,R.W.,最大熵原理和最小交叉熵原理的公理推导,IEEE Trans。信息理论,IT-26,26-37(1980)·Zbl 0429.94011号
[67] 辛格,K。;谢,M。;斯特劳德曼,W.E.,《置信分布(CD)-参数的分布估计》,(IMS演讲笔记专题丛书,2007(2007)卷),132-150,第54卷
[68] Solaiman,B。;博塞,女士。,信息融合系统设计的可能性理论(2019),Springer:Springer New York·Zbl 1515.60018号
[69] 斯波恩,W.,《信仰法则:排名理论及其哲学应用》(2012),牛津大学出版社:牛津大学出版社
[70] Topsöe,F.,《信息理论优化技术》,Kybernetika,15,8-27(1979)·Zbl 0399.94007号
[71] Troffaes,M。;de Cooman,G.,Lower Previsions,概率与统计学中的威利系列(2014),威利:威利纽约·Zbl 1305.60007号
[72] Troffaes,M.C.M.,连贯选择的有限近似,Int.J.近似原因。,50, 655-665 (2009) ·Zbl 1186.62013年
[73] 韦罗内斯,P。;Mellili,E.,多维参数的信度、置信度和客观贝叶斯后验分布,J.Stat.Plan。推理,195,153-173(2018)·Zbl 1383.62077号
[74] 维罗内塞,P。;Mellili,E.,基准分布和置信分布的一些渐近结果,Stat.Probab。莱特。,134, 98-105 (2018) ·Zbl 1436.62065号
[75] Walley,P.,《概率不精确的统计推理》(1991),查普曼和霍尔:查普曼与霍尔伦敦·Zbl 0732.62004号
[76] Walley,P.,《从多项式数据推断:了解一袋弹珠》,J.R.Stat.Soc.B,58,3-57(1996)·Zbl 0834.62004号
[77] Walley,P.,《BI统计方法》,第1卷:基础(2015),前瞻出版社
[78] 沃尔特·G。;Augustin,T.,广义贝叶斯推理中的不确定性和先验数据冲突,J.Stat.理论实践。,3, 255-271 (2009) ·Zbl 1211.62051号
[79] Weirich,P.,《使用不精确概率和效用的理性选择》(2021),剑桥大学出版社
[80] Wilkinson,G.N.,《关于解决统计推断中的争议(讨论)》,J.R.Stat.Soc.B,39,119-171(1977)·Zbl 0373.6202号
[81] 谢明光。;Singh,K.,《置信分布,参数的频率分布估计:综述》,《国际统计评论》,第81期,第3-39页(2013年)·Zbl 1416.62170号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。