×

关于普遍预测和贝叶斯确认。 (英语) 兹比尔1124.68048

摘要:贝叶斯框架是一个经过深入研究且成功的归纳推理框架,包括假设检验和确认、参数估计、序列预测、分类和回归。但是,选择模型类和先验值的标准统计准则并不总是可用的,或者可能会失败,特别是在复杂的情况下。所罗门诺夫通过为模型类和前一类提供严格、唯一、正式和通用的选择,完成了贝叶斯框架。作者广泛讨论了通用(非独立性)序列预测如何以及在何种意义上解决传统贝叶斯序列预测的各种(哲学)问题。他表明,所罗门诺夫模型具有许多令人满意的性质:强总界和未来界,弱瞬时界,与大多数经典的连续先验密度相比,它没有零p(oste)先验问题,即它可以确认普遍假设,是重组化和重组不变量,避免了旧的证据和更新问题。它甚至在非计算环境中表现良好(实际上更好)。

理学硕士:

68问题30 算法信息理论(Kolmogorov复杂性等)
68问题32 计算学习理论
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 贝叶斯,T.,《解决机会理论中一个问题的论文》,《皇家学会哲学学报》,53,376-398(1763),重印于《生物统计学》45(1958)296-315
[2] Bernardo,J.M.,贝叶斯推断的参考后验分布(含讨论),《皇家统计学会杂志》,B41,113-147(1979)·Zbl 0428.62004号
[3] Carnap,R.,《归纳方法的连续统》(1952),芝加哥大学出版社:芝加哥大学出版社·Zbl 0047.37210号
[4] 克拉克,B.S。;Barron,A.R.,贝叶斯方法的信息论渐近性,IEEE信息理论汇刊,36453-471(1990)·兹比尔0709.62008
[5] Chernov,A。;Hutter,M.,《单调条件复杂性对未来预测误差的限制》,(第16届算法学习理论国际会议,ALT'05,新加坡。第16届国际算法学习理论会议,ALT’05,新加坡,LNAI,第3734卷(2005),斯普林格:斯普林格柏林),414-428·Zbl 1168.68454号
[6] Chaitin,G.J.,程序规模理论与信息理论形式上相同,美国计算机学会期刊,22,33229-340(1975)·Zbl 0309.68045号
[7] Chernov,A。;Hutter,M。;Schmidhuber,J.,《未来预测误差的算法复杂性界限,信息与计算》,205,2,242-261(2007)·Zbl 1107.68044号
[8] Cilibrasi,R。;Vitányi,P.M.B.,压缩聚类,IEEE信息理论汇刊,51,4,1523-1545(2005)·Zbl 1297.68097号
[9] Cilibrasi,R。;Vitányi,P.M.B.,《物体的相似性和单词的意义》(第三届计算模型理论和应用年度会议,TAMC’06)。程序。第三届计算模型理论与应用年会,TAMC’06,LNCS,第3959卷(2006),Springer),21-45·Zbl 1178.68214号
[10] Dawid,A.P.,《统计理论》。优先方法,《皇家统计学会杂志》,A辑,147278-292(1984)·Zbl 0557.62080号
[11] Earman,J.,Bayes还是Bust?《贝叶斯确认理论的批判性检验》(1993年),麻省理工学院出版社:麻省理学院出版社剑桥
[12] Gács,P.,《关于算法信息的对称性》,《苏联数学》,第15卷,第1477-1480页(1974年)·Zbl 0314.94019号
[13] Gács,P.,《描述复杂性与算法概率之间的关系》,《理论计算机科学》,第22期,第71-93页(1983年)·兹伯利0562.68035
[14] Hutter,M。;Muchnik,An.A.,个体随机序列上半测度的普遍收敛性,(第15届算法学习理论国际会议论文集,ALT'04,Padova,第15届国际算法学习理论论文集,ALT'04,帕多瓦,LNAI,第3244卷(2004),Springer:Springer Berlin),234-248·Zbl 1110.68396号
[15] Hutter,M.,所罗门诺夫预测的新误差界,《计算机与系统科学杂志》,62,4,653-667(2001)·Zbl 0983.68083号
[16] Hutter,M.,贝叶斯序列预测的收敛和损失界,IEEE信息理论汇刊,49,8,2061-2067(2003)·Zbl 1302.60061号
[17] Hutter,M.,《关于可计算通用先验的存在和收敛》,(第14届算法学习理论国际会议,ALT'03,札幌,第14届国际算法学习理论会议,ALT’03,札波尔,LNAI,第2842卷(2003),Springer:Springer Berlin),298-312·Zbl 1263.68056号
[18] Hutter,M.,通用贝叶斯预测对一般损失和字母表的最优性,机器学习研究杂志,4,971-1000(2003)·Zbl 1094.68037号
[19] Hutter,M.,《通用人工智能:基于算法概率的序列决策》(Universal Artificial Intelligence:Sequential Decisions Based on Algorithm Probability)(2004),施普林格出版社:柏林施普林格,300页。
[20] Hutter,M.,关于广义可计算普遍先验及其收敛性,理论计算机科学,364,27-41(2006)·Zbl 1110.03031号
[21] Jaynes,E.T.,《概率论:科学的逻辑》(2003),剑桥大学出版社:剑桥大学出版社,马萨诸塞州剑桥·Zbl 0732.60002号
[22] Jeffreys,H.,估计问题中先验概率的不变形式,(伦敦皇家学会学报,卷A 186(1946)),453-461·Zbl 0063.03050号
[23] Jeffreys,H.,《概率论》(1961),克拉伦登出版社:牛津克拉伦登出版公司·Zbl 0116.34904号
[24] Kolmogorov,A.N.,《信息定量定义的三种方法》,《信息与传播问题》,第1、1、1-7页(1965年)·Zbl 0271.94018号
[25] Krichevskiy,R.E.,拉普拉斯连续定律和通用编码,IEEE信息理论汇刊,44296-303(1998)·Zbl 1053.94534号
[26] Kass,R.E。;Wasserman,L.,《通过形式规则选择先验分布》,《美国统计协会杂志》,91,435,1343-1370(1996)·Zbl 0884.62007号
[27] 拉普拉斯,P.,《概率分析》(Théorie analytique des probabilityés,1812),《Courcier:Courcier Paris》,【F.W.Truscott和F.L.Emory:A Philosophical Essay on Probabilities,多佛,1952年,第16-17页】·Zbl 0047.37209号
[28] 莱文,L.A.,《信息守恒定律(非增长)和概率论基础方面》,《信息传输问题》,第10期,第3期,第206-210页(1974年)
[29] 李,M。;Vitányi,P.M.B.,《科尔莫戈洛夫复杂性及其应用简介》(1997),施普林格出版社:纽约施普林格·Zbl 0866.68051号
[30] Lempel,A。;Ziv,J.,《有限序列的复杂性》,IEEE信息理论汇刊,22,75-81(1976)·Zbl 0337.94013号
[31] Maher,P.,《概率捕捉科学证实的逻辑》(Hitchcock,C.,《当代科学哲学辩论》(2004),布莱克威尔出版社),69-93,(第3章)
[32] 梅哈夫,N。;Feder,M.,通用预测,IEEE信息理论汇刊,44,61224-2147(1998)·Zbl 0933.94008号
[33] Markus Müller,《静态算法概率》,技术报告,柏林工业大学,柏林,2006年。http://arXiv.org/abs/cs/0608095; Markus Müller,《静态算法概率》,技术报告,柏林工业大学,柏林,2006年。http://arXiv.org/abs/cs/0608095
[34] 波兰,J。;Hutter,M.,《关于Bernoulli序列MDL预测的收敛速度》,(第15届算法学习理论国际会议,ALT'04,Padova,第15届国际算法学习理论会议,ALT’04,Pa多瓦,LNAI,第3244卷(2004),Springer:Springer Berlin),294-308·Zbl 1110.68405号
[35] 波兰,J。;Hutter,M.,贝努利序列的MDL收敛速度,统计与计算,16,2,161-175(2006)
[36] Rissanen,J.J.,《整数的通用先验和最小描述长度估计》,《统计年鉴》,第11、2、416-431页(1983年)·Zbl 0513.62005号
[37] Rissanen,J.J.,《统计调查中的随机复杂性》(1989),世界科学:新加坡世界科学·Zbl 0800.68508号
[38] Schmidhuber,J.,广义Kolmogorov复杂性和极限中可计算的不可数通用测度的层次,国际计算机科学基础杂志,13,4,587-612(2002)·Zbl 1066.68058号
[39] Schmidhuber,J.,速度先验:一种产生接近最优可计算预测的新的简单性度量,(计算学习理论第15次会议论文集,COLT-2002,悉尼。计算学习理论第15次会议论文集,COLT-2002,悉尼,LNAI,第2375卷(2002),施普林格:施普林格柏林),216-228·Zbl 1050.68076号
[40] Schmidhuber,J.,最优排序问题求解器,机器学习,54,3,211-254(2004)·Zbl 1101.68090号
[41] Solomonoff,R.J.,《归纳推理的形式理论:第1部分和第2部分,信息和控制》,7,1-22,224-254(1964)·Zbl 0259.68038号
[42] Solomonoff,R.J.,《基于复杂性的归纳系统:比较和收敛定理》,IEEE信息理论汇刊,IT-24,422-432(1978)·Zbl 0382.60003号
[43] Vapnik,V.N.,《统计学习理论的本质》(1999),《施普林格:施普林格柏林》·Zbl 0934.62009号
[44] Walley,P.,《从多项式数据推断:了解一袋弹珠》,《皇家统计学会期刊B》,58,1,3-57(1996)·Zbl 0834.62004号
[45] Wallace,C.S.,《通过最小消息长度进行统计和归纳推断》(2005),施普林格出版社:施普林格-柏林·Zbl 1085.6202号
[46] Wolpert,D.H。;Macready,W.G.,优化的无免费午餐定理,IEEE进化计算汇刊,1,1,67-82(1997)
[47] Zvonkin,A.K。;莱文,L.A.,《有限对象的复杂性以及通过算法理论发展信息和随机性概念》,《俄罗斯数学调查》,25,6,83-124(1970)·Zbl 0222.02027
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。