×

贝叶斯机器学习的度量变换语义。 (英语) 兹比尔1326.68217

Barthe,Gilles(编辑),《编程语言和系统》。2011年3月26日至4月3日,作为欧洲软件理论和实践联合会议的一部分,在德国萨尔布吕肯举行了第20届欧洲编程研讨会,ESOP 2011。诉讼程序。柏林:施普林格出版社(ISBN 978-3-642-19717-8/pbk)。计算机科学讲座笔记660277-96(2011)。
总结:机器学习的贝叶斯方法相当于从变量如何相关的概率模型(即先验分布)和变量的一组观测值推断随机变量的后验分布。机器学习的一个趋势是将贝叶斯模型表示为概率程序。作为这类编程的基础,我们提出了一种核心函数演算,其中包含用于采样先验分布和观察变量的原语。我们根据测量理论中的定理定义了测量变压器的组合子,并使用它们为我们的核心演算提供了严格的语义。我们语义的原始特征包括支持离散、连续和混合度量,特别是支持零概率事件的观测。我们将核心语言编译为一种小型命令式语言,该语言通过因子图和支持许多高效推理算法的数据结构具有简单的语义。我们使用现有的推理机对后验边缘分布进行有效的近似推理,每秒处理大量真实模型的观测值。
有关整个系列,请参见[Zbl 1213.68027号].

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abadi,M.,Rogaway,P.:调和密码学的两种观点(形式加密的计算可靠性)。《密码学杂志》15(2),103–127(2002)·Zbl 0994.68066号 ·doi:10.1007/s00145-001-0014-7
[2] Barthe,G.、Grégoire,B.、Béguelin,S.Z.:基于代码的密码证明的正式认证。收录于:POPL,第90-101页。ACM,纽约(2009)·Zbl 1315.68081号
[3] Billingsley,P.:《概率与测度》,第三版。奇切斯特·威利(1995)·Zbl 0822.60002号
[4] 博纳维茨,K.A.:布莱斯的可组合概率推理。麻省理工学院博士论文,可作为技术报告MIT-CSAIL-TR-2008-044(2008)获得
[5] Borgström,J.、Gordon,A.D.、Greenberg,m.、Margetson,J.和Van Gael,J.:贝叶斯机器学习的测量变换语义。技术报告,Microsoft Research(2011)·Zbl 1274.68295号
[6] Dalvi,N.N.,Ré,C.,Suciu,D.:概率数据库:泥土中的钻石。Commun公司。ACM 52(7),86–94(2009)·Zbl 05747869号 ·doi:10.1145/1538788.1538810
[7] Erwig,M.,Kollmansberger,S.:函数珍珠:Haskell中的概率函数编程。J.功能。程序。16(1),21-34(2006)·Zbl 1091.68023号 ·doi:10.1017/S0956796805005721
[8] Fraser,D.A.S.,McDunnough,P.,Naderi,A.,Plante,A.:关于概率密度的定义和似然图的充分性。《概率与数理统计杂志》15,301–310(1995)·Zbl 0847.62003号
[9] Goodman,N.、Mansinghka,V.K.、Roy,D.M.、Bonawitz,K.、Tenenbaum,J.B.:Church:生成模型的语言。收录于:UAI,第220-229页。AUAI出版社(2008)
[10] Gupta,V.,Jagadeesan,R.,Panangaden,P.:随机过程作为并发约束程序。载于:《1999年持久性有机污染物清单》,第189–202页(1999年)·数字对象标识代码:10.1145/292540.292558
[11] Herbrich,R.、Minka,T.、Graepel,T.:TrueSkill(TM):贝叶斯技能评级系统。In:神经信息处理系统进展20(2007)
[12] Jaynes,E.T.:15.7 Borel-Kolmogorov悖论。收录于:《概率论:科学的逻辑》,第467-470页。CUP(2003)
[13] Jones,C.,Plotkin,G.D.:评估的概率功率域。收录于:LICS,第186-195页。IEEE计算机协会,洛斯阿拉米托斯(1989)·Zbl 0716.06003号
[14] Kiselyov,O.,Shan,C.:使用广义协同程序的单语言概率规划。In:UAI(2009)
[15] Koller,D.,Friedman,N.:概率图形模型。麻省理工学院出版社,剑桥(2009)·Zbl 1183.68483号
[16] Koller,D.,McAllester,D.A.,Pfeffer,A.:随机程序的有效贝叶斯推理。收录于:AAAI/IAAI,第740-747页(1997年)
[17] Kozen,D.:概率程序的语义。J.计算。系统。科学。 22(3), 328–350 (1981) ·Zbl 0476.68019号 ·doi:10.1016/0022-0000(81)90036-2
[18] Kschichang,F.R.,Frey,B.J.,Loeliger,H.-A.:因子图和和积算法。IEEE信息理论汇刊47(2),498–519(2001)·Zbl 0998.68234号 ·数字对象标识代码:10.1109/18.910572
[19] Kwiatkowska,M.Z.,Norman,G.,Parker,D.:使用概率模型检查器PRISM进行定量分析。ENTCS 153(2),5-31(2006)
[20] Lowe,G.:量化信息流。收录于:CSFW,第18-31页。IEEE计算机学会,Los Alamitos(2002)
[21] 麦凯,D.J.C.:信息理论、推理和学习算法。CUP(2003)·Zbl 1055.94001号
[22] McCallum,A.,Schultz,K.,Singh,S.:工厂:通过强制定义的因子图进行概率规划。In:神经信息处理系统第23届年会海报,NIPS(2009)
[23] McIver,A.,Morgan,C.:概率系统的抽象、精化和证明。计算机科学专著。斯普林格,海德堡(2005)·Zbl 1069.68039号
[24] McSherry,F.:隐私集成查询:隐私保护数据分析的可扩展平台。摘自:SIGMOD会议,第19-30页。ACM,纽约(2009)
[25] Minka,T.、Winn,J.、Guiver,J.和Kannan,A.:推断。NET 2.3(2009年11月),软件可从http://research.microsoft.com/infernet
[26] Minka,T.,Winn,J.M.:盖茨。收录于:《国家公共卫生政策汇编》,第1073–1080页。麻省理工学院出版社,剑桥(2008)
[27] Minka,T.P.:近似贝叶斯推断的期望传播。收录于:UAI,第362-369页。Morgan Kaufmann,旧金山(2001)
[28] Ntzoufras,I.:使用WinBUGS的贝叶斯建模。奇切斯特·威利(2009)·Zbl 1218.62015号 ·数字对象标识代码:10.1002/9780470434567
[29] Panangaden,P.:标记马尔可夫过程。帝国理工学院出版社,伦敦(2009)·Zbl 1190.60001号 ·doi:10.1142/p595
[30] Park,S.、Pfenning,F.、Thrun,S.:基于采样函数的概率语言。载于:持久性有机污染物清单,第171-182页。ACM,纽约(2005)·Zbl 1369.68083号
[31] Pfeffer,A.:IBAL:一种概率理性编程语言。收录于:Nebel,B.(编辑)IJCAI,第733-740页。Morgan Kaufmann,旧金山(2001)
[32] Pfeffer,A.:IBAL的设计和实现:通用概率语言。In:统计关系学习。麻省理工学院出版社,剑桥(2007)
[33] Ramsey,N.,Pfeffer,A.:随机lambda演算和概率分布的单数。收录于:POPL,第154-165页(2002年)·兹比尔1323.68150 ·doi:10.1145/503272.503288
[34] Reed,J.,Pierce,B.C.:距离使类型变得更强:差异隐私的微积分。In:ICFP,第157-168页(2010年)·Zbl 1323.68254号 ·数字对象标识代码:10.1145/1863543.1863568
[35] Saheb-Djahromi,N.:概率LCF。收录:Winkowski,J.(编辑)MFCS 1978。LNCS,第64卷,第442-451页。斯普林格,海德堡(1978)·doi:10.1007/3-540-08921-792
[36] Syme,D.,Granicz,A.,Cisternino,A.:专家F#。4月(2007)·doi:10.1007/978-1-4302-0285-1
[37] Winn,J.,Minka,T.:使用推理的概率编程。净利润。机器学习暑期学校课堂讲稿(2009),http://research.microsoft.com/minka/papers/mlss2009/
[38] Winn,J.M.,Bishop,C.M.:变化信息传递。机器学习研究杂志661-694(2005)·Zbl 1222.68332号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。