×

通过再生核Hilbert空间表示计算随机变量的函数。 (英语) Zbl 1331.62206号

摘要:我们描述了一种对随机变量的概率分布进行函数运算的方法。该方法使用概率分布的再生核Hilbert空间表示,适用于可应用于从相应分布中提取的点的所有操作。我们将我们的方法称为核概率规划我们在合成数据上进行了说明,并展示了如何将其用于非参数结构方程模型,以及因果推理的应用。

MSC公司:

62G05型 非参数估计
60F05型 中心极限和其他弱定理
62小时99 多元分析
60层25 \(L^p\)-极限定理
90立方厘米15 随机规划

软件:

帕卡尔
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 巴赫,F.R.,乔丹,M.I.:内核独立成分分析。J.马赫。学习。决议3,1-48(2002)·兹比尔1088.68689
[2] Berlinet,A.,Agnan,T.C.:在概率和统计中再现核Hilbert空间。Kluwer学术出版社,波士顿(2004)·Zbl 1145.6202号 ·doi:10.1007/978-1-4419-9096-9
[3] Boser,B.E.,Guyon,I.M.,Vapnik,V.N.:最佳边缘分类器的训练算法。摘自:第五届计算学习理论年度研讨会论文集。1992年版,第144-152页。ACM,纽约(1992)·Zbl 1242.60005号
[4] Cassel,J.:随机记忆概率规划:实现非参数贝叶斯推理。数学。J.16(2014)。doi:10.3888/tmj.16-1
[5] 爱泼斯坦:梅林变换在统计学中的一些应用。安。数学。《美国联邦法律大全》第19卷第3页,第370-379页(1948年)·Zbl 0032.29203号 ·doi:10.1214/aoms/1177730201
[6] Ferson,S.:蒙特卡洛方法不能做的事。风险评估:《国际期刊》2(4),990-1007(1996)。doi:10.1080/10807039609383659·doi:10.1080/10807039609383659
[7] Fukumizu,K.,Bach,F.,Jordan,M.I.:回归中的核维数减少。Ann.Stat.37(4),1871-1905(2009)·Zbl 1168.62049号 ·doi:10.1214/08-AOS637
[8] Fukumizu,K。;格雷顿,A。;太阳,X。;Schölkopf,B。;Platt,JC(编辑);Koller,D.(编辑);辛格,Y.(编辑);Roweis,S.(ed.),条件依赖的核心度量,第20期,489-496(2008),红钩
[9] Fukumizu,K.,Song,L.,Gretton,A.:核贝叶斯规则:具有正定核的贝叶斯推理。J.马赫。学习。第14号决议,3753-3783(2013)·Zbl 1318.62131号
[10] Gordon,A.D.,Henzinger,T.A.,Nori,A.V.,Rajamani,S.K.:概率编程。参加:软件工程国际会议(ICSE,FOSE轨道)(2014年)·Zbl 1009.62029号
[11] Gretton,A.,Borgwardt,K.M.,Rasch,M.J.,Schölkopf,B.,Smola,A.:内核双样本测试。J.马赫。学习。第13723-7773号决议(2012年)·Zbl 1283.62095号
[12] Gretton,A.,Bousquet,O.,Smola,A.J.,Schölkopf,B.:使用Hilbert-Schmidt规范测量统计相关性。摘自:Jain,S.、Simon,H.U.、Tomita,E.(编辑)《算法学习理论:第16届国际会议》,第63-78页。柏林施普林格出版社(2005)·Zbl 1168.62354号
[13] 格雷顿,A。;斯莫拉,AJ;黄,J。;Schmittfull,M。;Borgwardt,K。;Schölkopf,B。;坎德拉,JQ(编辑);Sugiyama,M.(编辑);Schwaighofer,A.(编辑);Lawrence,ND(编辑),通过核均值匹配进行协变量移位,131-160(2009),剑桥
[14] Harmeling,S.,Hirsch,M.,Schlkopf,B.:关于核平均映射和夫琅和费衍射之间的联系,以及超出衍射极限的超分辨率应用。载于:CVPR,第1083-1090页。IEEE(2013)·Zbl 1318.68151号
[15] Hofmann,T.、Schölkopf,B.、Smola,A.J.:机器学习中的内核方法。Ann.Stat.36(3),1171-1220(2008)·Zbl 1151.30007号
[16] 黄,J。;Smola,A。;格雷顿,A。;Borgwardt,K。;Schölkopf,B。;Schölkopf,B.(编辑);Platt,J.(编辑);Hoffman,T.(编辑),用未标记数据校正样本选择偏差,601-608(2007),剑桥
[17] James,W.,Stein,C.:二次损失估计。程序。伯克利第四交响乐团。数学。统计师。探针。361-379 (1961) ·Zbl 1281.62026号
[18] Jaroszewicz,S.,Korzen,M.:独立随机变量的算术运算:数值方法。SIAM J.科学。计算。34(3),A1241-A1265(2012)·Zbl 1260.65010号 ·doi:10.1137/110839680
[19] Kanagawa,M.,Fukumizu,K.:从高斯RKHS嵌入中恢复分布。收录于:JMLR W&CP 33(AISTATS 2014年公报),第457-465页。(2014) ·Zbl 0144.40701号
[20] Kpotufe,S.,Sguritsa,E.,Janzing,D.,Schölkopf,B.:加性噪声模型下因果推理的一致性。In:ICML(2014)·兹比尔1318.62131
[21] Lopez-Paz,D.,Muandet,K.,Schölkopf,B.,Tolstikhin,I.:走向因果推理的学习理论。摘自:《第32届机器学习国际会议论文集》,JMLR:W&CP,法国里尔,出版社(2015)
[22] Milios,D.:作为程序变量的概率分布。爱丁堡大学信息学院硕士论文(2009)·Zbl 1168.62049号
[23] Mooij,J.M.、Peters,J.、Janzing,D.、Zscheischler,J.和Schölkopf,B.:使用观测数据区分因果:方法和基准。arXiv:1412.3773(2014)。2015年1月18日访问·Zbl 1360.68700号
[24] Muandet,K.,Balduzzi,D.,Schölkopf,B.:通过不变特征表示进行领域泛化。收录于:ICML,第10-18页(2013年)·Zbl 1088.68689号
[25] 穆安德,K。;Fukumizu,K。;迪努佐,F。;Schölkopf,B。;Bartlett,P.(编辑);Pereira,F.(编辑);Burges,C.(编辑);Bottou,L.(编辑);Weinberger,K.(编辑),《通过支持测量机从分布中学习》,10-18(2012),Red Hook
[26] Muandet,K.,Fukumizu,K.、Sriperumbudur,B.、Gretton,A.、Schölkopf,B.:核平均值估计和Stein效应。收录人:Xing,E.P.,Jebara,T.(编辑)。第31届机器学习国际会议记录,JMLR W&CP,第32卷。(2014年a)·兹比尔1360.62134
[27] Muandet,K.,Sriperumbudur,B.,Schölkopf,B.:通过谱滤波进行核平均估计。收录:Ghahramani,Z.,Welling,M.,Cortes,C.,Lawrence,N.,Weinberger,K.(编辑)《神经信息处理系统进展》,第27卷。Curran Associates Inc.(2014年b)
[28] Paige,B.,Wood,F.:概率编程语言的编译目标。收录:机器学习研究杂志;ICML 2014,第1935-1943页(2014)
[29] Pearl,J.:《因果关系:模型、推理和推断》,第2版。剑桥大学出版社,纽约(2009)·Zbl 1188.68291号 ·doi:10.1017/CBO9780511803161
[30] Peters,J.,Mooij,J.、Janzing,D.、Schölkopf,B.:连续加性噪声模型的因果发现。J.马赫。学习。2009-2053年第15号决议(2014年)·Zbl 1318.68151号
[31] Prasad,R.D.:独立随机变量代数函数的概率分布。SIAM J.应用。数学。18(3), 614-626 (1970) ·Zbl 0221.60007号 ·doi:10.1137/0118054
[32] Rahimi,A.,Recht,B.:大型内核机器的随机特性。摘自:Platt,J.、Koller,D.、Singer,Y.、Roweis,S.(编辑)《神经信息处理系统进展》,第20卷,第1177-1184页。Curran Associates,Inc.(2007年)
[33] Schölkopf,B.,Platt,J.C.,Shawe-Taylor,J.C.、Smola,A.J.、Williamson,R.C.:估计高维分布的支持。神经计算。13(7), 1443-1471 (2001) ·Zbl 1009.62029号 ·doi:10.1162/089976601750264965
[34] Schölkopf,B.,Smola,A.J.:用内核学习。麻省理工学院出版社,马萨诸塞州剑桥,美国(2002)·Zbl 1019.68094号
[35] Shawe-Taylor,J.,Cristianini,N.:模式分析的核心方法。剑桥大学出版社,剑桥(2004)·Zbl 0994.68074号 ·doi:10.1017/CBO9780511809682
[36] Smola,A.,Gretton,A.,Song,L.,Schölkopf,B.:分布的希尔伯特空间嵌入。In:程序。算法学习理论,第13-31页。Springer-Verlag(2007)·兹比尔1142.68407
[37] Song,L.:通过分布的希尔伯特空间嵌入进行学习。悉尼大学信息技术学院博士论文(2008年)
[38] Song,L.,Boots,B.,Siddiqi,S.M.,Gordon,G.,Smola,A.J.:隐藏马尔可夫模型的希尔伯特空间嵌入。摘自:第27届国际机器学习会议(ICML)会议记录(2010年)
[39] Song,L.,Gretton,A.,Bickson,D.,Low,Y.,Guestrin,C.:核心信念传播。附:第十四届国际人工智能与统计会议(AISTATS)会议记录(2011年)
[40] Song,L.,Huang,J.,Smola,A.,Fukumizu,K.:条件分布的Hilbert空间嵌入及其在动力系统中的应用。In:ICML(2009)
[41] Song,L.,Zhang,X.,Smola,A.J.,Gretton,A.,Schölkopf,B.:通过再生核矩匹配定制密度估计。收录人:Cohen,W.W.,McCallum,A.,Roweis,S.(编辑)。载:《第25届国际机器学习大会论文集》,第992-999页。纽约ACM出版社(2008)·Zbl 1260.65010号
[42] Springer,M.:随机变量代数,概率和数理统计中的威利级数。霍博肯·威利(1979)·Zbl 0399.60002号
[43] Springer,M.D.,Thompson,W.E.:独立随机变量乘积的分布。SIAM J.应用。数学。14(3), 511-526 (1966) ·Zbl 0144.40701号 ·数字对象标识代码:10.1137/0114046
[44] Sriperumbudur,B.K.,Gretton,A.,Fukumizu,K.,Lanckriet,G.,Schölkopf,B.:概率测度的内射希尔伯特空间嵌入。参加:第21届学习理论年会(COLT)(2008)·Zbl 1242.60005号
[45] Sriperumbudur,B.K.,Gretton,A.,Fukumizu,K.,Schölkopf,B.,Lanckriet,G.:希尔伯特空间嵌入和概率度量。J.马赫。学习。第99号决议,1517-1561(2010年)·Zbl 1242.60005号
[46] Steinwart,I.:关于核对支持向量机一致性的影响。J.马赫。学习。第2号决议,67-93(2002年)·Zbl 1009.68143号
[47] Steinwart,I.,Christmann,A.:支持向量机。施普林格,纽约(2008)·Zbl 1203.68171号
[48] Szabó,Z.,Gretton,A.,Póczos,B.,Sriperumbudur,B.:关于分布的两阶段抽样学习理论。arXiv:1402.1754(2014)。2015年1月18日访问·兹比尔1392.62124
[49] 威廉姆森,R.C.:概率算术。澳大利亚昆士兰圣卢西亚昆士兰大学电气工程系博士论文(1989年)
[50] Wood,F.、van de Meent,J.W.、Mansinghka,V.:概率规划推断的新方法。摘自:《第17届国际人工智能与统计会议记录》,JMLR:W&CP,第33卷。冰岛雷克雅未克(2014)
[51] Zhang,K.,Peters,J.,Janzing,D.,Schölkopf,B.:基于核的条件独立性测试及其在因果发现中的应用。收录:Cozman,F.,Pfeffer,A.(编辑)。参见:第27届人工智能不确定性会议(UAI 2011),第804-813页。美国俄勒冈州科瓦利斯AUAI出版社(2011)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。