×

贝叶斯环境下观测值的最佳投影。 (英语) Zbl 1469.62069号

摘要:针对具有加性噪声的高斯线性模型在数据过多的情况下的贝叶斯推断,提出了最优降维方法。基于信息论,提出了观测值的三种不同的最优投影:使原始模型和投影模型的后验分布之间的Kullback-Leibler发散最小的投影,使相同分布之间的预期Kullback-Leibler散度最小的投影,以及最大化感兴趣参数和投影观测值之间的互信息的方法。前两个优化问题被表示为最优子空间的确定,因此在格拉斯曼流形上使用黎曼优化算法计算解。对于互信息的最大化,证明了存在一个最优子空间,该子空间使简化模型后验分布的熵最小;子空间的基可以计算为广义特征值问题的解;对于这个特定的解决方案,可以对互信息进行先验误差估计;并且为了准确地保存模型输入和输出之间的互信息,子空间的维数小于要推断的参数数量。线性和非线性模型的数值应用用于评估所提方法的效率,并基于观测值的主成分分析强调其相对于标准方法的优势。

MSC公司:

62-08 统计问题的计算方法
2015年1月62日 贝叶斯推断
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Absil,P.-A.公司。;贝克,C.G。;Gallivan,K.A.,黎曼流形上的信赖域方法,发现。计算。数学。,7, 3, 303-330, (2007) ·Zbl 1129.65045号
[2] Absil,P.-A.公司。;Mahony,R。;Sepulchre,R.,Grassmann流形的黎曼几何与算法计算,应用学报。数学。,80, 2, 199-220, (2004) ·Zbl 1052.65048号
[3] Absil,P.-A.公司。;Mahony,R。;Sepulchre,R.,矩阵流形上的优化算法,(2009),普林斯顿大学出版社·Zbl 1147.65043号
[4] Barrault,M。;Maday,Y。;北昆延。;Patera,A.T.,《经验插值法:应用于偏微分方程的有效降基离散化》,C.R.Math。,339, 9, 667-672, (2004) ·Zbl 1061.65118号
[5] Bebendorf,M.,边界元矩阵近似,数值。数学。,86, 4, 565-589, (2000) ·Zbl 0966.65094号
[6] 贝本多夫,M。;Maday,Y。;Stamm,B.,一些简化表示近似的比较,(建模和计算简化的简化阶方法,(2014),Springer International Publishing Cham),67-100,(第3章)·Zbl 1312.65200号
[7] Burnham,K.P。;Anderson,D.R.,《模型选择和多模态推理:实用信息理论方法》,(2003),施普林格科学与商业媒体
[8] 陈,P。;Quarteroni,A。;Rozza,G.,《加权经验插值法:先验收敛分析与应用》,ESAIM Math。模型。数字。分析。,48, 4, 943-953, (2014) ·兹比尔1304.65097
[9] 崔,T。;马丁·J。;Marzouk,Y.M。;Solonen,A。;Spantini,A.,《非线性反问题的似然维数缩减》,反问题,29114015,(2014)·Zbl 1310.62030
[10] 德里尼亚斯,P。;Kannan,R。;Mahoney,M.W.,矩阵的快速蒙特卡罗算法I:近似矩阵乘法,SIAM J.Compute。,36,1132-157,(2006年)·Zbl 1111.68147号
[11] Evensen,G.,《使用蒙特卡罗方法预测误差统计的非线性准营养模型的序贯数据同化》,J.Geophys。决议,99,C5,10143,(1994)
[12] Geppert,L.N。;伊克斯塔特,K。;Munteanu,A。;Quedenfeld,J。;Sohler,C.,贝叶斯回归的随机预测,统计计算。,27,179-101,(2017)·Zbl 1505.62157号
[13] Giraldi,L。;Le Maêtre,O.P。;Mandli,K.T。;Dawson,C.N。;Hoteit,I。;Knio,O.M.,使用多项式混沌替代物,从浮标数据中对地震参数进行贝叶斯推断,计算。地质科学。,21, 4, 683-699, (2017) ·Zbl 1369.86007号
[14] 格雷斯泰恩,I.S。;Ryzhik,I.M.,积分、级数和乘积表,(2014),爱思唯尔·Zbl 0918.65002号
[15] Hackbusch,W.(张量空间和数值张量微积分,计算数学中的Springer级数,第42卷,(2012),Springer-Verlag Berlin Heidelberg)·Zbl 1244.65061号
[16] Hartigan,J.A。;Wong,M.A.,Algorithm AS 136:A\(k\)-表示聚类算法,J.Roy。统计师。Soc.序列号。C(应用统计),28,1,100-108,(1979)·兹比尔0447.62062
[17] Hotelling,H.,《主成分统计变量复合体分析》,J.Educ。心理医生。,24, 417-441, (1933)
[18] Householder,A.S.,关于矩阵求逆的一些封闭方法的调查,J.Soc.Ind.Appl。数学。,5, 3, 155-169, (1957) ·Zbl 0080.33202号
[19] Jolliffe,I.T.,主成分分析,(2002),施普林格·Zbl 1011.62064号
[20] Karhunen,K.,Über线性方法,在德国科学院。科学。芬尼克族。A1,数学。物理学。37, 37, 1-79, (1947) ·Zbl 0030.16502号
[21] Le Maêtre,O.P。;Knio,O.M.,《不确定性量化的光谱方法:应用于计算流体动力学》,552,(2010),Springer·Zbl 1193.76003号
[22] Loève,M.,《二阶函数》(Processus Stostiques Et Mouvement Brownien,(1948))
[23] Mac Queen,J.,多元观测的分类和分析的一些方法,(第五届伯克利数学统计与概率研讨会论文集,第1卷:统计学,(1967),加州大学伯克利分校出版社),281-297·Zbl 0214.46201号
[24] Maclaurin,D.,Duvenaud,D.,Johnson,M.,Adams,R.P.,2017年。Autograd:原生Python的反向模式区分。;Maclaurin,D.,Duvenaud,D.,Johnson,M.,Adams,R.P.,2017年。Autograd:原生Python的反向模式区分。
[25] Milnor,J.W。;Stasheff,J.D.,(《特征类》,《数学年鉴》,第76卷,(1974年),普林斯顿大学出版社,新泽西州普林斯顿),vii+331·Zbl 0298.57008号
[26] Pearson,K.,Liii。在最接近空间点系的直线和平面上,Phil.Mag.,2,11,559-572,(1901)
[27] Petersen,K.B.,Pedersen,M.S.,2012年。矩阵食谱,20121115年11月版。;Petersen,K.B.,Pedersen,M.S.,2012年。矩阵食谱,20121115年11月版。
[28] 斯潘蒂尼,A。;崔,T。;Willcox,K。;Tenorio,L。;Marzouk,Y.M.,贝叶斯线性逆问题的面向目标的最优逼近,SIAM J.Sci。计算。,39、5、S167-S196(2017)·兹比尔1373.15027
[29] 斯潘蒂尼,A。;Solonen,A。;崔,T。;马丁·J。;Tenorio,L。;Marzouk,Y.,贝叶斯线性逆问题的最优低阶近似,SIAM J.Sci。计算。,37、6、A2451-A2487(2015)·Zbl 1325.62060号
[30] 斯拉吉,I。;Mandli,K.T.(曼德利,K.T.)。;O.M.科尼奥。;Dawson,C.N。;Hoteit,I.,在日本东北部海啸期间使用DART浮标数据对曼宁摩擦系数进行不确定性量化和推断,海洋模型。,83, 82-97, (2014)
[31] 蒂尔尼,L。;Kadane,J.B.,《后力矩和边缘密度的精确近似值》,J.Amer。统计师。协会,81,393,82-86,(1986)·Zbl 0587.62067号
[32] 汤森,J。;北卡罗来纳州科普。;Weichwald,S.,Pymanopt:使用自动微分优化流形的python工具箱,J.Mach。学习。决议,17,137,1-5,(2016)·Zbl 1416.65580号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。