×

大型空间数据集分层矩阵的似然逼近。 (英语) Zbl 1507.62110号

小结:空间协方差函数的未知参数(方差、平滑度和协方差长度)可以通过最大化联合高斯对数似然函数来估计。为了克服线性代数中的三次复杂性,离散化协方差函数以层次((mathcal{H})-)矩阵格式近似。矩阵格式具有对数线性计算开销和存储,其中秩是一个小整数,位置数是。\(\mathcal{H}\)矩阵技术可以近似在不一定是轴平行的相当一般的网格上离散的一般协方差矩阵(也是非均匀的),并且协方差矩阵本身及其逆矩阵都不必是稀疏的。研究了矩阵逼近误差对估计参数的影响。通过蒙特卡罗模拟的数值例子,给出了未知参数的真实值,并给出了在未知参数土壤水分数据中的应用。C、C++代码和数据是免费提供的。

MSC公司:

62-08 统计问题的计算方法
62立方米 空间过程推断
65层55 低阶矩阵逼近的数值方法;矩阵压缩
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿卜杜拉,S。;Ltaief,H。;孙,Y。;Genton,M.G。;Keyes,D.E.,Exageostat:一个用于多核系统地质统计学的高性能统一软件,IEEE Trans。并行分配系统。,29, 2771-2784 (2018)
[2] Ambikasaran,S.、Foreman-Mackey,D.、Greengard,L.、Hogg,D.W.、OŃeil,M.,2014年。高斯过程和NASA开普勒任务数据分析的快速直接方法。ArXiv预印本,https://arxiv.org/abs/14036015v1; Ambikasaran,S.、Foreman-Mackey,D.、Greengard,L.、Hogg,D.W.、OŃeil,M.,2014年。高斯过程和NASA开普勒任务数据分析的快速直接方法。ArXiv预印本,https://arxiv.org/abs/14036015v1
[3] Ambikasaran,S。;Foreman-Mackey,D。;Greengard,L。;霍格,D.W。;OŃeil,M.,高斯过程的快速直接方法,IEEE Trans。模式分析。马赫。智力。,38、2、252-265(2016),(ISSN 0162-8828)
[4] Ambikasaran,S。;Li,J.Y。;Kitanidis,P.K。;Darve,E.,使用层次矩阵的大尺度随机线性反演,计算。地质科学。,17, 6, 913-927 (2013) ·兹比尔1395.62050
[5] Anitescu,M。;陈,J。;Wang,L.,求解参数高斯过程最大似然问题的无矩阵方法,SIAM J.Sci。计算。,34、1、240-262(2012),(ISSN 1064-8275)·Zbl 1241.65020号
[6] Ballani,J.,Kressner,D.,2015年。分层矩阵的稀疏逆协方差估计。http://sma.epfl.ch/anchpcommon/publications/quic_ballani_kressner_2014.pdf; Ballani,J.,Kressner,D.,2015年。分层矩阵的稀疏逆协方差估计。http://sma.epfl.ch/anchpcommon/publications/quic_ballani_kressner_2014.pdf ·Zbl 1361.65023号
[7] 班纳吉,S。;Gelfand,A.E。;芬利,A.O。;Sang,H.,《大型空间数据集的高斯预测过程模型》,J.R.Stat.Soc.Ser。B统计方法。,70、4、825-848(2008),(ISSN 1467-9868)·兹伯利05563371
[8] Bebendorf,M.,为什么椭圆算子有限元离散化的近似LU分解可以用几乎线性复杂度计算,SIAM J.Numer。分析。,45, 1472-1494 (2007) ·Zbl 1152.65042号
[9] 贝本多夫,M。;博尔霍夫,M。;Bratsch,M.,关于椭圆问题层次矩阵预条件的谱等价性,数学。公司。,85, 302, 2839-2861 (2016) ·Zbl 1344.65039号
[10] 贝本多夫,M。;Hackbusch,W.,系数为L({}^ infty)的椭圆算子逆FE-矩阵的H-矩阵逼近的存在性,Numer。数学。,95, 1, 1-28 (2003) ·Zbl 1033.65100号
[11] 贝本多夫,M。;Rjasanow,S.,配置矩阵的自适应低阶近似,计算,70,1,1-24(2003),(ISSN 0010-485X)·Zbl 1068.41052号
[12] Börm,S。;Garcke,J.,《用(H^2)矩阵逼近高斯过程》,(Kok,J.N.;Koronacki,J.;de Mantaras,R.L.;Matwin,S.;Mladen,D.;Skowron,A.,《第十八届欧洲机器学习会议论文集》,波兰华沙。第十八届欧洲机器学习会议,波兰华夏,ECML 2007,第4701卷(2007)),42-53
[13] Börm,S。;格拉瑟迪克。;Hackbusch,W.,(层次矩阵,层次矩阵,讲义,第21卷(2003),马克斯·普朗克数学研究所,莱比锡),www.mis.mpg.de·Zbl 1035.65042号
[14] Brent,R.P.,第4章:寻找函数零点的保证收敛算法,无导数最小化算法(1973),新泽西州恩格尔伍德悬崖:Prentice Hall·Zbl 0245.65032号
[15] 曹,J。;Genton,M.G。;Keyes,D.E。;Turkiyyah,G.,高维多元正态概率的分层块条件近似,统计计算。(2019),(印刷中)·Zbl 1430.62094号
[16] Castrillon,J.E。;Genton,M.G。;Yokota,R.,大型非网格空间数据集的多级限制最大似然协方差估计和克里金法,Spat。统计,18,105-124(2016)
[17] 北卡罗来纳州克雷西。;Johannesson,G.,《超大空间数据集的固定秩克里金法》,J.R.Stat.Soc.Ser。B统计方法。,701209-226(2008),(ISSN 1467-9868)·Zbl 05563351号
[18] Dahlhaus,R。;Künsch,H.,平稳随机场的边缘效应和有效参数估计,生物统计学,74,4,877-882(1987)·Zbl 0633.62094号
[19] Datta,A。;班纳吉,S。;芬利,A.O。;Gelfand,A.E.,大型地质统计数据集的层次最近邻高斯过程模型,J.Amer。统计师。协会,111,514,800-812(2016),网址https://doi.org/101080/0162145920151044091
[20] 迪特里希,C。;Newsam,G.N.,通过协方差矩阵的循环嵌入快速准确地模拟平稳高斯过程,SIAM J.Sci。计算。,18(4) (1997), 1088-107 ·Zbl 0890.65149号
[21] Fuentes,M.,《大型不规则间距空间数据的近似可能性》,J.Amer。统计师。协会,102,321-331(2007)·Zbl 1284.62589号
[22] Fuglstad,G.-A。;D.辛普森。;林格伦,F。;Rue,H.,非平稳空间数据总是需要非平稳随机场吗?,小争吵。统计,14,505-531(2015)
[23] 富勒,R。;Genton,M.G。;Nychka,D.,《用于大型空间数据集插值的协方差锥化》,J.Compute。图表。统计人员。,15, 3, 502-523 (2006)
[24] Genton,M.G。;Keyes,D.E。;Turkiyyah,G.,高维多元正态概率计算的层次分解,J.Compute。图表。统计人员。,27, 2, 268-277 (2018) ·Zbl 07498945号
[25] Gine,E。;Nickl,R.,高斯过程,(无限维统计模型的数学基础。无限维统计模式的数学基础,剑桥统计与概率数学系列(2015),剑桥大学出版社),15-108
[26] Goreinov,S.A。;Tyrtyshnikov,E.E。;Zamarashkin,N.L.,伪骨架近似理论,线性代数应用。,261,1-21(1997),(ISSN 0024-3795)·Zbl 0877.65021号
[27] 格拉瑟迪克。;Hackbusch,W.,《(H)矩阵的构造和算术,计算》,70,4,295-334(2003),(ISSN 0010-485X)·Zbl 1030.65033号
[28] 吉尼斯,J。;Fuentes,M.,用于从大晶格上的高斯数据推断的近似协方差的循环嵌入,J.Compute。图表。统计人员。,26, 1, 88-97 (2017)
[29] 吉尼斯,J.,伊普森,I.,2015年。平稳马尔可夫随机场模型高斯似然的有效计算。http://www4ncsu.edu/ipsen/ps/MRFlikelihoods.pdf; 吉尼斯,J.,伊普森,I.,2015年。平稳马尔可夫随机场模型高斯似然的有效计算。http://www4ncsu.edu/ipsen/ps/MRFlikelihoods.pdf
[30] Guttorp,P。;Gneiting,T.,《概率统计史研究》,第四十九卷:关于Matérn相关家族,生物统计学,93,989-995(2006)·兹比尔1436.62013
[31] Hackbusch,W.,基于(H)-矩阵的稀疏矩阵算法。I.(H)矩阵简介,计算,62,2,89-108(1999),(ISSN 0010-485X)·Zbl 0927.65063号
[32] Hackbusch,W.,(层次矩阵:算法与分析。层次矩阵:计算与分析,《计算机数学中的Springer系列》,第49卷(2015),Springer)·Zbl 1336.65041号
[33] Hackbusch,W。;Khoromskij,B.N。;Kriemann,R.,基于弱可容许准则的层次矩阵,《计算》,73,3,207-243(2004),(ISSN 0010-485X)·Zbl 1063.65035号
[34] 手动旋塞,M.S。;Stein,M.L.,克立格的贝叶斯分析,技术计量学,35,403-410(1993)
[35] 哈布雷希特,H。;彼得斯,M。;Siebenmorgen,M.,数值应用中随机场的有效近似,数值。线性代数应用。,22, 4, 596-617 (2015) ·Zbl 1349.65048号
[36] Ho,K.L。;Ying,L.,椭圆算子的层次插值因式分解:微分方程,Comm.Pure Appl。数学。,69, 1415-1451 (2016) ·Zbl 1353.35142号
[37] 谢长杰。;Sustik,硕士。;迪伦,I.S。;拉维库马尔,P.K。;波德拉克,R.,Big&QUIC:百万变量的稀疏逆协方差估计,(Burges,C.;Bottou,L.;Welling,M.;Ghahramani,Z.;Weinberger,K.,《神经信息处理系统进展》26(2013),Curran Associates,Inc.),3165-3173
[38] 黄,H。;Sun,Y.,大型空间数据集可能性的层次低秩近似,J.Compute。图表。统计人员。,27、1、110-118(2018),网址https://doi.org/101080/10618600.2017.1356324 ·Zbl 07498971号
[39] Ipsen,I.C.F.,Lee,D.J.,2005年。确定性近似。http://arxiv.org/abs/11050437v1; Ipsen,I.C.F.,Lee,D.J.,2005年。确定性近似。http://arxiv.org/abs/11050437v1
[40] Katzfuss,M.,吉尼斯,J.,2017年。高斯过程Vecchia近似的一般框架。ArXiv电子打印。;Katzfuss,M.,吉尼斯,J.,2017。高斯过程Vecchia近似的一般框架。ArXiv电子打印。
[41] 考夫曼,C.G。;Schervish,M.J。;Nychka,D.W.,大型空间数据集中基于相似性估计的协方差减缩,J.Amer。统计师。协会,103,484,1545-1555(2008)·Zbl 1286.62072号
[42] Khoromskij,B.N。;Litvinenko,A.,皮肤问题的基于区域分解的H矩阵预处理器,(科学与工程领域分解方法十七(2008)),175-182·Zbl 1140.65370号
[43] Khoromskij,B.N。;Litvinenko,A。;Matthies,H.G.,层次矩阵在计算Karhunen-Loève展开式中的应用,计算,84,1-2,49-67(2009)·Zbl 1162.65306号
[44] 克莱伯,W。;Nychka,D.W.,等效克里金,斯帕特。统计,12,31-49(2015)
[45] Kriemann,R.,共享存储系统上的并行H矩阵算法,计算,74,3,273-297(2005),(ISSN 0010-485x)·Zbl 1071.65050号
[46] Li,J.Y。;Ambikasaran,S。;Darve,E.F。;Kitanidis,P.K.,一种由H2矩阵驱动的用于准连续数据同化问题的卡尔曼滤波器,水资源。研究,50,5,3734-3749(2014),URLhttps://agupubs.onlinelibrary.wiley.com/doi/abs/10.1002/2013WR014607
[47] Litvinenko,A.,2006年。层次矩阵在解决多尺度问题中的应用。https://www.researchgate.net/publication/315607074_应用程序_of_Hierarchical_Matrices_for_Solving_Multi-Scale_Problems; Litvinenko,A.,2006年。层次矩阵在解决多尺度问题中的应用。https://www.researchgate.net/publication/315607074_应用程序_of_Hierarchical_Matrices_for_Solving_Multi-Scale_Problems ·Zbl 1127.65091号
[48] Litvinenko,A.,2017a。椭圆算子的部分倒置加速贝叶斯推断中的似然计算,arXiv预印本。https://arxiv.org/abs/1708.02207; Litvinenko,A.,2017a。椭圆算子的部分倒置加速贝叶斯推断中的似然计算,arXiv预印本。https://arxiv.org/abs/1708.02207
[49] Litvinenko,A.,图书馆:分层矩阵的对数似然近似,2017b,URLhttps://github.com/litvinen/HLIBCov.git; Litvinenko,A.,图书馆:分层矩阵的对数似然近似,2017b,URLhttps://github.com/litvinen/HLIBCov.git
[50] Litvinenko,A.,HLIBCov:大协方差矩阵和可能性的并行层次矩阵近似及其在参数识别中的应用,2017c。ArXiv预印本,http://arxiv.org/abs/170908625; Litvinenko,A.,HLIBCov:大协方差矩阵和可能性的并行层次矩阵近似及其在参数识别中的应用,2017c。ArXiv预印本,http://arxiv.org/abs/170908625
[51] Litvinenko,A。;凯斯,D。;Khoromskaia,V。;Khoromskij,B.N。;Matthies,H.G.,《空间统计中主函数的塔克张量分析》,计算。方法应用。数学。(2018)
[52] Litvinenko,A.,Matthies,H.G.,2013年。反问题和不确定性量化。arXiv预印本,https://arxiv.org/abs/1312.5048; Litvinenko,A.,Matthies,H.G.,2013年。反问题和不确定性量化。arXiv预印本,https://arxiv.org/abs/11312.5048
[53] Litvinenko,A.,Sun,Y.,Genton,M.G.,Keyes,D.,大型空间数据集层次矩阵的似然逼近。ArXiv预印本,http://arxiv.org/abs/1709.04419; Litvinenko,A.,Sun,Y.,Genton,M.G.,Keyes,D.,大型空间数据集层次矩阵的似然逼近。ArXiv预印本,http://arxiv.org/abs/1709.04419
[54] Martinsson,P。;Rokhlin,V.,《二维边界积分方程的快速直接求解器》,J.Compute。物理。,205, 1, 1-23 (2005) ·Zbl 1078.65112号
[55] Matérn,B.,(空间变异。空间变异,统计学讲义,第36卷(1986年),施普林格-弗拉格:柏林施普林格大学;纽约)·Zbl 0608.62122号
[56] 马提斯,H。;Litvinenko,A。;Pajonk,O。;罗西奇,B.V。;Zander,E.,《张量积表示的参数和不确定性计算》(Dienstfrey,A.M.;Boisvert,R.F.,《科学计算中的不确定性量化》,《科学计算机中的不确定量化》,IFIP信息与通信技术进展,第377卷(2012),斯普林格-柏林-海德堡),139-150·Zbl 1256.65004号
[57] 诺瓦克,W。;Litvinenko,A.,Kriging和按数量级加速的空间设计:将低秩协方差近似与FFT技术相结合,数学。地质科学。,45, 4, 411-435 (2013) ·Zbl 1321.86027号
[58] Nychka,D。;Bandyopadhyay,S。;哈姆林,D。;林格伦,F。;Sain,S.,用于分析大型空间数据集的多分辨率高斯过程模型,J.Compute。图表。统计人员。,24, 2, 579-599 (2015)
[59] Pajonk,O。;罗西奇,B.V。;Litvinenko,A。;Matthies,H.G.,非高斯贝叶斯估计的确定性滤波器——在含噪测量动态系统估计中的应用,Physica D,241,775-788(2012)·Zbl 1237.62129号
[60] 出版社,W.H。;Teukolsky,S.A。;韦特林,W.T。;Flannery,B.P.,第9.3节。Van Wijngaarden-Dekker-Brent方法。《数字食谱:科学计算的艺术》,第三版(2007),纽约:剑桥大学出版社
[61] 基诺内罗·坎德拉,J。;拉斯穆森,C.E。;Herbrich,R.,稀疏近似高斯过程回归的统一观点,J.Mach。学习。研究,61939-1959(2005)·Zbl 1222.68282号
[62] 罗西奇,B.V。;库切罗娃,A。;S公司科拉,J。;Pajonk,O。;Litvinenko,A。;Matthies,H.G.,概率设置中的参数识别,工程结构。,50, 179-196 (2013)
[63] 罗西奇,B.V。;Litvinenko,A。;Pajonk,O。;Matthies,H.G.,多项式混沌表示的无采样线性贝叶斯更新,J.Compute。物理。,231, 17, 5761-5787 (2012) ·Zbl 1277.60114号
[64] H街。;Held,L.,《高斯马尔可夫随机场:理论与应用》(2005),CRC出版社·邮编1093.60003
[65] H街。;Tjelmeland,H.,将高斯马尔可夫随机场拟合为高斯场,Scand。《统计杂志》,29,1,31-49(2002)·兹比尔1017.62088
[66] 塞巴巴,A。;Ambikasaran,S。;岳丽,J。;Kitanidis,P.K。;Darve,E.,《分层矩阵在地质统计学线性逆问题中的应用》,石油与天然气科学。Technol公司。IFP Ener版本。Nouvelles,67,5,857-875(2012)
[67] 塞巴巴,A。;Kitanidis,P.,《使用地质统计学方法进行大规模线性反演的有效方法》,《水资源》。决议,48,5(2012),URLhttps://agupubs.onlinelibrary.wiley.com/doi/abs/101029/2011WR011778
[68] 塞巴巴,A。;Kitanidis,P.,《解决反问题的地质统计学方法中不确定性量化测度的快速计算》,《高级水资源》。,82、124-138(2015),(ISSN 0309-1708)
[69] Sang,H。;Huang,J.Z.,大型空间数据集协方差函数的全尺度近似,J.R.Stat.Soc.Ser。B统计方法。,74, 1, 111-132 (2012) ·Zbl 1411.62274号
[70] Si,S。;谢长杰。;Dhillon,I.S.,《记忆有效内核近似》,国际机器学习会议(ICML)(2014)
[71] Stein,M.L.,协方差锥的统计特性,J.Compute。图表。统计人员。,1866-885年4月22日(2013年)
[72] Stein,M.L.,空间数据协方差矩阵低秩近似的限制,Spat。统计,8,1-19(2014)
[73] 斯坦因,M.L。;陈,J。;Anitescu,M.,高斯过程分数函数的随机逼近,Ann.Appl。Stat.,7,2,1162-1191(2013),网址https://doi.org/101214/13-AOAS627 ·Zbl 1454.62283号
[74] 斯坦因,M.L。;Chi,Z。;Welty,L.J.,《大型空间数据集的近似可能性》,J.R.Stat.Soc.Ser。B统计方法。,66、2、275-296(2004),(ISSN 1467-9868)·Zbl 1062.62094号
[75] 斯特劳德,J.R。;斯坦因,M.L。;Lysen,S.,不完全格上高斯过程的贝叶斯和最大似然估计,J.Compute。图表。统计人员。,26, 1, 108-120 (2017)
[76] 孙,Y。;Genton,M.G.,《函数箱图》,J.Comput。图表。统计人员。,20、2、316-334(2011),网址https://doi.org/101198/jcgs.2011.09224
[77] 孙,Y。;李,B。;Genton,M.G.,《大型数据集的地质统计学》(Porcu,E.;Montero,J.M.;Schlather,M.,《与环境问题相关的时空过程和挑战》(2012),施普林格出版社),第55-77页
[78] 孙,Y。;Stein,M.L.,《大型空间数据集的统计和计算效率估算方程》,J.Compute。图表。统计人员。,25, 1, 187-208 (2016)
[79] Vecchia,A.V.,《连续空间过程的估计和模型识别》,J.R.Stat.Soc.Ser。B统计方法。,50、2、297-312(1988),(ISSN 00359246)
[80] Whittle,P.,《论平面内的静止过程》,《生物统计学》,41,3-4,434-449(1954)·Zbl 0058.35601号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。