×

面向目标的大规模贝叶斯线性反问题实验优化设计。 (英语) Zbl 1475.65037号

摘要:我们为PDE控制的大规模贝叶斯线性逆问题开发了一个面向目标的实验优化设计框架。该框架与经典的贝叶斯最优实验设计(ODE)在以下意义上有所不同:我们寻求的实验设计是最小化实验最终目标中的后验不确定性,例如兴趣量(QoI),而不是估计参数本身。这适用于这样的场景:逆问题的解是一个中间步骤,然后使用估计参数计算QoI。在此类问题中,GOODE方法有两个好处:设计可以通过有针对性的数据收集避免实验资源的浪费,并且由于QoI通常是低维的,因此得出的设计标准在计算上更容易评估。我们提出了两个修改后的设计准则,A-GOODE和D-GOODE,这两个准则是经典贝叶斯A-和D-最优准则的自然类似物。我们分析了与其他ODE准则的联系,并利用信息论工具对GOODE准则进行了解释。然后,我们开发了一个高效的基于梯度的优化框架来解决GOODE优化问题。此外,我们还提供了全面的数值实验来测试该方法的各个方面。驱动应用是传感器的最佳位置,以识别扩散和传输问题中的污染物来源。我们使用(ell_1)范数惩罚方法增强传感器位置的稀疏性,并提出一种实用的策略来指定相关的惩罚参数。

MSC公司:

65千5 数值数学规划方法
2015年1月62日 贝叶斯推断
65层22 数值线性代数中的不适定性和正则化问题
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿特金森。;Donev,A.N.,最佳实验设计,(1992),牛津:克拉伦登出版社,牛津·Zbl 0829.62070号
[2] Chaloner,K。;Verdinelli,I.,《贝叶斯实验设计:综述》,《统计科学》。,10, 273-304, (1995) ·Zbl 0955.62617号 ·doi:10.1214/ss/1177009939
[3] Pukelsheim,F.,实验的优化设计,(1993),纽约:威利,纽约·Zbl 0834.62068号
[4] Uciński,D.,分布式参数系统辨识的最佳测量方法,(2005),佛罗里达州博卡拉顿:CRC出版社,佛罗里达州博卡拉顿·兹比尔1155.93003
[5] Pázman,A.,最佳实验设计基础,(1986),海德堡:斯普林格·Zbl 0588.62117号
[6] 鲍尔,I。;博克·H·G。;科克尔,S。;Schlöder,J.P.,DAE系统最佳实验设计的数值方法,J.Compute。申请。数学。,120, 1-25, (2000) ·Zbl 0998.65083号 ·doi:10.1016/S0377-0427(00)00300-9
[7] 科克尔,S。;科什蒂纳,E。;博克·H·G。;Schlöder,J.P.,非线性动态过程鲁棒优化实验设计中最优控制问题的数值方法,Optim。方法软件。,19, 327-338, (2004) ·Zbl 1060.49025号 ·网址:10.1080/1055678041001683078
[8] 哈伯,E。;Horesh,L。;Tenorio,L.,大型非线性离散不定反问题设计的数值方法,反问题,26,(2010)·Zbl 1189.65073号 ·doi:10.1088/0266-5611/26/2/025.002
[9] Horesh,L。;哈伯,E。;Tenorio,L.,阻抗成像大尺度非线性病态问题的最佳实验设计,273-290,(2010),纽约:威利
[10] 钟,M。;Haber,E.,《生物系统的实验设计》,SIAM J.Control Optim。,50, 471-489, (2012) ·Zbl 1243.93130号 ·数字对象标识代码:10.1137/100791063
[11] 欢,X。;Marzouk,Y.M.,非线性系统基于仿真的最佳贝叶斯实验设计,J.Compute。物理。,232, 288-317, (2013) ·doi:10.1016/j.jcp.2012.08.013
[12] 龙,Q。;斯卡维诺,M。;丹蓬,R。;Wang,S.,基于拉普拉斯近似的贝叶斯实验设计预期信息增益的快速估计,计算。方法应用。机械。工程师,259,24-39,(2013)·Zbl 1286.62068号 ·doi:10.1016/j.cma.2013.02.017
[13] 三都。;Cioaca,A。;Rao,V.,使用模型奇异向量的信息共生系统中的动态传感器网络配置,181909-1918,(2013)
[14] 欢,X。;Marzouk,Y.M.,《贝叶斯实验设计中基于梯度的随机优化方法》,《国际不确定性杂志》。量化,4479-510,(2014)·Zbl 1497.62069号 ·doi:10.1615/国际不确定性定量杂志.2014006730
[15] 亚历山大·A。;佩特拉,N。;斯塔德勒,G。;Ghattas,O.,A-带正则化\(newcommand{\e}{\rme}}的无限维贝叶斯线性反问题的实验优化设计ℓ_0)-稀疏化,SIAM J.Sci。计算。,36,A2122-A2148,(2014)·兹比尔1314.62163 ·doi:10.1137/130933381
[16] 龙,Q。;莫塔米德,M。;Tempone,R.,地震震源反演的快速贝叶斯优化实验设计,计算。方法应用。机械。工程,291,123-145,(2015)·Zbl 1423.74006号 ·doi:10.1016/j.cma.2015.03.021
[17] Uciñski,D.,约束D-最优设计的构造算法,随机模型,统计学及其应用,461-468,(2015),纽约:Springer,纽约·Zbl 1349.62349号
[18] 亚历山大·A。;佩特拉,N。;斯塔德勒,G。;Ghattas,O.,无限维贝叶斯非线性逆问题实验A最优设计的一种快速且可扩展的方法,SIAM J.Sci。计算。,38,A243-A272,(2016)·Zbl 06536072号 ·数字对象标识代码:10.1137/140992564
[19] 亚历山大·A。;格洛尔,P.J。;Ghattas,O.,《关于无限维贝叶斯A和D最优实验设计》,贝叶斯分析。,11, 671-695, (2016) ·Zbl 1359.62315号 ·doi:10.1214/15-BA969
[20] 比塞蒂,F。;Kim,D。;克尼奥,O。;龙,Q。;Tempone,R.,《紧凑支撑前的最佳贝叶斯实验设计及其在燃烧动力学激波管实验中的应用》,国际期刊编号。方法工程,108,136-155,(2016)·doi:10.1002/nme.5211
[21] 克雷斯特尔,B。;亚历山大·A。;斯塔德勒,G。;Ghattas,O.,A-非线性反问题的最佳编码权重,及其在亥姆霍兹反问题中的应用,反问题,33,(2017)·Zbl 1370.65064号 ·doi:10.1088/1361-6420/aa6d8e
[22] 余,J。;扎瓦拉,V.M。;Anitescu,M.,最佳传感器布置的可扩展实验框架设计,《过程控制》,67,44-55,(2018)·doi:10.1016/j.jprocont.2017.03.011
[23] 沃尔什,S.N。;Wildey,T.M。;Jakeman,J.D.,使用一致贝叶斯方法的最佳实验设计,ASCE-ASME J.风险不确定性。工程系统。B、 2018年4月4日
[24] 鲁索托,L。;钟,J。;Chung,M.,提交的约束反问题的最优实验设计,(2017)
[25] 哈伯,E。;Horesh,L。;Tenorio,L.,大型线性不适定反问题实验设计的数值方法,反问题,24,125-137,(2008)·Zbl 1153.65062号 ·doi:10.1088/0266-5611/24/5/055012
[26] 哈伯,E。;Magnant,Z。;卢塞罗,C。;Tenorio,L.,不适定反问题稀疏约束A-最优设计的数值方法,计算。最佳方案。申请。,52, 293-314, (2012) ·Zbl 1259.90135号
[27] Tenorio,L。;卢塞罗,C。;球,V。;Horesh,L.,Tikhonov正则逆问题背景下的实验设计,统计建模,13481-507,(2013)·Zbl 07257469号 ·doi:10.1177/1471082X13494613
[28] 贝克,J。;直径,B.M。;Espath,L.F.R。;龙,Q。;Tempone,R.,《快速贝叶斯实验设计:基于Laplace的预期信息增益重要性抽样》,计算。方法应用。机械。工程,334523-553,(2018)·Zbl 1440.62293号 ·doi:10.1016/j.cma.2018.01.053
[29] 科贾,M。;普兰吉,M。;Djikpesse,H.,引导贝叶斯优化实验设计,反问题,26,(2010)·Zbl 1187.86006号 ·doi:10.1088/0266-5611/26/5/055008
[30] Djikpasse,H.A。;科贾,M.R。;Prange,医学博士。;Duchenne,S。;Menkiti,H.,优化波形反演分辨率的贝叶斯勘测设计,地球物理学,77,R81-R93,(2012)·doi:10.1190/geo2011-0143.1
[31] 亚历山大·A。;Saibaba,A.K.,无限维贝叶斯线性反问题实验的高效D-最优设计,SIAM J.Sci。计算。SISC(2018)·Zbl 1401.62123号
[32] 利伯曼,C。;Willcox,K.,《面向目标的推断:方法、线性理论及其在平流扩散中的应用》,SIAM Rev.,55,493-519,(2013)·Zbl 1273.35303号 ·doi:10.137/130913110
[33] 利伯曼,C。;Willcox,K.,《非线性面向目标的贝叶斯推断:碳捕获和储存的应用》,SIAM J.Sci。计算。,36,B427-B449,(2014)·Zbl 1429.62711号 ·doi:10.1137/130928315
[34] 斯潘蒂尼,A。;崔,T。;Willcox,K。;Tenorio,L。;Marzouk,Y.,贝叶斯线性逆问题的面向目标的最优逼近,SIAM J.Sci。计算。,39,S167-S196,(2017)·Zbl 1373.15027号 ·doi:10.1137/16M1082123
[35] Avron,H。;Toledo,S.,估计隐式对称半正定矩阵迹的随机算法,J.ACM,58,17,(2011)·Zbl 1327.68331号 ·doi:10.1145/1944345.1944349
[36] Saibaba,A.K。;亚历山大·A。;Ipsen,I.C.,随机无矩阵跟踪和对数决定估计,Numer。数学。,137, 353-395, (2017) ·Zbl 1378.65094号 ·doi:10.1007/s00211-017-0880-z
[37] 布丹,T。;O.加塔斯。;马丁·J。;Stadler,G.,无限维贝叶斯反演问题的计算框架——第一部分:线性化情况,及其在全球地震反演中的应用,SIAM J.Sci。计算。,35,A2494-A2523,(2013)·Zbl 1287.35087号 ·数字对象标识码:10.1137/12089586X
[38] Tarantola,A.,《模型参数估计的反问题理论和方法》,(2005),宾夕法尼亚州费城:SIAM,费城·Zbl 1074.65013号
[39] 比塞蒂,F。;Kim,D。;克尼奥,O。;龙,Q。;Tempone,R.,《紧凑支撑前的最佳贝叶斯实验设计及其在燃烧动力学激波管实验中的应用》,国际期刊编号。方法工程,108,136-155,(2016)
[40] 龙,Q。;斯卡维诺,M。;丹蓬,R。;Wang,S.,欠定贝叶斯最优实验设计的拉普拉斯方法,计算。方法应用。机械。工程,285849-876,(2015)·Zbl 1426.62221号 ·doi:10.1016/j.cma.2014.12.008
[41] Bernardo,J.M.,《预期效用的预期信息》,《Ann.Stat.》,第7期,第686-690页,(1979年)·Zbl 0407.62002号 ·doi:10.1214/aos/1176344689
[42] 响应面设计和字母优化的选择,技术报告,(1982年)·Zbl 0524.62073号
[43] Dette,H.,《非线性回归模型中贝叶斯c和D最优设计的注释》,《统计年鉴》,241225-1234,(1996)·兹伯利0866.62046 ·doi:10.1214/aos/1032526965
[44] Elfving,G.,《线性回归理论中的最优分配》,《数学年鉴》。统计,23,255-262,(1952)·Zbl 0047.13403号 ·doi:10.1214/aoms/1177729442
[45] 基弗,J。;Wolfowitz,J.,回归问题中的优化设计,《数学年鉴》。Stat.,30,271-294,(1959年)·Zbl 0090.11404号 ·doi:10.1214/网址/117706252
[46] Lindley,D.V.,《关于实验所提供信息的测量》,Ann.Math。Stat.,27,986-1005,(1956年)·Zbl 0073.14103号 ·doi:10.1214/aoms/1177728069
[47] Kullback,S。;Leibler,R.A.,《信息与充分性》,《数学年鉴》。《统计》,22,79-86,(1951)·Zbl 0042.38403号 ·doi:10.1214/网址/117729694
[48] Papalambros,P.Y。;王尔德,D.J.,《优化设计与计算原理》(2000),剑桥:剑桥大学出版社,剑桥·Zbl 0962.90002号
[49] 克劳斯,A。;辛格,A。;Guestrin,C.,《高斯过程中的近最优传感器布置:理论、高效算法和实证研究》,J.Mach。学习。第9号决议,第235-284页,(2008年)·Zbl 1225.68192号
[50] Attia,A。;拉奥,V。;Sandu,A.,《四维数据同化的抽样方法》,《动态数据驱动环境系统科学》,215-226,(2015),纽约:Springer,纽约
[51] Attia,A。;拉奥,V。;Sandu,A.,《用于四维数据同化的蒙特卡罗混合采样平滑器》,国际期刊Numer。方法流体,83,90-112,(2017)
[52] Navon,I.M.,《数值天气预报的数据同化:综述》,《大气、海洋和水文应用的数据同质化》,21-65,(2009),纽约:Springer,纽约
[53] Isaac,T。;佩特拉,N。;斯塔德勒,G。;Ghattas,O.,《通过推理将不确定性从数据传播到大规模问题预测的可扩展高效算法,以及应用于南极冰盖流动》,J.Compute。物理。,296348-368(2015)·Zbl 1352.86017号 ·doi:10.1016/j.jcp.2015.04.047
[54] 阿克塞利克,V。;比罗斯,G。;医生ăgănescu,A。;O.加塔斯。;希尔,J。;van Bloeman Waanders,B.,《太尺度模拟的动态数据驱动反演:空气污染物的实时识别》(2005)
[55] 扁平,P.H。;Wilcox,L.C.公司。;阿克塞利克,V。;希尔,J。;van Bloemen Waanders,B。;Ghattas,O.,基于低阶部分Hessian近似的大规模线性反问题中贝叶斯不确定性量化的快速算法,SIAM J.Sci。计算。,33, 407-432, (2011) ·兹比尔1229.65174 ·数字对象标识代码:10.1137/090780717
[56] 佩特拉,N。;Stadler,G.,偏微分方程控制的模型变分反问题,技术报告11-05,(2011)
[57] 美国维拉。;佩特拉,N。;Ghattas,O.,hIPPYlib:大规模确定性和线性化贝叶斯反演的可扩展软件框架,(2016)
[58] Logg,A。;马尔达尔,K-A;Wells,G.,《用有限元方法自动求解微分方程:FEniCS手册》,第48卷,(2012),纽约:Springer,纽约·Zbl 1247.65105号
[59] 朱,C。;伯德·R·H。;卢,P。;Nocedal,J.,算法778:L-BFGS-B:大规模有界约束优化的fortran子程序,ACM Trans。数学。软质。,23550-560,(1997年)·Zbl 0912.65057号 ·doi:10.1145/279232.279236
[60] 伯德·R·H。;卢,P。;Nocedal,J。;Zhu,C.,边界约束优化的有限内存算法,SIAM J.Sci。计算。,16, 1190-1208, (1995) ·Zbl 0836.65080号 ·doi:10.1137/0916069
[61] 莫拉莱斯,J.L。;Nocedal,J.,关于“算法778:L-BFGS-B:大规模边界约束优化的fortran子程序”的备注,ACM Trans。数学。软质。,38, 7, (2011) ·Zbl 1365.65164号 ·doi:10.1145/2049662.2049669
[62] Hansen,P.C。;Johnston,P.,《L曲线及其在反问题数值处理中的应用》,《心电学中的计算反问题》,119-142,(2001),南安普顿:WIT出版社,南安普顿
[63] Phillips,D.L.,某些第一类积分方程的数值解法,J.ACM,9,84-97,(1962)·Zbl 0108.29902号 ·doi:10.1145/3211105.321105.321114
[64] Tikhonov,A.,错误公式化问题的解决和正则化方法,Sov。方法。道克。,4, 1035-1038, (1963) ·Zbl 0141.11001号
[65] Attia,A。;斯特凡内斯库,R。;Sandu,A.,《降低阶混合蒙特卡罗采样平滑器》,国际期刊Numer。方法流体,83,28-51,(2017)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。