×

稀疏多项式混沌展开的一些贪婪算法。 (英语) Zbl 1452.65012号

摘要:压缩感知算法通过搜索基函数字典中的稀疏表示,使用有限的评估近似函数。正交匹配追踪(OMP)是一种选择基函数的贪婪算法,其计算成本随字典大小而增加。对于多项式混沌(PC)近似,字典的大小随着模型输入的数量和最大多项式次数的增加而快速增长,这使得它们通常无法与贪婪方法一起使用。针对高维输入问题,我们提出了两种有效构造稀疏PC展开式的新算法。第一种算法是并行OMP方法,结合增量QR分解方案,其中模型构建步骤与折叠交叉验证过程交错。第二种方法是一种随机贪婪算法,它利用概率参数在增量算法的每次迭代时仅计算字典中的基函数子集。随机化算法被证明可以以与OMP相似的稀疏性和准确性水平恢复模型输出,但其成本与字典大小无关。通过对一系列代数测试问题和具有高维输入的偏微分方程的性能进行数值比较,验证了这两种算法的有效性。

MSC公司:

65立方厘米20 概率模型,概率和统计学中的通用数值方法
62J05型 线性回归;混合模型

软件:

CoSaMP公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 斯帕诺斯,P.D。;Ghanem,R.,随机介质的随机有限元展开,J.Eng.Mech。,115, 5, 1035-1053 (1989)
[2] 秀,D。;Karniadakis,G.E.,随机微分方程的Wiener-Askey多项式混沌,SIAM J.Sci。计算。,24, 2, 614-644 (2002) ·Zbl 1014.65004号
[3] Ernst,O.G。;马格勒,A。;斯塔克洛夫,H.-J。;Ullman,E.,关于广义多项式混沌展开式的收敛性,ESAIM:Modél。数学。分析。编号。,46117-339(2012年)·Zbl 1273.65012号
[4] 巴布什卡,I。;坦波内,R。;Zouraris,G.E.,随机椭圆偏微分方程的Galerkin有限元近似,SIAM J.Numer。分析。,42, 2, 800-825 (2004) ·Zbl 1080.65003号
[5] 加尼姆,R。;Spanos,P.,非线性随机振动分析的随机Galerkin展开,Probab。工程机械。,8, 3-4, 255-264 (1993)
[6] 秀,D。;Shen,J.,随机扩散方程的有效随机Galerkin方法,J.计算。物理。,228, 2, 266-281 (2009) ·Zbl 1161.65008号
[7] 马蒂斯·H·G。;Keese,A.,线性和非线性椭圆随机偏微分方程的Galerkin方法,随机力学和可靠性分析计算方法专刊。随机力学和可靠性分析计算方法专刊。方法应用。机械。工程,194,12-16,1295-1331(2005)·Zbl 1088.65002号
[8] 埃尔德雷德,M。;Burkardt,J.,《非侵入多项式混沌与不确定性量化随机配置方法的比较》(第47届AIAA航空航天科学会议论文集,第976卷(2009),AIAA),1-20
[9] 布拉特曼,G。;Sudret,B.,基于最小角度回归的自适应稀疏多项式混沌展开,J.Compute。物理。,230, 6, 2345-2367 (2011) ·Zbl 1210.65019号
[10] 巴布什卡,I。;Nobile,F。;Tempone,R.,带随机输入数据的椭圆偏微分方程的随机配置方法,SIAM Rev.,52,2,317-355(2010)·Zbl 1226.65004号
[11] Eldar,Y.C。;Kutyniok,G.,《压缩传感:理论与应用》(2012),剑桥大学出版社
[12] Natarajan,B.K.,线性系统的稀疏近似解,SIAM J.Compute。,24, 2, 227-234 (1995) ·Zbl 0827.68054号
[13] Doostan,A。;Owhadi,H.,具有随机输入的PDE的非自适应稀疏近似,J.Compute。物理。,2308,3015-3034(2011年)·Zbl 1218.65008号
[14] Tropp,J.A。;Gilbert,A.C.,通过正交匹配追踪从随机测量中恢复信号,IEEE Trans。《信息论》,53,12,4655-4666(2007)·Zbl 1288.94022号
[15] 坎迪斯,E.J。;Wakin,M.B。;Boyd,S.P.,通过重加权最小化增强稀疏性,J.Fourier Ana。申请。,14, 5, 877-905 (2008) ·Zbl 1176.94014号
[16] 杨,X。;Karniadakis,G.E.,随机椭圆微分方程的重加权极小化方法,J.Compute。物理。,248, 87-108 (2013) ·Zbl 1349.60113号
[17] Jakeman,J。;埃尔德雷德,M。;Sargsyan,K.,使用基选择增强多项式混沌展开的最小化估计,J.Compute。物理。,289, 18-34 (2015) ·Zbl 1352.65026号
[18] J.汉普顿。;Doostan,A.,多项式混沌展开的压缩采样:收敛分析和采样策略,J.Compute。物理。,280, 363-386 (2015) ·Zbl 1349.94110号
[19] Jakeman,J.D。;纳拉扬,A。;Zhou,T.,多项式混沌展开的稀疏近似的广义采样和预处理方案,SIAM J.Sci。计算。,39、3、A1114-A1144(2017)·Zbl 1368.65025号
[20] Soize,C。;Ghanem,R.,《具有随机不确定性的物理系统:具有任意概率测度的混沌表示》,SIAM J.Sci。计算。,26, 2, 395-410 (2004) ·Zbl 1075.60084号
[21] Chkifa,A。;科恩,A。;偏头痛,G。;Nobile,F。;Tempone,R.,《带随机评估的离散最小二乘多项式逼近——应用于参数和随机椭圆偏微分方程》,ESAIM:Modél。数学。分析。编号。,49, 3, 815-837 (2015) ·兹比尔1318.41004
[22] Narayan,A。;Jakeman,J。;Zhou,T.,配置近似的Christoffel函数加权最小二乘算法,数学。计算。,86, 306, 1913-1947 (2017) ·Zbl 1361.65009号
[23] 坎迪斯,E。;J.隆伯格。;Tao,T.,《鲁棒不确定性原理:从高度不完整的频率信息中精确重建信号》,IEEE Trans。Inf.理论,52,2489-509(2006)·Zbl 1231.94017号
[24] 帕蒂,Y.C。;Rezaiifar,R。;Krishnaprasad,P.S.,《正交匹配追踪:递归函数逼近及其在小波分解中的应用》,(1993年信号、系统和计算机第二十七届Asilomar会议会议记录, 40-44
[25] 陈,S。;Billings,S.A。;Luo,W.,正交最小二乘法及其在非线性系统辨识中的应用,国际控制杂志,501873-1896(1989)·Zbl 0686.93093号
[26] 弗里德曼,J.H。;Stuetzle,W.,投影寻踪回归,美国统计协会,817-823(1981)
[27] Mallat,S。;Zhang,《用时频字典匹配追踪》,IEEE Trans。信号处理。,41, 12, 3397-3415 (1993) ·Zbl 0842.94004号
[28] Tropp,J.,《贪婪很好:稀疏近似的算法结果》,IEEE Trans。Inf.理论,50,10,2231-2242(2004)·Zbl 1288.94019号
[29] Needell,D。;Vershynin,R.,通过正则化正交匹配追踪从不完整和不准确测量中恢复信号,IEEE J.Sel。顶部。信号处理。,4, 2, 310-316 (2010)
[30] Needell,D。;Tropp,J.,CoSaMP:不完整和不准确样本的迭代信号恢复,应用。计算。哈蒙。分析。,26, 3, 301-321 (2009) ·Zbl 1163.94003号
[31] 多诺霍博士。;Tsaig,Y。;德罗里,I。;Starck,J.-L.,通过分段正交匹配追踪求解欠定线性方程组的稀疏解,IEEE Trans。《信息论》,58,2,1094-1121(2012)·Zbl 1365.94069号
[32] Dai,W。;Milenkovic,O.,压缩传感信号重建的子空间追踪,IEEE Trans。《信息论》,55,5,2230-2249(2009)·Zbl 1367.94082号
[33] 多诺霍,D。;Elad,M。;Temlyakov,V.,噪声存在下稀疏超完备表示的稳定恢复,IEEE Trans。Inf.理论,52,1,6-18(2006)·Zbl 1288.94017号
[34] J.W.丹尼尔。;Gragg,W.B。;考夫曼,L。;Stewart,G.,用于更新Gram-Schmidt QR因子分解的重新正交化和稳定算法,数学。计算。,30, 136, 772-795 (1976) ·Zbl 0345.65021号
[35] Golub,G。;Van Loan,C.,《矩阵计算》,《约翰·霍普金斯数学科学研究》(1996),约翰·霍普金森大学出版社·Zbl 0865.65009号
[36] Hammarling,S。;Lucas,C.,更新QR分解和最小二乘问题(2008年11月),曼彻斯特数学科学研究所,技术代表。
[37] 格罗特,M.J。;Huckle,T.,稀疏近似逆的并行预处理,SIAM J.Sci。计算。,1838-853(1997年)·Zbl 0872.65031号
[38] 新墨西哥州古尔德。;Scott,J.A.,《使用范数最小化技术的稀疏近似逆预条件》,SIAM J.Sci。计算。,19, 2, 605-625 (1998) ·Zbl 0911.65037号
[39] Smola,A.J。;Schölkopf,B.,机器学习的稀疏贪婪矩阵近似,(第十七届机器学习国际会议论文集。第十七届国际机器学习会议论文集,ICML'00(2000),Morgan Kaufmann Publishers Inc.),911-918
[40] 莫里纳罗,A.M。;西蒙,R。;Pfeiffer,R.M.,预测误差估计:重采样方法的比较,生物信息学,21,15,3301-3307(2005)
[41] 多诺霍,D.L。;Elad,M。;Temlyakov,V.N.,《噪声存在下稀疏超完备表征的稳定恢复》(2004),斯坦福大学统计系,技术代表。
[42] J.汉普顿。;Doostan,A.,相干激励采样和最小二乘多项式混沌回归的收敛性分析,计算。方法应用。机械。工程,290,73-97(2015)·Zbl 1426.62174号
[43] Le Quéré,P.,高瑞利数下方形热驱动腔的精确解,计算。流体,20,1,29-41(1991)·Zbl 0731.76054号
[44] Le Maêtre,O.P。;里根,麻省理工学院。;Najm,H.N。;Ghanem,R.G。;Knio,O.M.,流体流动的随机投影方法:II。随机过程,J.计算。物理。,181, 1, 9-44 (2002) ·Zbl 1052.76057号
[45] 彭杰。;J.汉普顿。;Doostan,A.,稀疏多项式混沌展开的加权(ell_1)最小化方法,J.Compute。物理。,267, 92-111 (2014) ·Zbl 1349.65198号
[46] 霍尔德曼,J.T。;Kim,J.W.,使用Hermite有限元计算不可压缩热流,计算。方法应用。机械。工程,199,49,3297-3304(2010)·Zbl 1225.76195号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。