×

修正稀疏高维函数逼近中的未知错误。 (英语) Zbl 1415.65030号

摘要:我们考虑基于稀疏性的技术,用于从随机逐点评估中近似高维函数。迄今为止,几乎所有在该领域发表的著作都包含一些关于误差会破坏样本的先验假设,这些假设在实践中很难验证。在本文中,我们转而关注错误未知的场景。我们研究了四个促进稀疏性优化问题的性能:加权二次约束基追踪、加权LASSO、加权平方根LASSO和加权LAD-LASSO。从理论角度出发,我们证明了这些解码器的一致恢复保证,并导出了相应调谐参数的最佳选择配方。在数值方面,我们在纯函数近似情况下以及在随机输入的ODE和PDE的不确定性量化应用中对它们进行了比较。我们的主要结论是,在有界噪声的情况下,与其他程序相比,鲜为人知的平方根LASSO更适合于高维近似,因为它避免了(理论上和数值上)参数调整的需要。

MSC公司:

65日第15天 函数逼近算法
41A10号 多项式逼近
94A20型 信息与传播理论中的抽样理论
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Adcock,B.:无限维压缩传感和函数插值。已找到。计算。数学。18(3), 661-701 (2018) ·兹比尔1396.41001
[2] Adcock,B.:无限维\[\ell^1\]Ş1从逐点数据进行最小化和函数逼近。施工。约45(3),345-390(2017)·Zbl 1367.41012号
[3] Adcock,B.、Bao,A.、Narayan,A.、Author,U.:稀疏损坏的压缩感知:容错稀疏配置近似(2017)。arXiv公司:1703.00135·Zbl 1405.42001号
[4] Adcock,B.,Brugiapaglia,S.,Webster,C.G.:高维函数多项式近似的压缩感知方法(2017)。arXiv公司:1703.06987·兹伯利07515822
[5] Adcock,B.,Hansen,A.C.,Poon,C.,Roman,B.:打破相干屏障:压缩传感的新理论。论坛数学。西格玛5,E4。(2017). https://doi.org/10.1017/fms.2016.32 ·Zbl 1410.94030号
[6] Arlot,S.,Celisse,A.:模型选择交叉验证程序调查。统计调查。4, 40-79 (2010) ·Zbl 1190.62080号
[7] Arslan,O.:回归中稳健参数估计和变量选择的加权LAD-LASSO方法。计算。统计数据分析。56(6), 1952-1965 (2012) ·Zbl 1243.62029号
[8] Babu,P.,Stoica,P.:spice和方形套索之间的联系,用于稀疏参数估计。信号处理。95, 10-14 (2014)
[9] Bäck,J.,Nobile,F.,Tamellini,L.,Tempone,R.:随机系数偏微分方程的随机谱伽辽金和配置方法:数值比较。收录:Hesthaven,J.S.,Rönquist,E.M.(编辑)《偏微分方程的谱和高阶方法:ICOSAHOM’09会议论文集》。6月22日至26日,挪威特隆赫姆,第43-62页。柏林施普林格出版社(2011)·Zbl 1216.65004号
[10] Ballani,J.,Grasedyck,L.:参数相关pde输出量的层次张量近似。SIAM/ASA J.不确定性。数量。3(1), 852-872 (2015) ·Zbl 1327.65010号
[11] Bastounis,A.,Hansen,A.C.:关于压缩感知的真实应用中缺少RIP和水平RIP(2014年)。arXiv:1411.4449·Zbl 1375.94017号
[12] Belloni,A.、Chernozhukov,V.、Wang,L.:方形套索:通过圆锥编程实现稀疏信号的关键恢复。《生物特征》98(4),791-806(2011)·兹比尔1228.62083
[13] Belloni,A.,Chernozhukov,V.,Wang,L.:非参数回归中通过平方套索的枢轴估计。Ann.Stat.42(2),757-788(2014)·Zbl 1321.62030号
[14] Bridges,P.G.,Ferreira,K.B.,Heroux,M.A.,Hoemmen,M.:通过选择性可靠性的容错线性解算器(2012)。arXiv:1206.1390
[15] Brugiapaglia,S.,Adcock,B.:稀疏正则化中未知误差的稳健性(2017)。arXiv:1705.10299·Zbl 1401.94027号
[16] Brugiapaglia,S.、Adcock,B.、Archibald,R.K.:压缩感知的恢复保证存在未知错误。在:2017年国际抽样理论与应用会议(SampTA)。IEEE(2017)
[17] Bunea,F.,Lederer,J.,She,Y.:群方根套索:理论性质和快速算法。IEEE传输。通知。理论60(2),1313-1325(2014)·Zbl 1364.94113号
[18] Candès,E.J.、Romberg,J.、Tao,T.:稳健的不确定性原理:从高度不完整的频率信息中精确重建信号。IEEE传输。通知。理论52(2),489-509(2006)·Zbl 1231.94017号
[19] Candès,E.J.,Wakin,M.B.,Boyd,s.P.:通过重加权增强稀疏性Ş1最小化。J.傅里叶分析。申请。14(5), 877-905 (2008) ·Zbl 1176.94014号
[20] Chkifa,A.,Cohen,A.,Migliorati,G.,Nobile,F.,Tempone,R.:带随机评估的离散最小二乘多项式逼近——应用于参数和随机椭圆偏微分。ESAIM数学。模型。数字。分析。49(3), 815-837 (2015) ·Zbl 1318.41004号
[21] Chkifa,A.,Cohen,A.,Schwab,C.:高维自适应稀疏多项式插值及其在参数偏微分方程中的应用。已找到。计算。数学。14(4), 601-633 (2014) ·Zbl 1298.65022号
[22] Chkifa,A.,Cohen,A.,Schwab,C.:打破参数偏微分方程稀疏多项式近似中的维数灾难。数学杂志。Pures应用程序。103(2), 400-428 (2015) ·Zbl 1327.65251号
[23] Chkifa,A.、Dexter,N.、Tran,H.、Webster,C.G.:通过压缩感知低集上的高维函数实现多项式近似。数学。计算。87(311), 1415-1450 (2018) ·Zbl 1516.94010号
[24] Cohen,A.,DeVore,R.,Schwab,C.:一类椭圆sPDE的最佳N项Galerkin逼近的收敛速度。已找到。计算。数学。10(6), 615-646 (2010) ·Zbl 1206.60064号
[25] Cohen,A.,DeVore,R.,Schwab,C.:参数和随机椭圆偏微分方程的解析正则性和多项式逼近。分析。申请。9(01), 11-47 (2011) ·Zbl 1219.35379号
[26] de Boor,C.,Ron,A.:关于多元多项式插值。施工。约6(3),287-302(1990)·Zbl 0719.41006号
[27] Donoho,D.L.:压缩传感。IEEE传输。通知。理论52(4),1289-1306(2006)·Zbl 1288.94016号
[28] Donoho,D.L.,Logan,B.F.:信号恢复和大筛。SIAM J.应用。数学。52(2), 577-591 (1992) ·Zbl 0768.42001号
[29] Doostan,A.,Owhadi,H.:具有随机输入的PDE的非自适应稀疏近似。J.计算。物理学。230(8),3015-3034(2011)·Zbl 1218.65008号
[30] Dyn,N.,Floator,M.S.:低集上的多元多项式插值。J.近似理论177(附录C),34-42(2014)·Zbl 1480.41001号
[31] Foucart,S.,Rauhut,H.:压缩传感的数学导论,应用。数字。哈蒙。分析。施普林格,纽约(2013)·Zbl 1315.94002号
[32] Friedlander,M.P.,Mansour,H.,Saab,R.,Yilmaz,O.:使用部分支持信息恢复压缩采样信号。IEEE传输。通知。理论58(2),1122-1134(2012)·Zbl 1365.94071号
[33] Gao,X.:高维最小绝对偏差回归的惩罚方法。爱荷华大学博士论文(2008)
[34] Gao,X.,Huang,J.:用套索进行高维lad回归的渐近分析。统计正弦。20(4), 1485-1506 (2010) ·Zbl 1200.62073号
[35] Grant,M.,Boyd,S.:非光滑凸程序的图形实现。摘自:Blondel,V.、Boyd,S.、Kimura,H.(编辑)《学习与控制的最新进展》。控制与信息科学课堂讲稿,第95-110页。Springer-Verlag有限公司(2008)·Zbl 1205.90223号
[36] Grant,M.,Boyd,S.:CVX:规范凸编程的Matlab软件,2.1版。网址:http://cvxr.com/cvx2014年3月
[37] Hastie,T.、Tibshirani,R.、Wainwright,M.:《稀疏的统计学习:套索和泛化》。CRC出版社,博卡拉顿(2015)·Zbl 1319.68003号
[38] Hecht,F.:FreeFem++的新发展。J.数字。数学。20(3-4), 251-265 (2012) ·Zbl 1266.68090号
[39] Jakeman,J.D.,Eldred,M.S.,Sargsyan,K.:增强Ş使用基选择的多项式混沌展开的1-最小化估计。J.计算。物理学。289, 18-34 (2015) ·Zbl 1352.65026号
[40] Laska,J.N.,Davenport,M.A.,Baraniuk,R.G.:通过追求正义,从稀疏的损坏测量中精确恢复信号。2009年第43届阿西洛马尔信号、系统和计算机会议记录,第1556-1560页。IEEE(2009)
[41] Li,Q.,Wang,L.:基于自适应lad-lasso的鲁棒变化点检测方法。统计Pap。1-13 (2017). https://doi.org/10.1007/s00362-017-0927-3
[42] Li,X.:压缩传感和矩阵完成,腐蚀比例恒定。施工。约37(1),73-99(2013)·Zbl 1258.93076号
[43] 洛根,B.F.:高通信号的特性。哥伦比亚大学博士论文(1965年)
[44] Lorentz,G.G.、Lorentz、R.A.:二元插值的可解性问题I.Constr。约2(1),153-169(1986)·Zbl 0621.41002号
[45] Migliorati,G.,Nobile,F.,von Schwerin,E.,Tempone,R.:多项式空间上离散L2投影的随机评估分析。已找到。计算。数学。14(3), 419-456 (2014) ·Zbl 1301.41005号
[46] Nguyen,N.H.,Tran,T.D.:通过\[\ell_1\]从密集破坏观测中精确恢复Ş1-最小化。IEEE传输。通知。理论59(4),2017-2035(2013)·Zbl 1364.94145号
[47] Peng,J.、Hampton,J.和Doostan,A.:A加权Ş1稀疏多项式混沌展开的最小化方法。J.计算。物理学。267, 92-111 (2014) ·Zbl 1349.65198号
[48] Pham,V.,El Ghaoui,L.:针对多个方形套索问题的稳健草图绘制。摘自:《人工智能统计》,第753-761页(2015年)
[49] Rauhut,H.,Schwab,C.:高维参数算子方程的压缩传感Petrov-Galerkin近似。数学。计算。86(304), 661-700 (2017) ·Zbl 1358.65034号
[50] Rauhut,H.,Ward,R.:通过加权插值Ş1最小化。申请。计算。哈蒙。分析。40(2), 321-351 (2016) ·Zbl 1333.41003号
[51] Shin,Y.,Xiu,D.:纠正多元函数近似的数据损坏错误。SIAM J.科学。计算。38(4),A2492-A2511(2016)·Zbl 1348.65052号
[52] Stankovic,L.、Stankovic,S.、Amin,M.:用于L估计和压缩传感的信号缺失样本分析。信号处理。94401-408(2014)
[53] Stucky,B.,van de Geer,S.A.:平方根正则化的尖锐预言不等式(2015)。arXiv:1509.04093·Zbl 1441.62188号
[54] Studer,C.,Kuppinger,P.,Pope,G.,Bolcskei,H.:稀疏损坏信号的恢复。IEEE传输。通知。理论58(5),3115-3130(2012)·Zbl 1365.94185号
[55] Su,D.:傅里叶测量损坏的压缩传感(2016)。arXiv:1607.04926
[56] Su,D.:通过l1最小化从损坏的观测数据中恢复数据(2016年)。arXiv公司:1601.06011
[57] Sun,T.,Zhang,C.-H.:标度稀疏线性回归。《生物特征》99(4),879-898(2012)·Zbl 1452.62515号
[58] Tian,X.,Loftus,J.R.,Taylor,J.E.:通过平方套索进行未知方差的选择性推理(2015)。arXiv:1504.08031·Zbl 1506.62347号
[59] Tibshirani,R.:通过套索进行回归收缩和选择。J.R.统计社会服务。B方法。58(1), 267-288 (1996) ·Zbl 0850.62538号
[60] van de Geer,S.A.:《稀疏性下的估算和测试》。柏林施普林格出版社(2016)·Zbl 1362.62006年
[61] Wagener,J.,Dette,H.:高维稀疏异方差模型中的自适应套索。数学。方法统计22(2),137-154(2013)·Zbl 1274.62457号
[62] Wang,H.,Li,G.,Jiang,G.:通过LAD-Lasso进行稳健回归收缩和一致变量选择。J.总线。经济。《美国联邦法律大全》第25卷第(3)页,第347-355页(2007年)
[63] Wright,J.,Ma,Y.:通过\[\ell^1\]进行密集误差校正Ş1-最小化。IEEE传输。通知。理论56(7),3540-3560(2010)·Zbl 1366.94133号
[64] Xu,J.:基于L1的线性回归中的参数估计、模型选择和推断。哥伦比亚大学博士论文(2005年)
[65] Xu,J.,Ying,Z.:使用拉索型惩罚在中值回归中同时估计和变量选择。Ann.Inst.Stat.数学。62(3), 487-514 (2010) ·Zbl 1440.62280号
[66] Yan,L.,Guo,L.,Xiu,D.:使用\[\ell_1\]的随机搭配算法Ş1-最小化。国际期刊不确定性。数量。2(3), 279-293 (2012) ·Zbl 1291.65024号
[67] Yang,X.,Karniadakis,G.E.:重磅Ş随机椭圆微分方程的极小化方法。J.计算。物理学。248, 87-108 (2013) ·Zbl 1349.60113号
[68] Yu,X.,Baek,S.J.:具有部分支持信息的稀疏信号稳定恢复的充分条件。IEEE信号处理。莱特。20(5), 539-542 (2013)
[69] Zou,H.:自适应套索及其预言性质。《美国统计协会期刊》101(476),1418-1429(2006)·Zbl 1171.62326号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。