×

具有离群值的弱相关数据中多项式系数的恢复保证。 (英语) Zbl 1451.41013号

使学习问题适定的一个著名方法是利用目标函数的附加属性。本文研究了从同分布数据中学习非线性函数的问题,这些数据被离群值和/或噪声污染。通过在多元多项式空间中表达目标函数,将学习问题重构为一个稀疏鲁棒线性回归问题,其中在基追踪框架中包含未知系数和腐蚀。本文的主要贡献是为相关的(ell_1)优化问题提供了重构保证,其中采样矩阵由数据矩阵、其幂次和单位矩阵组成,保证了准确稳定的恢复,并且如果数据不是独立的,但满足适当的浓度不等式,则可以为具有损坏数据的学习函数问题提供恢复保证。

理学硕士:

41A99型 近似值和展开值
41A10号 多项式逼近
41A63型 多维问题

软件:

取消锁定BoX
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿布·穆斯塔法,Y.S。;Magdon-Ismail,M。;Lin,H.-T.,《从数据中学习》,第4卷(2012年),AMLBook New York:AMLBook New York,USA
[2] 阿德科克,B。;Bao,A。;Jakeman,J。;Narayan,A.,《稀疏损坏的压缩感知:容错稀疏配置近似值》(2017),arXiv预印本arXiv:1703.00135·Zbl 1405.42001号
[3] Bandeira,A.S。;Scheinberg,K。;Vicente,L.N.,《关于部分稀疏恢复》(2013),arXiv预印本arXiv:1304.2809
[4] Brunton,S.L。;Proctor,J.L。;Kutz,J.,通过非线性动力系统的稀疏识别从数据中发现控制方程,Proc。国家。阿卡德。科学。,113, 15, 3932-3937 (2016) ·Zbl 1355.94013号
[5] Chan,T.F。;Foulser,D.E.,《有效条件良好的线性系统》,SIAM J.Sci。统计计算。,9, 6, 963-969 (1988) ·Zbl 0664.65041号
[6] Cherkassky,V。;Mulier,F.M.,《从数据中学习:概念、理论和方法》(2007),John Wiley&Sons·Zbl 1130.62002号
[7] Chkifa,A。;科恩,A。;Schwab,C.,高维自适应稀疏多项式插值及其在参数偏微分方程中的应用,Found。计算。数学。,14, 4, 601-633 (2014) ·Zbl 1298.65022号
[8] Chkifa,A。;德克斯特,N。;Tran,H。;韦伯斯特,C.,通过低集上高维函数的压缩感知进行多项式近似,数学。公司。,873111415-1450(2018)·Zbl 1516.94010号
[9] 科恩,A。;Migliorati,G.,最优加权最小二乘法,SMAI J.计算。数学。,181-203年3月(2017年)·Zbl 1416.62177号
[10] 组合,P.L。;Pesquet,J.-C.,《信号处理中的近似分裂方法》,(科学与工程反问题的定点算法(2011),施普林格出版社),185-212·Zbl 1242.90160号
[11] 克拉奇菲尔德,J.P。;麦克纳马拉,B.S.,《来自数据系列的运动方程》,复杂系统。,1, 417-452 (1987) ·Zbl 0675.58026号
[12] 北卡罗来纳州Cuong。;Ho,L.S.T。;Dinh,V.,基于V-几何遍历马尔可夫数据的分批加权平均算法的泛化和鲁棒性,(算法学习理论国际会议(2013),Springer),264-278·Zbl 1406.68095号
[13] Dinh,V。;Ho,L.S.T。;北卡罗来纳州Cuong。;Nguyen,D。;Nguyen,B.T.,《从非iid数据中学习:一类与所有多类插件分类器的快速速度》,(计算模型理论与应用国际会议(2015),Springer),375-387·Zbl 1459.68169号
[14] Fattahi,S。;Sojoudi,S.,数据驱动稀疏系统识别(2018),arXiv预印本arXiv:1803.07753
[15] Fornasier,M。;Schnass,K。;Vybiral,J.,高维中少数任意线性参数的学习函数,发现。计算。数学。,12, 2, 229-262 (2012) ·Zbl 1252.65036号
[16] 福卡特,S。;Rauhut,H.,《压缩传感数学导论》(2013年),Birkhä用户巴塞尔·Zbl 1315.94002号
[17] Foygel,R。;Mackey,L.,《损坏的传感:分离结构化信号的新保证》,IEEE Trans。通知。理论,60,21223-1247(2014)·Zbl 1364.94124号
[18] Friedman,J.H.,《预测学习和函数逼近概述》(From Statistics to Neural Networks(1994),Springer),1-61·兹比尔0846.62078
[19] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,(《统计学习的要素》,《统计学习要素》,Springer系列,纽约统计,第1卷(2001年))·兹比尔0973.62007
[20] 古德费罗,I。;Y.本吉奥。;科尔维尔,A。;Bengio,Y.,《深度学习》,第1卷(2016年),麻省理工学院出版社剑桥·Zbl 1373.68009号
[21] Hang,H。;Steinwart,I.,从\(\alpha\)-混合观测中快速学习,J.多元分析。,127, 184-199 (2014) ·Zbl 1359.62242号
[22] Hang,H。;Steinwart,I.,《一些混合过程和动力系统的bernstein型不等式及其在学习中的应用》,《统计年鉴》。,45, 2, 708-743 (2017) ·Zbl 1388.60060号
[23] M.I.乔丹。;Mitchell,T.M.,《机器学习:趋势、观点和前景》,《科学》,349,6245,255-260(2015)·Zbl 1355.68227号
[24] Kaiser,E。;库茨,J。;Brunton,S.L.,低数据限下模型预测控制的非线性动力学稀疏辨识(2017),arXiv预印本arXiv:1711.05501·Zbl 1425.93175号
[25] Karmalkar,S。;Price,E.,通过(L_1)回归使用对抗稀疏噪声的压缩传感(2018年),预打印
[26] 康托伊亚尼斯,I。;拉斯特拉斯·蒙塔诺,洛杉矶。;Meyn,S.P.,《一般马尔可夫链的相对熵和指数偏差界》(信息论,2005)。ISIT 2005。诉讼程序。国际研讨会(2005年),IEEE,1563-1567
[27] Li,X.,压缩传感和矩阵完成,腐蚀比例恒定,Constr。约37,173-99(2013年)·Zbl 1258.93076号
[28] Liao,W。;Maggioni,M。;Vigogna,S.,学习低维集附近数据和函数的自适应多尺度近似,(信息理论研讨会(ITW),2016 IEEE(2016),IEEE),226-230
[29] 狮子,P.-L。;Mercier,B.,两个非线性算子之和的分裂算法,SIAM J.Numer。分析。,16, 6, 964-979 (1979) ·Zbl 0426.6500号
[30] Ljung,L.,系统识别,(信号分析和预测(1998),施普林格),163-173
[31] Maume-Deschamps,V.,弱相关数据的指数不等式和函数估计:在动力系统中的应用,Stoch。Dyn公司。,6, 04, 535-560 (2006) ·Zbl 1130.37319号
[32] 莫达,D.S。;Masry,E.,具有弱相关观测值的最小复杂度回归估计,IEEE Trans。通知。理论,42,62133-2145(1996)·Zbl 0868.62015年
[33] 诺瓦克,E。;Wo Roz niakowski,H.,无限可微多元函数的逼近是棘手的,复杂性,25,4398-404(2009)·Zbl 1180.41031号
[34] Poggio,T。;Girosi,F.,《近似和学习网络》,Proc。IEEE,78,9,1481-1497(1990)·Zbl 1226.92005号
[35] Poggio,T。;Girosi,F.,《等价于多层网络的学习正则化算法》,《科学》,2474945978-982(1990)·Zbl 1226.92005号
[36] 莱斯,M。;Karniadakis,G.E.,《隐藏物理模型:非线性偏微分方程的机器学习》,J.Compute。物理。,357, 125-141 (2018) ·Zbl 1381.68248号
[37] Rauhut,H。;Ward,R.,通过加权最小化插值,应用。计算。哈蒙。分析。,40, 2, 321-351 (2016) ·Zbl 1333.41003号
[38] Rosenblatt,M.,《中心极限定理和强混合条件》,Proc。国家。阿卡德。科学。,42, 1, 43-47 (1956) ·Zbl 0070.13804号
[39] Roweis,S.T。;Saul,L.K.,通过局部线性嵌入降低非线性维数,《科学》,290,5500,2323-2326(2000)
[40] Rudy,S.H。;Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,偏微分方程的数据驱动发现,科学。高级,3,4,文章e1602614 pp.(2017)
[41] Ryabko,D.,条件独立数据的模式识别,J.Mach。学习。第7号决议,645-664年4月(2006年)·Zbl 1222.68355号
[42] Schaeffer,H.,通过数据发现和稀疏优化学习偏微分方程,Proc。R.Soc.伦敦。序列号。数学。物理学。工程科学。,473、2197,第20160446条pp.(2017)·Zbl 1404.35397号
[43] 谢弗,H。;McCalla,S.G.,《通过积分项选择稀疏模型》,Phys。修订版E,96,2,第023302条第(2017)页
[44] 谢弗,H。;Tran,G。;Ward,R.,通过群稀疏性学习动力系统和分岔(2017),arXiv预印本arXiv:1709.01558
[45] 谢弗,H。;Tran,G。;Ward,R.,《从有限数据中提取稀疏高维动力学》,SIAM J.Appl。数学。,78, 6, 3279-3295 (2018) ·Zbl 1405.62127号
[46] 谢弗,H。;Tran,G。;Ward,R。;Zhang,L.,使用极少样本的稀疏优化提取结构化动力学系统(2018),arXiv预印本arXiv:1805.04158
[47] Shin,Y.先生。;Wu,K。;Xiu,D.,带噪声数据的序列函数逼近,J.Compute。物理学。(2018) ·Zbl 1415.65035号
[48] Shorack,G.R。;Wellner,J.A.,《统计应用的经验过程》,第59卷(2009年),暹罗·Zbl 1171.62057号
[49] 斯坦瓦特,I。;Hush,D。;Scovel,C.,从依赖性观察中学习,J.多元分析。,100, 1, 175-194 (2009) ·Zbl 1158.68040号
[50] Tikhonov,A。;Arsenin,V.Y.(1977),John Wiley and Sons公司·Zbl 0354.65028号
[51] Tran,G。;Ward,R.,从高度损坏的数据中精确恢复混沌系统,多尺度模型。同时。,15, 3, 1108-1129 (2017)
[52] Vapnik,V.N.,《统计学习理论概述》,IEEE Trans。神经网络。,10, 5, 988-999 (1999)
[53] 白色,H。;Domowitz,I.,具有相关观测的非线性回归,《计量经济学》,143-161(1984)·Zbl 0533.62055号
[54] 徐伟(Xu,W.)。;Bai,E.-W。;Cho,M.,存在异常值和随机噪声的系统识别:一种压缩传感方法,Automatica,50,112905-2911(2014)·Zbl 1300.93175号
[55] 姚,C。;Bollt,E.M.,耦合振荡器和时空系统的kronecker乘积表示建模和非线性参数估计,Physica D,227,178-99(2007)·Zbl 1120.34006号
[56] 张,P。;甘·L。;凌,C。;Sun,S.,损坏压缩感知中结构化随机矩阵的统一恢复界限,IEEE Trans。信号处理。,66, 8, 2086-2097 (2018) ·Zbl 1414.94735号
[57] 张,L。;Schaeffer,H.,关于sindy算法的收敛性,多尺度模型。同时。,17, 3, 948-972 (2019) ·Zbl 1437.37108号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。