×

使用高斯过程的线性微分方程机器学习。 (英语) Zbl 1380.68339号

总结:这项工作利用概率机器学习的最新进展来发现由参数线性算子表示的控制方程。此类方程包括但不限于普通和偏微分、积分微分和分数阶算子。这里,高斯过程先验根据此类算子的特殊形式进行修改,并用于从稀少且可能有噪声的观测值中推断线性方程的参数。这些观察可能来自实验或“黑盒”计算机模拟,如几个合成示例和功能基因组学的实际应用所示。

MSC公司:

68T05型 人工智能中的学习和自适应系统
34K37号 具有分数阶导数的泛函微分方程
35K57型 反应扩散方程
45J05型 积分常微分方程
60G15年 高斯过程
92D10型 遗传学和表观遗传学
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿尔瓦雷斯,M。;Lawrence,N.D.,多输出回归的稀疏卷积高斯过程,(神经信息处理系统进展(2009)),57-64
[2] Alvarez,医学硕士。;Luengo,D。;Lawrence,N.D.,潜在力模型(Aistats,第12卷(2009)),9-16
[3] 阿尔瓦雷斯,文学硕士。;Luengo,D。;劳伦斯,N.D.,使用高斯过程的线性势模型,IEEE Trans。模式分析。机器。智力。,35, 11, 2693-2705 (2013)
[4] Aronszajn,N.,《再生核理论》,译。美国数学。Soc.,68,3,337-404(1950)·Zbl 0037.20701号
[5] Berlinet,A。;Thomas-Agnan,C.,《概率统计中的核希尔伯特空间再现》(2011),施普林格科学与商业媒体
[6] 波义耳,P。;Frean,M.,相关高斯过程,(神经信息处理系统进展(2004)),217-224
[7] Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,通过非线性动力系统的稀疏识别从数据中发现控制方程,Proc。国家。阿卡德。科学。,113, 15, 3932-3937 (2016) ·Zbl 1355.94013号
[8] 卡兰德拉,R。;彼得斯,J。;拉斯穆森,C.E。;Deisenroth,M.P.,回归的流形高斯过程,(2016年神经网络国际联合会议(2016)),3338-3345
[9] Chorin,A.J。;霍尔德,O.H。;Kupferman,R.,不可逆过程的最优预测和Mori-Zwanzig表示,Proc。国家。阿卡德。科学。,97, 7, 2968-2973 (2000) ·Zbl 0968.60036号
[10] Cockayne,J。;奥茨,C。;T·沙利文。;Girolma,M.,偏微分方程和贝叶斯反问题的概率无网格方法(2016),arXiv预印本
[11] Cockayne,J。;燕麦,C。;T·沙利文。;Girolma,M.,PDE约束贝叶斯反问题的概率数值方法,(第36届科学与工程贝叶斯推断和最大熵方法国际研讨会论文集(2016))
[12] 科恩,D.A。;加赫拉马尼,Z。;Jordan,M.I.,《统计模型的主动学习》,J.Artif。智力。决议(1996)·Zbl 0900.68366号
[13] Diaconis,P.,贝叶斯数值分析,(统计决策理论及相关主题IV,第1卷(1988)),163-175·Zbl 0671.65117号
[14] Dondelinger,F。;Husmeier,D。;罗杰斯,S。;Filippone,M.,使用高斯过程自适应梯度匹配进行ODE参数推断,(Aistats(2013)),216-228
[15] Duvenaud博士。;劳埃德·J·R。;Grosse,R。;Tenenbaum,J.B。;Ghahramani,Z.,通过成分核搜索在非参数回归中发现结构(2013),arXiv预印本
[16] 法绍尔,G.E。;Ye,Q.,带随机系数椭圆偏微分方程的基于核的配置方法,(Monte Carlo和拟蒙特卡罗方法2012(2013),Springer),331-347·Zbl 1302.65025号
[17] Franke,C。;Schaback,R.,利用径向基函数配点求解偏微分方程,应用。数学。计算。,93, 1, 73-82 (1998) ·Zbl 0943.65133号
[18] Graepel,T.,《用高斯过程求解含噪线性算子方程:应用于常微分方程和偏微分方程》(ICML(2003)),234-241
[19] 亨斯曼,J。;福斯,N。;Lawrence,N.D.,《大数据的高斯过程》(2013),arXiv预印本
[20] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》,第160卷(2006年),Springer Science&Business Media
[21] M.C.肯尼迪。;O'Hagan,A.,《当快速近似可用时预测复杂计算机代码的输出》,Biometrika,87,1,1-13(2000)·Zbl 0974.62024号
[22] Kharazmi,E。;Zayernouri,M。;Karniadakis,G.E.,Petrov-Galerkin和分布阶微分方程的谱配置方法(2016),arXiv预印本
[23] 克劳斯,A。;Guestrin,C.,高斯过程的非近视主动学习:探索-开发方法,(第24届机器学习国际会议论文集(2007),ACM),449-456
[24] Lawrence,N.,高斯过程潜在变量模型的概率非线性主成分分析,J.Mach。学习。1783-1816年11月6日决议(2005年)·Zbl 1222.68247号
[25] Lawrence,N.D.,高维数据可视化的高斯过程潜在变量模型,高级神经信息处理。系统。,16229-336(2004年)
[26] 劳伦斯,N.D。;Sanguinetti,G。;Rattray,M.,使用高斯过程模拟转录调控,(神经信息处理系统进展(2006)),785-792
[27] 刘博士。;Nocedal,J.,《关于大规模优化的有限内存BFGS方法》,数学。程序。,45, 1-3, 503-528 (1989) ·Zbl 0696.90048号
[28] 麦凯,D.J.,主动数据选择的基于信息的目标函数,神经计算。,4, 4, 590-604 (1992)
[29] Melkumyan,A.,用于求解微分方程的操作员诱导多任务高斯过程,(神经信息处理系统(NIPS)研讨会:多核学习的新方向(2012))
[30] Murphy,K.P.,《机器学习:概率视角》(2012),麻省理工学院出版社·Zbl 1295.68003号
[31] Neal,R.M.,《神经网络的贝叶斯学习》,第118卷(2012),施普林格科学与商业媒体
[32] 奥斯本,医学硕士。;罗伯茨,S.J。;罗杰斯,A。;拉姆特尔,S.D。;Jennings,N.R.,《利用计算效率高的多输出高斯过程实现传感器网络数据的实时信息处理》,(第七届传感器网络信息处理国际会议论文集(2008),IEEE计算机学会),109-120
[33] Owhadi,H.,贝叶斯数值均匀化,多尺度模型。模拟。,13, 3, 812-828 (2015) ·Zbl 1322.35002号
[34] Perkins,T.J。;Jaeger,J。;雷尼茨,J。;Glass,L.,反向工程果蝇gap基因网络,PLoS Compute。生物,2,5,e51(2006)
[35] Podlubny,I.,《分数微分方程:分数导数、分数微分方程、其求解方法及其应用简介》,第198卷(1998年),学术出版社
[36] Poggio,T。;Girosi,F.,近似和学习网络,Proc。IEEE,78,9,1481-1497(1990)·Zbl 1226.92005号
[37] Poustellnikova,E。;Pisarev,A。;布拉戈夫,M。;萨姆索诺娃,M。;Reinitz,J.,基因表达数据原位管理数据库,生物信息学,20,14,2212-2221(2004)
[38] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,《利用噪声多保真数据推断微分方程解》,J.Compute。物理。,335, 736-746 (2017) ·Zbl 1382.65229号
[39] 莱斯,M。;佩迪卡里斯,P。;Karniadakis,G.E.,含时和非线性偏微分方程的数值高斯过程(2017),arXiv预印本
[40] 拉斯穆森,C.E。;Ghahramani,Z.,Occam剃刀(神经信息处理系统进展(2001)),294-300
[41] Rudy,S.H。;Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,偏微分方程的数据驱动发现,科学。高级,3,4,文章e1602614 pp.(2017)
[42] Saitoh,S.,《再生核理论及其应用》,第189卷(1988年),朗曼·Zbl 0652.30003号
[43] Särkkä,S.,高斯过程回归中的线性算子和随机偏微分方程,(人工神经网络国际会议(2011年),斯普林格),151-158
[44] 朔尔科普夫,B。;Smola,A.J.,《内核学习:支持向量机、正则化、优化及其后的发展》(2002),麻省理工学院出版社
[45] 斯内尔森,E。;Ghahramani,Z.,使用伪输入的稀疏高斯过程,(神经信息处理系统进展(2005)),1257-1264
[46] Stuart,A.M.,《逆向问题:贝叶斯观点》,《数值学报》。,19, 451-559 (2010) ·Zbl 1242.65142号
[47] Tikhonov,A.,错误公式化问题的解决和正则化方法,Sov。数学。道克。,5, 1035-1038 (1963) ·Zbl 0141.11001号
[48] Tikhonov,A.N。;Arsenin,V.Y.,《病态问题的解决方案》(1977),W.H.Winston·Zbl 0354.65028号
[49] Tipping,M.E.,稀疏贝叶斯学习和相关向量机,J.Mach。学习。第1211-244号决议(2001年)·Zbl 0997.68109号
[50] Titsias,M.K。;Lawrence,N.D.,贝叶斯-高斯过程潜变量模型,(Aistats(2010)),844-851
[51] Vapnik,V.,《统计学习理论的本质》(2013),施普林格科学与商业媒体·兹比尔0934.62009
[52] 威廉姆斯,C.K。;Rasmussen,C.E.,《机器学习的高斯过程》(2006),麻省理工学院出版社,2(3),4·Zbl 1177.68165号
[53] Zwanzig,R.,《不可逆理论中的集合方法》,J.Chem。物理。,33, 5, 1338-1341 (1960)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。