J.-L.阿基安。;阀盖，L。;H·奥瓦迪。;萨文，É。 从高斯过程回归的数据中学习“最佳”核。应用于空气动力学。 （英语） Zbl 07599627号 J.计算。物理学。 470，文章ID 111595，29 p.（2022）. 摘要：本文介绍了高斯过程回归/克里金替代建模技术中选择/设计核的算法。我们在特别的函数空间，即再现核希尔伯特空间（RKHS），用于解决给定观测值的正则目标函数的近似问题，即监督学习。第一类算法是内核流，它是在机器学习中的分类上下文中引入的。它可以被视为一个交叉验证过程，通过该过程选择一个“最佳”内核，将删除数据集的某些部分（通常是其中的一半）所引起的准确性损失降至最低。第二类算法称为谱核岭回归，其目的是选择一个“最佳”核，使待逼近函数的范数在相关RKHS中最小。在Mercer定理框架内，我们根据目标函数的主要特征，得到了“最佳”核的显式构造。这两种从数据中学习核的方法都通过合成测试函数的数值示例和二维翼型跨音速湍流建模验证的经典测试案例进行了说明。 引用于8文件 MSC公司： 94轴 通信、信息 60华氏度 随机分析 65立方厘米 概率方法，随机微分方程 关键词：再生核希尔伯特空间;高斯过程回归;核岭回归;内核流;空气动力学 软件：GPy火炬;斯帕拉尔-奥尔马拉斯;科恩平滑;PyTorch公司;亚当;SPGL1型;PDCO公司;埃尔莎 PDF格式BibTeX公司 XML格式引用 \文本{J.L.Akian}等人，J.Comput。物理学。470，文章ID 111595，29 p.（2022；Zbl 07599627） 全文： DOI程序 arXiv公司 参考文献： [1] 伯克，L。；Patnaik，S.N。；Murthy，P.法律公告，使用神经网络的航空航天结构部件的优化设计，计算。结构。，48, 6, 1001-1010 (1993) ·Zbl 0800.73267号 [2] Berkooz，G。；霍姆斯，P。；Lumley，J.L.，湍流分析中的适当正交分解，Annu。流体力学版次。，25, 539-575 (1993) [3] Berlinet，A。；Thomas-Agnan，C.，《概率统计中的再生核Hilbert空间》（2004），Springer:Springer New York，NY·Zbl 1145.6202号 [4] 布拉特曼，G。；Sudret，B.，基于最小角度回归的自适应稀疏多项式混沌展开，J.Compute。物理。，230, 6, 2345-2367 (2011) ·Zbl 1210.65019号 [5] Boufounos，P。；杜阿尔特，M.F。；Baraniuk，R.G.，使用交叉验证从噪声压缩测量中重建稀疏信号，（SSP’07：2007 IEEE/SP第14次统计信号处理研讨会论文集 [6] Bouhlel，医学硕士。；Hwang，J.T。；北卡罗来纳州巴托利。；拉法吉，R。；Morlier，J。；Martins，J.R.R.A.，《带衍生工具的Python代理建模框架》，高级工程师软件。，135，第102662条pp.（2019） [7] Bui-Thanh，T。；Damodaran，M。；Willcox，K.，《使用适当正交分解进行气动数据重建和逆向设计》，美国航空航天协会J.，42，8，1505-1516（2004） [8] 坎比尔，L。；Heib，S。；Plot，S.，The Onera elsA CFD软件：研究输入和行业反馈，Mech。印第安纳州，14159-174（2013） [9] 坎迪斯，E.J。；Tao，T.，线性规划解码，IEEE Trans。《信息论》，51，12，4203-4215（2005）·Zbl 1264.94121号 [10] 坎迪斯，E.J。；Romberg，J.K。；Tao，T.，从不完整和不准确的测量中恢复稳定信号，Commun。纯应用程序。数学。，59, 8, 1207-1223 (2006) ·邮编1098.94009 [11] Candès，E.J.，《受限等距特性及其对压缩传感的影响》，C.R.Math。，346, 9-10, 589-592 (2008) ·Zbl 1153.94002号 [12] 坎迪斯，E.J。；Wakin，M.B.，压缩采样简介，IEEE信号处理。Mag.，25，2，21-30（2008） [13] 坎迪斯，E.J。；Plan，Y.，压缩感知的概率和无RIP理论，IEEE Trans。信息理论，57，11，7235-7254（2011）·Zbl 1365.94174号 [14] Chatterjee，A.，本征正交分解简介，Curr。科学。，78, 7, 808-817 (2000) [15] 陈S.S。；多诺霍，D.L。；桑德斯，M.A.，《基追踪原子分解》，SIAM J.Sci。计算。，20, 1, 33-61 (2006) ·Zbl 0919.94002号 [16] 陈，Y。；奥瓦迪，H。；Stuart，A.M.，层次参数估计的经验贝叶斯和核流的一致性，数学。计算。，90, 2527-2578 (2021) ·Zbl 1472.62012年 [17] 陈，Y。；侯赛尼，B。；奥瓦迪，H。；Stuart，A.M.，用高斯过程求解和学习非线性偏微分方程，J.Compute。物理。，447，第110668条pp.（2021）·Zbl 07516428号 [18] Chkifa，A。；科恩，A。；Schwab，C.，打破参数偏微分方程稀疏多项式近似中的维数诅咒，J.Math。Pures应用。，103, 2, 400-428 (2015) ·Zbl 1327.65251号 [19] 库克，P.H。；McDonald，M.A。；Firmin，M.C.P.，《翼型RAE 2822压力分布、边界层和尾流测量》（计算机程序评估实验数据库，AGARD咨询报告第138号）。计算机程序评估实验数据库。AGARD第138号咨询报告，北约（1979年5月） [20] N.A.C.Cressie，《空间数据统计》（1993），John Wiley&Sons：John Willey&Sons纽约，NY [21] 达西，M。；哈姆齐，B。；苏西洛托，J。；Braverman，A。；Owhadi，H.，《从数据学习动力系统：一个简单的交叉验证视角》，第二部分：非参数核流（2021）·Zbl 1509.68217号 [22] Davis，J.C.，《地质学中的统计和数据分析》（2002），John Wiley&Sons：John Willey&Sons纽约，NY [23] Donoho，D.L.，压缩传感，IEEE Trans。《信息论》，52，4，1289-1306（2006）·Zbl 1288.94016号 [24] 杜斯坦，A。；Owhadi，H.，具有随机输入的PDE的非自适应稀疏近似，J.Compute。物理。，230, 8, 3015-3034 (2011) ·Zbl 1218.65008号 [25] 杜蒙特，A。；Hantrais-Gervois，J.-L。；帕萨吉亚，P.-Y。；J.彼得。；Salah el-Din，I。；埃利桑那州萨文。，空气动力学中的普通克里金替代物，（Hirsch，C.；Wunsch，D.；Szumbarski，J.；aniewski-Wołk，Pons-Prats，J.，《航空工业稳健设计的不确定性管理》（2019），施普林格：施普林格商学院），229-245 [26] Ernst，O.G。；马格勒，A。；Starkloff，H.-J。；Ullmann，E.，关于广义多项式混沌展开式的收敛性，ESAIM:M2AN，46，2，317-339（2012）·Zbl 1273.65012号 [27] Forrester，A.I.J。；Keane，A.J.，《基于代理的优化的最新进展》，Prog。Aerosp.航空公司。科学。，45, 1, 50-79 (2009) [28] 加德纳，J。；普莱斯，G。；温伯格，K.Q。；宾德尔，D。；Wilson，A.G.，GPyTorch:黑箱矩阵高斯过程推理与GPU加速，（神经信息处理系统进展，第31卷。神经信息处理系统进展，第31卷，NeurIPS 2018，蒙特利尔（2018）） [29] 加纳，H.C。；罗杰斯，E.W.E。；阿库姆，W.E.A。；Maskell，E.C.，亚音速风洞壁修正（1966年），AGARDo图109，北约 [30] Ghanem，R.G。；Spanos，P.D.，《随机有限元：谱方法》（1991），Springer:Springer纽约，纽约·Zbl 0722.73080号 [31] 古德费罗，I。；Y.本吉奥。；A.Courville，《深度学习》（2016），麻省理工学院出版社：麻省理学院出版社，马萨诸塞州剑桥·兹比尔1373.68009 [32] Haase，W。；Bradsma，F。；Elsholz，E。；Leschziner，M。；Schwamborn，D.，EUROVAL--欧洲CFD代码验证倡议（1993），Vieweg Verlag:Vieweg Verlag Wiesbaden·Zbl 0788.76003号 [33] Hadigol，M。；Doostan，A.，《最小二乘多项式混沌展开：抽样策略综述》，计算。方法应用。机械。工程，332382-407（2018）·Zbl 1440.65007号 [34] J.汉普顿。；Doostan，A.，稀疏多项式混沌展开的压缩采样方法，（Ghanem，R.；Higdon，D.；Owhadi，H.，《不确定性量化手册》（2016），Springer:Springer-Cham），827-855 [35] 哈姆齐，B。；Owhadi，H.，《从数据学习动力系统：一个简单的交叉验证视角》，第一部分：参数核流，Physica D，421，Article 132817 pp.（2021）·Zbl 1509.68217号 [36] 哈姆齐，B。；Maulik，R。；Owhadi，H.，《简单、低成本和准确的数据驱动地球物理预测与学习内核》，Proc。R.Soc.A，477，2252，第20210326条，pp.（2021） [37] 哈斯蒂，T。；Tibshirani，R。；Friedman，J.，《统计学习的要素》（2009），Springer-Verlag:Springer-Verlag New York，NY·Zbl 1273.62005年 [38] Ishigami，T。；Homma，T.，《计算机模型不确定性分析中的一种重要量化技术》，（《第一届不确定性建模与分析国际研讨会论文集》，《第一届国际不确定性建模和分析研讨会论文集，1990年12月3-5日，马里兰州大学公园（1990）》），398-403 [39] 简农，A。；Klein，T。；拉格努克斯，A。；诺德，M。；Prieur，C.，两个Sobol指数估计量的渐近正态性和效率，ESAIM Probab。《法律总汇》，18342-364（2014）·Zbl 1305.62147号 [40] Kadri，H。；杜弗洛斯，E。；普鲁克斯，P。；卡努，S。；阿科托马蒙杰，A。；Audiffren，J.，《从功能响应数据学习的算子值核》，J.Mach。学习。第17、20、1-54号决议（2016年）·兹比尔1360.68682 [41] Karniadakis，G.E。；Kevrekidis，I.G。；卢，L。；佩尔迪卡里斯，P。；王，S。；Yang，L.，《物理告知机器学习》，自然科学出版社。，3, 6, 422-440 (2021) [42] Kingma，D.P。；Ba，J.，Adam：随机优化方法（2017） [43] Kleijnen，J.，《模拟中的克里金元建模：综述》，欧洲期刊Oper。研究，192，3，707-716（2009）·Zbl 1157.90544号 [44] Kosambi，D.D.，《函数空间中的统计》，J.Indian Math。社会学，776-88（1943）·兹比尔0063.03317 [45] Laurenceau，J。；Sagaut，P.，《利用克里金和协克里金构建气动功能的有效响应面》，美国航空航天协会期刊，46，2，498-507（2008） [46] Le Maêtre，O。；Knio，O.，《不确定度量化的光谱方法》。《计算流体动力学应用》（2010），施普林格出版社：施普林格-多德雷赫特出版社·Zbl 1193.76003号 [47] Marrel，A。；Iooss，B。；Laurent，B。；Roustant，O.，高斯过程元模型的Sobol指数计算，Reliab。工程系统。安全。，94, 3, 742-751 (2009) [48] Matérn，B.，《空间变化》（1960年），斯普林格·弗拉格：纽约州纽约市斯普林格尔·弗拉格 [49] 马瑟林，L。；Gallivan，K.A.，随机输入数据偏微分方程的压缩传感方法，Commun。计算。物理。，12, 4, 919-954 (2012) ·Zbl 1388.65018号 [50] 马瑟林，L。；Pastur，L。；Le Maêtre，O.，非线性系统闭环最优控制的压缩张量方法，Theor。计算。流体动力学。，26, 1-4, 319-337 (2012) ·Zbl 1291.76125号 [51] Matheron，G.，《地质统计学原理》，经济学。地质。，58, 8, 1246-1266 (1963) [52] 米切利，C.A。；Rivlin，T.J.，《最佳采收率调查》（Michelli，C.A.；Rivlin.，T.J，《近似理论中的最佳估计》（1977），Springer:Springer Boston，MA），1-54·Zbl 0386.93045号 [53] 米切利，C.A。；Pontil，M.，《多任务学习的内核》（NIPS’04：第17届神经信息处理国际会议论文集（2004）），921-928 [54] 蒙哥马利，D.C.，《实验设计与分析》（2004），约翰·威利父子公司：约翰·威利和儿子公司，纽约州纽约市 [55] 阮天，T。；Tran-Cong，T.，《函数及其导数的近似：应用的神经网络实现》，Appl。数学。型号。，23, 9, 687-704 (1999) ·Zbl 0939.65027号 [56] Nouy，A.，高维随机问题数值解的适当广义分解和分离表示，Arch。计算。方法工程，17，403-434（2010）·Zbl 1269.76079号 [57] 奥瓦迪，H。；Scovel，C.，《算子自适应小波、快速解算器和数值均匀化：从博弈论方法到数值逼近和算法设计》（2019），剑桥大学出版社：剑桥大学出版社·Zbl 1477.65004号 [58] 奥瓦迪，H。；Yoo，G.R.，《内核流：从数据学习内核到深渊》，J.Comput。物理。，389, 22-47 (2019) ·Zbl 1452.65028号 [59] Owhadi，H.，想法有形状吗？柏拉图的形式理论是人工神经网络的连续极限（2020） [60] Paszke，A。；毛重，S。；钦塔拉，S。；查南，G。；杨，E。；德维托，Z。；林，Z。；Desmaison，A。；安提瓜，L。；Lerer，A.，《PyTorch中的自动区分》（NIPS 2017 Workshop Autodiff（2017）） [61] Paszke，A。；毛重，S。；马萨，F。；Lerer，A。；布拉德伯里，J。；Chanan，G。；基林，T。；林，Z。；Gimelshein，N。；安提瓜，L。；Desmaison，A。；Kopf，A。；杨，E。；德维托，Z。；Raison，M。；特贾尼，A。；Chilamkurthy，S。；斯坦纳，B。；方，L。；白俊杰，J。；Chintala，S.，PyTorch:一个命令式、高性能的深度学习库，（Wallach，H.；Larochelle，H.，Beygelzimer，A.；d'Alché-Buc，F.；Fox，E.；Garnett，R.，《神经信息处理系统的进展》，第32卷（2019年），8024-8035 [62] 保尔森，V.I。；Raghupathi，M.，《再生核希尔伯特空间理论导论》（2016），剑桥大学出版社：剑桥大学出版社·Zbl 1364.46004号 [63] Prieur，C。；Tarantola，S.，《基于方差的敏感性分析：理论和估计算法》，（Ghanem，R.；Higdon，D.；Owhadi，H.，《不确定性量化手册》（2016），施普林格出版社：施普林格商学院），1217-1239 [64] Queipo，N.V。；哈夫特卡，R.T。；害羞，W。；高尔，T。；瓦迪亚纳桑，R。；Tucker，P.K.，基于代理的分析和优化，Prog。Aerosp.航空公司。科学。，41, 1, 1-28 (2005) [65] 拉比茨，H。；阿里什。F、。；肖特，J。；Shim，K.，《高效投入产出模型表示》，Comput。物理学。社区。，117, 1-2, 11-20 (1999) ·Zbl 1015.68219号 [66] 莱斯，M。；佩尔迪卡里斯，P。；Karniadakis，G.E.，含时和非线性偏微分方程的数值高斯过程，SIAM J.Sci。计算。，40、1、A172-A198（2018）·Zbl 1386.65030号 [67] 拉斯穆森，C.E。；Williams，C.K.I.，《机器学习的高斯过程》（2006），麻省理工学院出版社：麻省理学院出版社剑桥·Zbl 1177.68165号 [68] Rosenbrock，H.H.，一种自动查找函数最大值或最小值的方法，Compute。J.，3，3，175-184（1960） [69] Sacks，J。；Welch，W.J。；米切尔，T.J。；Wynn，H.P.，《计算机实验的设计与分析》，统计科学。，4, 4, 409-423 (1989) ·Zbl 0955.62619号 [70] 桑特纳，T.J。；威廉姆斯，B.J。；Notz，W.I.，《计算机实验的设计与分析》（2003），纽约州纽约市斯普林格·弗拉格出版社·Zbl 1041.62068号 [71] 萨文（Savin，E..）。；Resmini，A。；Peter，J.，随机输入气动计算的稀疏多项式替代，（第18届AIAA非确定性方法会议，第18届IAAA非确定方法会议，2016年1月4日至8日，加利福尼亚州圣地亚哥（2016）），AIAA论文编号2016-0433 [72] 萨文（Savin，E..）。；Faverjon，B.，广义多项式混沌展开式的高阶矩计算，国际期刊数字。方法工程，111，12，1192-1200（2017） [73] Schöbi，R。；Sudret，B.，《基于混沌的多项式克里金法》，《国际不确定性杂志》。量化。，5, 2, 171-193 (2015) ·Zbl 1498.82031号 [74] Schölkopf，B。；Smola，A.J.，与Kernels一起学习。《支持向量机，正则化，优化及超越》（2001），麻省理工学院出版社：麻省理工大剑桥出版社 [75] Schwaighofer，A。；Tresp，V。；Yu，K.，通过层次贝叶斯学习高斯过程核，（NIPS'04:第17届神经信息处理系统国际会议论文集（2004年12月），1209-1216 [76] 辛普森，T.W。；Poplinski，J.D。；科赫，P.N。；Allen，J.K.，基于计算机的工程设计元模型：调查和建议，工程计算。，17, 2, 129-150 (2001) ·Zbl 0985.68599号 [77] Smolyak，S.A.，某些函数类张量积的求积和插值公式，Dokl。阿卡德。诺克SSSR，148，5，1042-1045（1963）·Zbl 0202.39901号 [78] Soize，C。；Ghanem，R.G.，《具有随机不确定性的物理系统：具有任意概率测度的混沌表示》，SIAM J.Sci。计算。，26, 2, 395-410 (2004) ·兹比尔1075.60084 [79] 斯帕拉特，P.R。；Allmaras，S.R.，《气动流动的单方程湍流模型》（第30届航空航天科学会议和展览，第30届宇航科学会议和展品，1992年1月6日至9日，内华达州雷诺（1992）），美国航空航天局论文编号1992-0439 [80] Stein，M.L.，《空间数据插值》（1999年），纽约州纽约市斯普林格-弗拉格：斯普林格·Zbl 0924.62100号 [81] Stone，M.，统计预测的交叉验证选择和评估，J.R.Stat.Soc.，Ser。B、 统计方法。，36, 2, 111-133 (1974) ·Zbl 0308.62063号 [82] Sudret，B.，使用多项式混沌展开的全局灵敏度分析，Reliab。工程系统。安全。，93, 7, 964-979 (2008) [83] Sun，G。；Wang，S.，气动设计中人工神经网络替代建模综述，Proc。仪器机械。工程师，G J.Aerosp。工程，233，16，5863-5872（2019） [84] Sun，L。；Wang，J.-X.，《利用稀疏和噪声数据重建流体流动的物理约束贝叶斯神经网络》，Theor。申请。机械。莱特。，10, 3, 161-169 (2020) [85] Thirumalainmbi，R。；Bardina，J.，预测空气动力系数的神经网络训练数据要求，（论文集第5102卷，独立成分分析，小波和神经网络（2003）） [86] 范登伯格，E。；Friedlander，M.P.，《探索基础追踪解决方案的帕累托边界》，SIAM J.Sci。计算。，31, 2, 890-912 (2008) ·Zbl 1193.49033号 [87] 范登伯格，E。；Friedlander，M.P.，带最小二乘约束的稀疏优化，SIAM J.Optim。，21, 4, 1201-1229 (2011) ·Zbl 1242.49061号 [88] 瓦拉赫，R。；马托斯，B。；Girardi，R。；Curvo，M.，使用神经网络预测运输机的空气动力学系数，（第44届AIAA航空航天科学会议和展览。第44届IAAA航空航天科技会议和展览，2006年1月9日至12日，内华达州里诺（2006）），AIAA论文编号2006-658 [89] Wand，M.P。；Jones，M.D.，Kernel Smoothing（1995），查普曼和霍尔/CRC：查普曼与霍尔/CRC博卡拉顿，FI·Zbl 0854.62043号 [90] Ward，R.，《压缩传感与交叉验证》，IEEE Trans。《信息论》，55，12，5773-5782（2009）·兹比尔1367.94107 [91] Wiener，N.，《齐次混沌》，美国数学杂志。，60, 4, 897-936 (1938) [92] 魏梅斯特，J。；高，X。；Roy，S.，《用于空气动力学不确定性量化的多项式chaos-kriging元模型分析》，AIAA J.，57，6，2280-2296（2019） [93] 威廉姆斯，C.K.I。；Rasmussen，C.E.，回归的高斯过程，（Touretzky，D.S.；Mozer，M.C.；Hasselmo，M.E.，《神经信息处理系统的进展》，第8卷（1996），麻省理工学院出版社：麻省理学学院出版社剑桥，马萨诸塞州），514-520 [94] 秀，D。；Karniadakis，G.E.，随机微分方程的Wiener-Askey多项式混沌，SIAM J.Sci。计算。，24, 2, 619-644 (2002) ·Zbl 1014.65004号 [95] Yan，L。；段，X。；刘，B。；Xu，J.，回归问题的高斯过程和多项式混沌展开：通过RKHS的链接和通过KL散度的比较，熵，20，3，191（2018） [96] Yoo，G.R。；Owhadi，H.，具有核流的神经网络内层的深度正则化和直接训练，Physica D，426，文章132952 pp.（2021）·Zbl 1515.68273号 [97] 张，X。；谢凤。；Ji，T.等人。；朱，Z。；Zheng，Y.，用于气动形状优化的高保真度深度神经网络代理模型，计算机。方法应用。机械。工程，373，第113485条pp.（2021）·Zbl 1506.74324号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。