内森·威科夫;米卡·比诺伊斯;Wild，Stefan M。 主动子空间的顺序学习。 （英语） Zbl 07499948号 J.计算。图表。斯达。 30，第4期，1224-1237（2021）. 摘要：近年来，主动子空间方法（ASM）已成为对黑盒函数进行子空间敏感性分析的一种流行方法。然而，天真地应用ASM需要对目标函数进行梯度计算。在有噪声、昂贵或随机模拟器的情况下，通过有限差分评估梯度可能是不可行的。在这种情况下，通常使用代理模型，在该模型上执行有限差分。当代理模型是高斯过程（GP）时，我们证明了ASM估计是以闭合形式可用的，因此不需要有限差分近似。我们使用我们的封闭式解决方案开发采集功能，重点是针对ASM之上的敏感性分析定制的顺序学习。我们还证明了传统的ASM估计可以被视为某类广义预测的矩估计方法。我们演示了如何将GP超参数的不确定性传播到灵敏度分析的不确定性，从而在活动子空间上允许基于模型的置信区间。我们的方法发展通过几个例子进行了说明。本文的补充文件可在线获取。 引用于2文件 MSC公司： 62至XX 统计 关键词：主动学习;尺寸缩减;高斯过程;线性嵌入;不确定性量化 软件：数学软件 PDF格式BibTeX公司 XML格式引用 \textit{N.Wycoff}等人，《计算杂志》。图表。Stat.30，No.4，1224--1237（2021；Zbl 07499948） 全文： 内政部 arXiv公司 参考文献： [1] Barnett，S.，《工程师和科学家矩阵方法》（1979年），纽约：McGraw-Hill，纽约·Zbl 0507.15001号 [2] Bellman，R.E.，《动态编程》（2003），纽约：多佛出版社，纽约·Zbl 1029.90076号 [3] 比诺瓦，M。；黄，J。；Gramacy，R.B。；Ludkovski，M.，“复制还是探索？随机模拟实验的顺序设计，技术计量学，61，7-23（2019）·doi:10.1080/00401706.2018.1469433 [4] Constantine，P.G.，《活跃子空间》（2015），宾夕法尼亚州费城：宾夕法尼亚州费城SIAM·Zbl 1431.65001号 [5] 康斯坦丁，P.G。；陶氏（Dow，E.）。；Wang，Q.，“理论和实践中的主动子空间方法：在克里格曲面中的应用”，SIAM科学计算杂志，36，A1500-A1524（2014）·Zbl 1311.65008号 ·数字对象标识代码：10.1137/130916138 [6] 康斯坦丁，P.G。；埃夫特哈里，A。；霍坎森，J。；Ward，R.A.，“脊近似的近稳态子空间，应用力学和工程中的计算机方法，326402-421（2017）·Zbl 1439.65023号 ·doi:10.1016/j.cma.2017.07.038 [7] 康斯坦丁，P.G。；埃夫特哈里，A。；Wakin，M.B.，《利用梯度绘制高效计算有源子空间》，2015年IEEE第六届多传感器自适应处理（CAMSAP）计算进展国际研讨会（2015）·doi:10.1109/CAMSAP.2015.7383809 [8] 德洛佐，M。；Marrel，A.，“使用高斯过程元模型估计基于导数的全球敏感性度量，SIAM/ASA不确定性量化期刊，4708-738（2016）·Zbl 1386.65059号 ·数字对象标识代码：10.1137/15M1013377 [9] 乔隆加，J。；克劳斯，A。；Cevher，V.，《高维高斯过程带宽，神经信息处理系统的进展》，26，1025-1033（2013） [10] 北卡罗来纳州杜兰德。；金斯堡，D。；Roustant，O.，“高斯过程建模的加法核”，《图卢兹科学年鉴》，第17期，第481-499页（2012年）·Zbl 1266.60068号 [11] 北卡罗来纳州杜兰德。；金斯堡，D。；Roustant，O。；Carraro，L.，“用于基于模型的敏感性分析的零均值函数的方差分析内核和RKHS，多变量分析杂志，115，57-67（2013）·Zbl 1259.49066号 ·doi:10.1016/j.jmva.2012.08.016 [12] Duvenaud，D.K。；Nickisch，H。；拉斯穆森，C.E。；肖-泰勒，J。；Zemel，R.S。；Bartlett，P.L。；佩雷拉，F。；Weinberger，K.Q.，《神经信息处理系统的进展》，24），加法高斯过程，226-234（2011），Curran Associates，Inc [13] Efron，B.，“标准误差的非参数估计：Jackknife、Bootstrap和其他方法”，Biometrika，68589-599（1981）·Zbl 0487.62031号 ·doi:10.1093/biomet/68.3.589 [14] Enns，E.A。；柯凯德，M。；梅塔，A。；麦克莱霍斯，R。；Knowlton，G.S。；史密斯，M.K。；塞尔，K.M。；赵，R。；吉尔德梅斯特，S。；西蒙，A。；Sanstead，E。；Kulasingam，S.，技术代表，“模拟社会隔离措施对SARS-CoV-2在明尼苏达州传播的影响”，1148-427724（2020），明尼苏苏达大学 [15] Forrester，A.I.J。；Sobester，A。；Keane，A.J.，《通过替代模型进行工程设计——实用指南》（2008），纽约：威利，纽约 [16] J.-C.福特。；Klein，T。；Rachdi，N.，“从属于对比的新敏感性分析，统计学中的沟通——理论和方法，45，4349-4364（2016）·Zbl 1397.62592号 ·doi:10.1080/03610926.2014.901369 [17] Fréchet，M.R.，“《自然之路》，《空间距离》，《亨利·庞加莱研究所年鉴》，第10期，第215-310页（1948年）·Zbl 0035.20802号 [18] 弗里德曼，J.H。；Stuetzle，W.，“投影寻踪回归”，《美国统计协会杂志》，76817-823（1981）·doi:10.1080/01621459.1981.1047729 [19] Fukumizu，K。；Leng，C.，“基于梯度的回归核维数缩减，美国统计协会杂志，109，359-370（2014）·Zbl 1367.62118号 ·doi:10.1080/01621459.2013.838167 [20] 加内特，R。；奥斯本，医学硕士。；Hennig，P.，“高斯过程线性嵌入的主动学习”，载于第三十届人工智能不确定性会议论文集，230-239（2014），AUAI出版社 [21] Ghosh，S.，《内核平滑：原理、方法和应用》（2018），新泽西州霍博肯：新泽西州霍博肯市威利·Zbl 1407.62004号 [22] Glaws，A。；康斯坦丁，P.G。；Cook，R.D.，“海脊恢复的逆回归：计算机实验、统计和计算中参数简化的数据驱动方法”，30，237-253（2020）·Zbl 1436.62337号 ·doi:10.1007/s11222-019-09876-y [23] 霍坎森，J。；Constantine，P.G.，“使用变量投影的数据驱动多项式脊近似，SIAM科学计算杂志，40，A1566-A1589（2018）·兹比尔1392.49034 ·doi:10.1137/17M1117690 [24] 霍洛德纳克，J.T。；伊普森，I.C。；Smith，R.C.，“应用于主动子空间的概率子空间界”，SIAM矩阵分析与应用期刊，391208-1220（2018）·Zbl 1448.6011号 ·doi:10.1137/17M1141503 [25] Iooss，B。；Lemaêtre，P。；梅洛尼，C。；Dellino，G.，《复杂系统仿真优化中的不确定性管理：算法和应用》，“全球灵敏度分析方法综述”，101-122（2015），Springer·Zbl 1332.90003号 [26] Ji-Guang，S.，“线性子空间之间角度的扰动”，《计算数学杂志》，第5期，第58-61页（1987年）·Zbl 0632.15009号 [27] 拉波因·里查德，T。；Picheny，V.，“估计黑盒函数百分位的序贯实验设计”，《统计学》，28，853-877（2018）·Zbl 1390.62161号 [28] Larson，J。；Menickelly，M。；Wild，S.M.，“无导数优化方法”，《数值学报》，第28期，第287-404页（2019年）·Zbl 1461.65169号 ·doi:10.1017/S0962492919000060 [29] Lee，M.R.，“使用梯度平均值修改的有源子空间，SIAM/ASA不确定性量化期刊，753-66（2019）·Zbl 07003656号 ·doi:10.1137/17M1140662 [30] Li，K.-C.，“用于降维的分层逆回归，美国统计协会杂志，86316-327（1991）·Zbl 0742.62044号 ·数字对象标识代码：10.1080/01621459.1991.10475035 [31] Li，K.C.，“关于数据可视化和降维的主要Hessian方向：Stein引理的另一个应用”，美国统计协会杂志，871025-1039（1992）·兹比尔0765.62003 ·doi:10.1080/01621459.1992.10476258 [32] 李伟（Li，W.）。；林·G。；Li，B.，“基于逆回归的高维模型不确定性量化算法：理论与实践”，《计算物理杂志》，321259-278（2016）·Zbl 1349.62133号 ·doi:10.1016/j.jcp.2016.05.040 [33] 马云（Ma，Y.）。；Zhu，L.，“降维综述，国际统计评论，81，134-150（2013）·Zbl 1416.62220号 ·doi:10.1111/j.1751-5823.012.00182.x [34] Marcy，P.W.（2017） [35] 莫拉莱斯，J.L。；Nocedal，J.，“关于算法778:L-BFGS-B:大规模有界约束优化的Fortran子程序的备注，ACM数学软件事务，38，1-4（2011）·Zbl 1365.65164号 ·doi:10.1145/2049662.2049669 [36] 莫雷，J.J。；Wild，S.M.，“估算噪声模拟的导数，ACM数学软件汇刊，38，19（2012）·Zbl 1365.65056号 ·doi:10.1145/2168773.2168777 [37] Namura，N。；下山，K。；Obayashi，S.，“基于似然和梯度的坐标变换克里金替代模型，全球优化杂志，68，827-849（2017）·Zbl 1380.90227号 ·doi:10.1007/s10898-017-0516-y [38] Othmer，C。；卢卡奇克，T.W。；君士坦丁，P。；Alonso，J.J.，《汽车空气动力学主动子空间》，第17届AIAA/ISSMO多学科分析与优化会议（2016年）·doi:10.2514/6.2016-4294 [39] 帕拉尔，P.S。；Shimoyama，K.，《在全局优化中开发活动子空间》（2017） [40] 帕拉尔，P.S。；下山，K.，0913（2018） [41] 彼得森，K.B。；Pedersen，M.S.，“矩阵食谱，丹麦技术大学，7，15（2008） [42] 拉斯穆森，C.E。；Williams，C.，《机器学习的高斯过程》（2006），马萨诸塞州剑桥：麻省理工学院出版社·Zbl 1177.68165号 [43] 医学学士塞勒姆。；Bachoc，F。；Roustant，O。；Gamboa，F。；Tomaso，L.，预印本01688329v2，“昂贵黑匣子函数学习特征的顺序降维”（2019），HAL [44] Samarov，A.M.，“使用非参数函数估计探索回归结构，美国统计协会杂志，88，836-847（1993）·Zbl 0790.62035号 ·doi:10.1080/016214519993.10476348 [45] 肖尔科夫，B。；Smola，A.J.，《正则化、优化及超越》，《使用内核学习：支持向量机》（2001），马萨诸塞州坎布里奇：麻省理工学院出版社 [46] Sobol，I.，“非线性数学模型及其蒙特卡罗估计的全局敏感性指数，模拟中的数学和计算机，55，271-280（2001）·Zbl 1005.65004号 [47] Sung，C.-L。；Wang，W。；普卢姆利，M。；Haaland，B.，“大尺度多输入计算机实验的多分辨率函数方差分析，美国统计协会杂志，115908-919（2019）·Zbl 1445.62189号 ·doi:10.1080/01621459.2019.1595630 [48] 提提亚斯，M。；劳伦斯，N.D.，844-851（2010） [49] Tripathy，R。；Bilinis，I。；Gonzalez，M.，“具有内置降维的高斯过程：高维不确定性传播的应用”，计算物理学杂志，321191-223（2016）·Zbl 1349.65049号 ·doi:10.1016/j.jcp.2016.05.039 [50] Viswanath，A。；弗雷斯特，A.I.J。；Keane，A.，“气动设计优化的降维，AIAA期刊，49，1256-1266（2011）·文件编号：10.2514/1.J050717 [51] 维瓦雷利，F。；威廉姆斯，C.K.I.，613-619（1999），麻省理工学院出版社 [52] 王，Z。；Hutter，F。；Zoghi，M。；Matheson，D。；De Freitas，N.，“通过随机嵌入实现十亿维贝叶斯优化，人工智能研究杂志，55，361-387（2016）·Zbl 1358.90089号 ·数字对象标识代码：10.1613/jair.4806 [53] Wolfram Research，Inc.，Mathematica，12.0版（2019年），伊利诺伊州香槟 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。