×

在改进模型估计和优化方面增强了kriging leave-on-out交叉验证。 (英语) Zbl 07725724号

摘要:Leave-one-out交叉验证(LOOCV)是一种广泛应用于工程问题(如结构优化和可靠性分析)的模型估计和Kriging替代模型选择的技术。然而,传统的LOOCV方法在准确性和效率方面存在一些不足。本文提出了一种改进的LOOCV方法,该方法将基于完整训练数据集(即完整克里格模型)的克里格模型的超参数纳入LOOCV误差计算中。通过使LOOCV中的模型超参数与完整的Kriging模型保持一致,减少了超参数优化的次数,并显著提高了LOOCV过程的准确性和效率。此外,还提出了一种递减计算,以在不牺牲精度的情况下降低相关矩阵反演的计算成本,从而将传统LOOCV的时间复杂度从\(\mathcal{O}(n^4)\)提高到\(\mathcal{O}(n^3)\)。30个测试函数的实验结果表明,改进的LOOCV比克里格模型具有更好的估计性能,与传统的LOOCF相比,效率显著提高。数值实验和优化工程实例表明,改进的LOOCV可以减少克里格模型中填充所需的样本数,更适合于工程中代价高昂的优化。

理学硕士:

65K10码 数值优化和变分技术
62G08号 非参数回归和分位数回归

软件:

EGO公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Pang,Y。;Wang,Y。;Sun,W。;Song,X.,OTL-PEM:基于优化的两层代理模型逐点集成,J.Mech。设计。,144, 1-14 (2022)
[2] 杨,M。;张,D。;Wang,F。;Han,X.,基于可靠性的设计优化的单回路策略的高效局部自适应克里金近似方法,计算。方法应用。机械。工程,390,第114462条pp.(2022)·Zbl 1507.74282号
[3] Pang,Y。;Wang,Y。;张,S。;赖,X。;Sun,W。;Song,X.,基于高效预期超体积改进的昂贵多目标优化算法,IEEE Trans。进化。计算。,1-15 (2022)
[4] Yang,Z。;邱,H。;高,L。;Chen,L。;Cai,X.,基于约束边界追踪的代理辅助差分进化,用于混合约束的昂贵优化问题,结构。多磁盘。最佳方案。(2023)
[5] 郝,P。;Feng,S。;刘,H。;Wang,Y。;王,B。;Wang,B.,用于响应噪声量化和可靠性分析的新型嵌套随机克里金模型,计算。方法应用。机械。工程,384,第113941条pp.(2021)·Zbl 1504.74022号
[6] Forrester,A.I.J。;Sóbester,A。;Keane,A.J.,《通过替代建模实现工程设计实用指南》(2008年)
[7] 肖,M。;张杰。;高,L。;Lee,S。;Eshghi,A.T.,在小失效概率随机变量和区间变量下混合可靠性分析的一种有效的基于Kriging的子集模拟方法,Struct。多磁盘。最佳。,59, 2077-2092 (2019)
[8] Ge,Y。;史J。;李毅。;Shen,J.,一种基于多维尺度的高效克里格建模方法,用于高维问题,Struct。多磁盘。最佳。,15, 39-57 (2022)
[9] Yi,J。;Wu,F。;周,Q。;Cheng,Y。;Ling,H。;Liu,J.,基于多保真度克里金模型的结构可靠性分析主动学习方法,Struct。多磁盘。最佳方案。(2020)
[10] Chen,L。;邱,H。;高,L。;江,C。;Yang,Z.,通过梯度增强Kriging优化昂贵的黑盒问题,计算。方法应用。机械。工程,362,第112861条pp.(2020)·Zbl 1439.90078号
[11] 洪,L。;李,H。;Fu,J.,一种用于结构可靠性分析的基于替代模型的新型主动学习方法,计算。方法应用。机械。工程师,394,第114835条,第(2022)页·Zbl 1507.74553号
[12] 高尔,T。;哈夫克塔,R.T。;Shyy,W.,比较无噪声函数的多项式和克里格近似的误差估计措施,结构。多磁盘。最佳。,38, 429-442 (2009)
[13] Drignei,D.,非结构化多输出计算机模型的快速克里格替代估计算法,计算。方法应用。机械。工程,321,35-45(2017)·Zbl 1439.62017号
[14] 周,Y。;卢,Z。;胡,J。;Hu,Y.,通过数据驱动的多项式混沌展开和稀疏偏最小二乘对高维问题进行代理建模,Comput。方法应用。机械。工程,364,第112906条pp.(2020)·Zbl 1442.65437号
[15] 考利,G.C。;Talbot,N.L.C.,《核逻辑回归的有效近似无遗漏交叉验证》,马赫。学习。,71, 243-264 (2008) ·Zbl 1470.62113号
[16] 詹,D。;Xing,H.,基于增量学习的快速克里格辅助进化算法,IEEE Trans。进化。计算。,1 (2021)
[17] 钟,X。;基利,A。;Duckham,M.,流克里格:时空数据流上的增量和递归普通克里格,计算。地质科学。,90, 134-143 (2016)
[18] 罗梅罗,D.A。;马林,V.E。;Amon,C.H.,《误差度量和克里格元模型的顺序细化》,J.Mech。设计。事务处理。ASME,137(2015)
[19] 克绍迪,P。;苏德雷特,B。;瓦西尔,N。;O.皮肯。;Wiart,J.,结合克里金和多项式混沌展开的新代理建模技术——在计算剂量学不确定性分析中的应用,J.Compute。物理。,286, 103-117 (2015) ·Zbl 1351.94003号
[20] Liang,H。;朱,M。;Wu,Z.,使用交叉验证设计克里格替代模型中的趋势函数,AIAA J.,52,2313-2327(2014)
[21] 维亚纳,F.A.C。;皮奇尼,V。;Haftka,R.T.,《使用交叉验证设计保守替代品》,AIAA J.,48,2286-2298(2010)
[22] Vicario,G。;克拉帕罗塔,G。;Pistone,G.,《计算机实验中的元模型:克里金与人工神经网络》,Qual。Reliab公司。《国际工程》,32005-1965(2016)
[23] Coppedè,A。;Gaggero,S。;Vernengo,G。;Villa,D.,通过高保真CFD解算器和基于高斯过程的响应面方法进行流体动力形状优化,应用。Ocean Res.,90,第101841条pp.(2019)
[24] 阿萨,E。;萨菲,M。;J.孟巴。;Billa,A.,用于土壤数据表征和插值的线性和非线性克里格方法的比较,11-18(2012)
[25] Zhen,J。;Pei,T。;Xie,S.,Kriging利用辅助夜间灯光数据检测土壤中潜在有毒金属浓度,科学。Total Environ.公司。,659, 363-371 (2019)
[26] Da Costa,J.J。;链网,F。;塞尔斯,B。;Lacoue-Nègre,M。;Ruckebusch,C。;Caillol,N。;Espinat,D.,预测基础油粘度指数的克里格模型,《能源燃料》,32,2588-2597(2018)
[27] Nikiforova,N.D。;伯尼,R。;阿西迪亚科诺,G。;坎通纳,L。;Placidoli,P.,拉丁超立方体设计,基于强正交阵列和克里金模型,以改善列车的有效载荷分布,J.Appl。统计,48,498-516(2021)·Zbl 1521.62426号
[28] Sekuli,A。;Kilibarda,M.,克罗地亚日平均温度的时空回归克里金模型,Theor。申请。气候,101-114(2020)
[29] van Zoest,V。;Osei,F.B。;霍克,G。;Stein,A.,城市NO2浓度建模的时空回归克里格法,国际期刊Geogr。信息科学。,34, 851-865 (2020)
[30] Tapoglou,E。;Karatzas,G.P。;特里沙基斯,国际货币基金组织。;Varouchakis,E.A.,地下水水位模拟的时空混合神经网络-克里金模型,J.Hydrol。,519, 3193-3203 (2014)
[31] 张,H。;詹,Y。;李,J。;Chao,C.Y。;刘,Q。;王,C。;贾,S。;马,L。;Biswas,P.,使用克里金结合风向调查地面PM2.5浓度,Sci。Total Environ.公司。,751,第141813条,第(2021)页
[32] Y.Al-taweel,N.Sadeek,《构建贝叶斯克里金模型的不同方法比较》,16(2020)73-82。
[33] 郭,M。;Manzoni,A。;Amendt,M。;康蒂,P。;Hesthaven,J.S.,使用人工神经网络的高保真度回归:参数相关输出量的有效近似,Comput。方法应用。机械。工程,389,第114378条pp.(2022)·Zbl 1507.65184号
[34] J.D.Martin,T.W.Simpson,《使用克里格模型近似确定性计算机模型的研究》,载于:ASME 2003 des。工程技术确认计算。Inf.Eng.Conf,2003年,第1-10页。
[35] Sasena,M.J.,《使用克里金近似进行约束全局设计优化的灵活性和效率增强》,1-237(2002),密歇根大学。,http://citeseerx.ist.psu.edu/viewdoc/summary
[36] Oujebbour,M.H.F。;哈巴尔,A。;布莱特科普夫,P。;Villon,P.,Kriging代理CPU密集型钣金的演化多目标优化,国际J.Mater。表格,469-480(2015)
[37] 李,R。;Sudjianto,A.,《在高斯克里金模型中使用惩罚似然进行计算机实验的分析》,技术计量学ISSN,1706(2012)
[38] Rullière,D。;北卡罗来纳州杜兰德。;Bachoc,F。;Chevalier,C.,《大量观测数据集的嵌套克里金预测》,《统计计算》。,28, 849-867 (2018) ·Zbl 1384.62246号
[39] 高尔,T。;哈夫特卡,R.T。;害羞,W。;Queipo,N.V.,代理合奏,结构。多磁盘。最佳。,33, 199-216 (2007)
[40] 艾哈迈德,S。;贝拉里,I。;阿德哈夫,R。;Siddique,M.H。;Chon,B.-H。;Kenyery,F。;Samad,A.,《计算流体动力学和代理耦合进化计算在提高离心泵性能方面的应用》,《工程应用》。计算。流体力学。,10, 171-181 (2016)
[41] 维亚纳,F.A.C。;哈夫特卡,R.T。;Steffen,V.,《多重代理:交叉验证错误如何帮助我们获得最佳预测因子Struct》。多磁盘。最佳。,39, 439-457 (2009)
[42] Acar,E。;Rais-Rohani,M.,具有优化权重因子的元模型集成,结构。多磁盘。最佳。,37, 279-294 (2009)
[43] 宋,X。;Lv,L。;李,J。;Sun,W。;Zhang,J.,一种先进且稳健的集成代理模型:扩展自适应混合函数,J.机械。设计。事务处理。ASME,140,1-9(2018)
[44] Strömberg,N.,元模型最佳线性、仿射和凸组合的比较,工程优化。,1-18 (2020)
[45] 黄,D。;艾伦,T.T。;诺茨,W.I。;Zeng,N.,通过序列Kriging元模型对随机黑盒系统进行全局优化,J.Global Optim。,34, 441-466 (2006) ·邮编1098.90097
[46] Saleh,V.A.K。;阿扎尔姆,O.A.S。;Radermacher,R.,基于交叉验证的确定性计算机模拟克里格元建模实验的单响应自适应设计,Struct。多磁盘。最佳。,581-605 (2013)
[47] 舒,L。;江,P。;Wan,L。;周,Q。;邵,X。;Zhang,Y.,采用新型顺序抽样策略的基于元模型的设计优化,工程计算。,34, 2547-2564 (2017)
[48] 胡,J。;周,Q。;江,P。;邵,X。;Xie,T.,使用改进的层次克里格法的可变置信度代理模型的自适应采样方法,工程优化。,50, 145-163 (2018)
[49] Kyprioti,A.P。;张杰。;Taflanidis,A.A.,《通过交叉验证信息进行全局克里格元建模的自适应实验设计》,Struct。多磁盘。最佳。,1135-1157 (2020)
[50] 加博,A。;German,B.J.,《具有主动替代模型选择的交叉验证抽样策略的性能评估》,Struct。多磁盘。最佳。,59, 2257-2272 (2019)
[51] 张,L。;卢,Z。;Wang,P.,基于改进克里金模型的高效结构可靠性分析方法,应用。数学。型号。,39, 781-793 (2015) ·Zbl 1432.90050
[52] Haeri,A。;Fadaee,M.J.,使用高级克里格代理模型对层合复合材料进行有效可靠性分析,Compos。结构。,149, 26-32 (2016)
[53] 罗,Y。;Xing,J。;Kang,Z.,使用材料场级数展开和基于克里金算法的拓扑优化:一种有效的非梯度方法,计算。方法应用。机械。工程,364,第112966条pp.(2020)·Zbl 1442.74174号
[54] Stewart,G.W.,矩阵算法:第1卷:基本分解,Soc.Ind.应用。数学(1998)·Zbl 0910.65012号
[55] 贝茨,S.J。;西恩斯,J。;Toropov,V.V.,使用置换遗传算法制定最佳拉丁超立方体实验设计,(第45届AIAA/ASME/ASCE/AHS/ASC Struct.Struct.Dyn.Mater.Conf(2004)),5217-5223
[56] Loeppky,J.L。;Sacks,J。;Welch,W.J.,《选择计算机实验的样本量:实用指南》,《技术计量学》,51,366-376(2009)
[57] Jones,D.R。;Schonlau,M。;William,J.,昂贵黑盒函数的高效全局优化,J.global Optim。,455-492 (1998) ·Zbl 0917.90270号
[58] Katoch,S。;Chauhan,S.S。;Kumar,V.,《遗传算法的回顾:过去、现在和未来》,多媒体工具应用。(2021)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。