×

多目标回归问题的集成自适应树链框架。 (英语) Zbl 07764382号

摘要:多目标回归在工程应用中一直是一项具有挑战性的任务。然而,在某些情况下,很容易遇到精度低和鲁棒性不足等问题。为了解决这些问题,提出了一种考虑相关性的集成策略,称为基于树的集成自适应相关链。具体地说,提出了一种后续相关链策略,该策略通过安排L1相关范数来量化目标之间的关系。与其他相关策略相比,它允许通过单个回归链来表示这些关系。在该框架下,集成策略集成了10条链,每条链在训练过程中自适应地更新样本权重。该过程涉及使用具有新收敛准则的样本外观测值。此外,引入极限梯度升压作为基本回归因子,以提高整个方法的整体精度。最后,基于25个多目标数据集和高速铁路转向架的轻量化设计,验证了所提出的方法。结果表明,与其他最先进的方法相比,该方法具有更高的准确性和鲁棒性。总的来说,本研究为特定场景提供了可靠的预测,并对解决相关问题具有实际意义。

MSC公司:

62至XX 统计
68倍 计算机科学
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 博尔查尼,H。;瓦兰多,G。;Bielza,C.,关于多产出回归的调查[J],Wiley Interdiscip。版本:数据挖掘知识。发现。,5, 5, 216-233 (2015)
[2] 尹,J。;宁,C。;Tang,T.,高速铁路列车控制动力学的数据驱动模型:用于列车轨道预测的LAG-LSTM[J],Inf.Sci。,600, 377-400 (2022)
[3] 高,P。;Wang,Y。;彭毅,带辅助环节动力学的复杂动态网络节点跟踪控制[J],Inf.Sci。,628, 350-359 (2023)
[4] 方,J。;Sun,G。;邱,N.,关于结构耐撞性的设计优化及其现状[J],结构。多磁盘。最佳。,55, 3, 1091-1119 (2017)
[5] Wang,H。;李·G。;李毅,基于时间的汽车耐撞性优化元建模技术[J],计算。方法应用。机械。工程,199,37-40,2497-2509(2010)·Zbl 1231.74356号
[6] 阿霍·T。;朱恩科,B。;Dízeroski,S.,带规则集合的多目标回归[J],J.Mach。学习。决议,13,8(2012年)·Zbl 1433.68321号
[7] 马斯穆迪,S。;Elghazel,H。;Taieb,D.,通过多目标回归和特征选择预测多种空气污染物浓度的机器学习框架[J],科学。总环境。,715,第136991条pp.(2020)
[8] 科切夫,D。;季洛斯基,S。;怀特,M.D.,使用单目标和多目标回归树和集合来建模植被状况的复合指数[J],生态。型号。,220, 8, 1159-1168 (2009)
[9] D Kuznar,M Mozina,I Bratko。基于核回归的曲线预测;第一届多标签数据学习研讨会论文集,F,2009[C]。
[10] G Tsoumakas,E Spyromitros-Xioufis,A Vrekou,等,基于随机线性目标组合的多目标回归;《数据库中的机器学习和知识发现》,柏林,海德堡,F 2014//,2014[C]。施普林格-柏林-海德堡。
[11] Spyromitros-Xioufis,E。;Tsoumakas,G。;Groves,W.,通过输入空间扩展的多目标回归:将目标视为输入[J],Mach。学习。,104, 1, 55-98 (2016) ·兹比尔1454.68134
[12] Breiman,L.,随机森林[J],马赫。学习。,45, 1, 5-32 (2001) ·Zbl 1007.68152号
[13] Wang,A.X。;楚科娃,S.S。;Nguyen,B.P.,基于质心位移的集合k近邻[J],Inf.Sci。,629, 313-323 (2023)
[14] 何,P。;Wen,J。;Stojanovic,V.,离散时间半马尔可夫跳跃线性系统的有限时间控制:自触发MPC方法[J],J.Franklin Inst.,359,13,6939-6957(2022)·Zbl 1496.93042号
[15] 宋,X。;Wu,N。;Song,S.,针对DoS攻击的反应扩散神经网络的类开关事件触发状态估计[J],神经过程。莱特。,1-22 (2023)
[16] Wan,H。;卢安,X。;Stojanovic,V.,离散时间Markov跳跃系统的自触发有限时间控制[J],信息科学。,634, 101-121 (2023)
[17] Melki,G。;卡诺,A。;Kecman,V.,通过相关回归元链进行多目标支持向量回归[J],Inf.Sci。,415, 53-69 (2017) ·Zbl 1443.62160号
[18] 赵,G。;Zhang,Y。;张刚,脑电信号多目标正性情绪识别[J],IEEE Trans。影响。计算。,14, 1, 370-381 (2023)
[19] B Gurunlu,S Ozturk。基于块的复制-移动伪造检测的有效方法;《计算和通信智能趋势汇编:2021年SmartCom汇编》,F,2022年[C]。斯普林格。
[20] 达席尔瓦,B.L.S。;Inaba,F.K。;Salles,E.O.T.,多目标回归的离群鲁棒极端机器学习[J],专家系统。申请。,140,第112877条pp.(2020)
[21] Xin,X。;Tu,Y。;Stojanovic,V.,连续时间Markov跳跃线性系统的在线强化学习多层非零和对策[J],应用。数学计算。,412,第126537条pp.(2022)·Zbl 1510.91006号
[22] 伊巴古伦,I。;佩雷斯,J.M。;Muguerza,J.,《PCTBagging:从内部合奏到合奏》。区分能力和可解释性之间的权衡[J],《信息科学》。,583, 219-238 (2022)
[23] T Chen,C Guestrin.Xgboost:一个可扩展的树增强系统;第22届acm sigkdd国际知识发现和数据挖掘会议论文集,F,2016[C]。
[24] 李,C。;朱,D。;胡,C.,ECDX:基于距离相关和XGBoost的边缘数据中心能耗预测模型[J],信息科学。,643,第119218条pp.(2023)
[25] K皮尔逊。七、。数学对进化论的贡献-三、 回归、遗传与混血[J]。伦敦皇家学会哲学汇刊A辑,包含数学或物理性质的论文,1896年,(187):253-318。https://doi.org/10.1098/rsta.1989.007。
[26] Benesty,J。;陈,J。;Huang,Y.,Pearson相关系数[M],语音处理中的降噪。斯普林格。,1-4 (2009:)
[27] H德鲁克。使用boosting技术改进回归变量;ICML会议记录,F,1997[C]。Citeser·Zbl 0932.68074号
[28] Shi,K。;乔,Y。;Zhao,W.,一种改进的短期风力预测随机森林模型,以提高准确性、效率和鲁棒性[J],风能,21,12,1383-1394(2018)
[29] 鲍尔曼。不变性、因果性和稳健性[J]。2020https://doi.org/10.1214/19-STS721。 ·Zbl 07292527号
[30] Nagelkerke,N.J.,关于决定系数一般定义的注释[J],生物统计学,78,3,691-692(1991)·Zbl 0741.62069号
[31] Refaeilzadeh,P。;Tang,L。;刘华,交叉验证[J],Encycl。数据库系统。,5, 532-538 (2009)
[32] R Abernethy、R Benedict、R Dowdell。ASME测量不确定度[J]。1985
[33] Sehwag,V。;王,S。;Mittal,P.,Hydra:修剪对抗性鲁棒神经网络[J],高级神经信息处理。系统。,33, 19655-19666 (2020)
[34] T Strauss,M Hanselmann,A Junginger,et al.针对深层神经网络对抗对抗性扰动的集成方法[J]。arXiv预印arXiv:1709034232017。https://doi.org/10.48550/arXiv.1709.03423。
[35] 王,S。;胡,X。;Sun,J.,使用集成和稳健协作表示的高光谱异常检测[J],Inf.Sci。,624, 748-760 (2023)
[36] Mauri,L。;阿波罗尼,B。;Damiani,E.,通过训练数据的风险驱动反聚类实现稳健ML模型集成[J],Inf.Sci。,633, 122-140 (2023)
[37] L Grinsztajn,E Oyallon,G Varoqueux。为什么基于树的模型在表格数据上仍优于深度学习?[J] ●●●●。arXiv预印本arXiv:2207088152022。
[38] L Breiman,J Friedman,R Olshen,et al.分类与回归树[J]。1984https://doi.org/10.1002/widm.8。 ·Zbl 0541.62042号
[39] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,广义线性模型通过坐标下降的正则化路径[J],J.Stat.Softw。,33, 1, 1 (2010)
[40] Hadavandi,E。;沙赫拉比,J。;Shamshirband,S.,用于建模多目标回归问题的新型Boosted-neural网络集成[J],工程应用。Artif公司。英特尔。,45, 204-219 (2015)
[41] 布兰克,J。;Deb,K.,Pymoo:python中的多目标优化[J],IEEE Access,8,89497-89509(2020)
[42] Tsoumakas,G。;Spyromitros-Xioufis,E。;Vilcek,J.,Mulan:用于多标签学习的java库[J],J.Mach。学习。第12号决议,2411-2414(2011)·Zbl 1280.68207号
[43] 皮卡德,C。;Schiffmann,J.,设计中的现实约束多目标优化基准问题[J],IEEE Trans。进化。计算。,25, 2, 234-246 (2020)
[44] 米纳斯尼,B。;McBratney,A.B.,存在辅助信息的条件拉丁超立方体采样方法[J],计算。地质科学。,32, 9, 1378-1388 (2006)
[45] 弗里德曼,M.,《M排名问题重要性的替代测试比较》[J],《数学年鉴》。统计,11,1,86-92(1940)
[46] Nemenyi,P.B.,无分布多重比较[M](1963),普林斯顿大学
[47] Smola,A.J。;Schölkopf,B.,支持向量回归教程[J],统计计算。,14, 3, 199-222 (2004)
[48] Li,M。;Wang,Z.,基于可靠性的设计优化的替代模型不确定性量化[J],Reliab。工程系统。安全。,192,第106432条pp.(2019)
[49] 邱,N。;高,Y。;Fang,J.,基于替代模型和数值误差的不确定性耐撞性优化[J],薄壁结构。,129, 457-472 (2018)
[50] Deb,K。;普拉塔普,A。;阿加瓦尔,S.,一种快速的精英多目标遗传算法:NSGA-II[J],IEEE Trans。埃沃。计算。,6, 2, 182-197 (2002)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。