×

后帕累托分析和一种新的弹性网络参数优化调整算法。 (英语) 兹比尔1432.90136

小结:本文讨论了弹性网络问题的最优参数整定问题。这个过程被描述为Pareto集上的优化问题。Pareto集与一个凸多目标优化问题相关,基于标量化定理,我们给出了该问题的参数表示。因此,该问题成为一个具有唯一响应的二层优化问题(强Stackelberg对策)。然后,我们将此策略应用于弹性网络问题的参数调整。我们提出了一种新的算法,称为Ensalg公司计算弹性网的最优正则化路径。与现有算法相比,我们的方法还可以处理所谓的“一次多个”情况,即多个变量同时变为零和/或从零开始变化。在涉及实际数据的示例中,我们证明了该算法的有效性。

MSC公司:

90C29型 多目标规划
65千5 数值数学规划方法
90 C90 数学规划的应用
62J05型 线性回归;混合模型
90立方厘米 互补、平衡问题和变分不等式(有限维)(数学规划方面)

软件:

PMTK公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Kuhn,H.W.,Tucker,A.W.:非线性规划。摘自:《第二届伯克利数理统计与概率研讨会论文集》,第481-492页(1951年)
[2] 帕雷托,V.:《政治经济手册》。编辑学会图书馆(1906)
[3] F.Y.埃奇沃思:《数学心理学:数学在道德科学中的应用》。C.K.Paul&co,伦敦(1881)·Zbl 0005.17402号
[4] Philip,J.:向量最大化问题的算法。数学。程序。2(1), 207-229 (1972) ·Zbl 0288.90052号
[5] Benson,H.P.:有效集上的优化。数学杂志。分析。申请。98(2), 562-580 (1984) ·Zbl 0534.90077号
[6] Dauer,J.P.:使用主动约束方法对有效集进行优化。Zeitschrift für Oper公司。第35(3)号决议,185-195(1991)·兹比尔0734.90081
[7] Craven,B.D.:多准则优化的各个方面。《数学程序设计的最新发展》,第93-100页(1991年)·Zbl 0787.90077号
[8] Benson,H.P.:一种有限的、非相邻的极点搜索算法,用于有效集上的优化。J.优化。理论应用。73(1), 47-64 (1992) ·Zbl 0794.90048号
[9] Bolintinéanu,S.:弱有效集上非线性次优化的必要条件。J.优化。理论应用。78(2), 579-598 (1993) ·Zbl 0794.90049号
[10] Bolintinéanu,S.:有效集上拟压缩函数的最小化。数学。程序。61(1-3), 89-110 (1993) ·Zbl 0799.90100号
[11] Fülöp,János,有效集上线性优化的割平面算法,374-385(1994),柏林,海德堡·Zbl 0802.90088号
[12] Dauer,J.P.,Fosnaugh,T.A.:有效集上的优化。J.全球优化。7(3), 261-277 (1995) ·Zbl 0841.90107号
[13] An,L.T.H.,Tao,P.D.,Muu,L.D.:利用D.C.优化算法对有效集进行优化的数值解。操作。Res.Lett公司。19(3), 117-128 (1996) ·Zbl 0871.90074号
[14] Horst,R.,Thoai,N.V.:在有效集或弱有效集上最大化凹函数。欧洲药典。第117(2)号决议,239-252(1999)·Zbl 0998.90074号
[15] Horst,R.,Thoai,N.V.,Yamamoto,Y.,Zenke,D.:关于线性多准则规划中有效集的优化。J.优化。理论应用。134(3), 433-443 (2007) ·Zbl 1146.90062号
[16] Kim,N.T.B.,Ngoc,T.T.:双标准凸规划问题有效集上的优化。派克靴。J.优化。9(1), 103-115 (2013) ·Zbl 1269.90099号
[17] Yamamoto,Y.:有效集上的优化:概述。J.全球优化。22(1-4), 285-317 (2002) ·Zbl 1045.90061
[18] Bolintinéanu,S.:(弱或适当)有效集上最小化的最优性条件。数学杂志。分析。申请。173(2), 523-541 (1993) ·Zbl 0796.90044号
[19] Bonnel,H.,Kaya,C.Y.:多目标控制问题有效集的优化。J.优化。理论应用。147(1),93-112(2010)·兹比尔1205.49041
[20] Bonnel,H.,Pham,N.S.:线性二次多目标控制问题(弱或适当)Pareto集上的非光滑优化:显式最优性条件。J.Ind.管理。最佳方案。7(4), 789-809 (2011) ·Zbl 1258.90061号
[21] Bonnel,H.:多目标抛物线控制系统的事后分析。安·阿卡德。罗马尼亚科学。序列号。数学。申请。5(1-2), 13-34 (2013) ·Zbl 1284.90070号
[22] Bonnel,H.,Collonge,J.:与随机多目标优化问题相关的pareto集上的随机优化。J.优化。理论应用。162(2), 405-427 (2014) ·Zbl 1323.90044号
[23] Bonnel,H.,Collonge,J.:与凸双目标优化问题相关的Pareto结果集优化:理论结果、确定性算法和随机情况的应用。J.全球优化。62(3), 481-505 (2015) ·Zbl 1357.90128号
[24] Bonnel,H.,Morgan,J.:半向量双层优化问题:惩罚方法。J.优化。理论应用。131(3), 365-382 (2006) ·Zbl 1205.90258号
[25] Bonnel,H.:半向量双层优化问题的最优性条件。派克靴。J.优化。2(3), 447-468 (2006) ·Zbl 1124.90028号
[26] Ankhili,Z.,Mansouri,A.:具有线性向量优化下层的双层规划的精确惩罚。欧洲药典。第197(1)号决议,第36-41号决议(2009年)·Zbl 1157.90520号
[27] Bonnel,H.,Morgan,J.:半向量双层凸最优控制问题:存在性结果。SIAM J.控制优化。50(6), 3224-3241 (2012) ·Zbl 1279.49002号
[28] Eichfelder,G.:多目标双层优化。数学。程序。123(2), 419-449 (2010) ·Zbl 1198.90347号
[29] Zheng,Y.,Wan,Z.:半向量双层规划问题的罚函数解法。J.应用。数学。计算。37(1-2), 207-219 (2011) ·Zbl 1297.90131号
[30] 亨利·邦内尔(Henri Bonnel);Morgan,Jacqueline,半向量双层凸最优控制问题的最优性条件,45-78(2013),纽约·兹比尔1283.49042
[31] Dempe,S.,Gadhi,N.,Zemkoho,A.B.:半向量双层优化问题的新的最优性条件。J.优化。理论应用。157(1),54-74(2013)·Zbl 1266.90160号
[32] Bonnel,H.,Todjihoundé,L.,Udrište,C.:黎曼流形上的半向量双层优化。J.优化。理论应用。167(2), 464-486 (2015) ·Zbl 1329.49098号
[33] Zou,H.,Hastie,T.:通过弹性网进行正则化和变量选择。J.R.Stat.Soc.67(2),301-320(2005)·Zbl 1069.62054号
[34] Tibshirani,R.:通过套索进行回归收缩和选择。J.R.Stat.Soc.58(1),267-288(1996)·Zbl 0850.62538号
[35] Giesen,J.、Müller,J.K.、Laue,S.、Swiercy,S.:近似级联参数化优化问题。摘自:《神经信息处理系统进展》,第2114-2122页(2012年)
[36] Giesen,J.,Löhne,A.,Laue,S.,Schneider,C.:使用benson算法进行正则化参数跟踪。程序。AAAI会议。Artif公司。智力。33(01), 3689-3696 (2019)
[37] Efron,B.,Hastie,T.,Johnstone,I.,Tibshirani,T.:最小角度回归。Ann.Stat.32(2),407-499(2004)·Zbl 1091.62054号
[38] Rosset,S.,Zhu,J.:分段线性正则解路径。Ann.Stat.35(3),1012-1030(2007)·Zbl 1194.62094号
[39] Osborne,M.R.,Presnell,B.,Turlach,B.A.:最小二乘问题中变量选择的新方法。IMA J.数字。分析。20(3), 389-403 (2000) ·Zbl 0962.65036号
[40] Mairal,J.,Yu,B.:套索正则化路径的复杂性分析。摘自:国际机器学习会议(ICML),第353-360页(2012)
[41] Jahn,J.:向量优化:理论、应用和扩展。柏林施普林格出版社(2011)·Zbl 1401.90206号
[42] Luc,D.T.:向量优化理论。柏林施普林格(1989)
[43] Miettinen,K.:非线性多目标优化。柏林施普林格(1998)·Zbl 0949.90082号
[44] Murphy,K.P.:机器学习:概率观点。麻省理工学院出版社,剑桥(2012)·Zbl 1295.68003号
[45] Boyd,S.,Vandenberghe,L.:凸优化。剑桥大学出版社,剑桥(2004)·Zbl 1058.90049号
[46] Murty,K.G.:线性互补。互联网编辑,线性和非线性规划(1997)
[47] Hastie,T.、Tibshirani,R.、Friedman,J.:《统计学习的要素》。施普林格,纽约(2009)·Zbl 1273.62005年
[48] Peng,H.,Long,F.,Ding,C.:基于最大相关性、最大相关性和最小相关性的互信息准则的特征选择。IEEE传输。模式分析。机器。智力。27(8), 1226-1238 (2005)
[49] Stamey,T.、Kabalin,J.、McNeal,J.,Johnstone,I.、Freiha,F.、Redwine,E.、Yang,N.:前列腺癌诊断和治疗中的前列腺特异性抗原。II根治性前列腺切除术治疗的患者。J.乌罗尔。141(5),1076-1083(1989)
[50] Rockafellar,R.T.,Wets,R.J.B.:变分分析。施普林格,纽约(1998)·Zbl 0888.49001号
[51] Bonnans,J.F.,Shapiro,A.:优化问题的扰动分析。施普林格,纽约(2000年)·Zbl 0966.49001号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。