×

一类具有非光滑下层的双层优化和最优控制问题的基于梯度的求解算法。 (英语) Zbl 1432.49007号

摘要:本文的目的是探索第二类椭圆变分不等式灵敏度分析中出现的一种特殊的正则化效应。尽管问题本身包含不可微项,但这种效应使手边的变分不等式的解算子连续Fréchet可微。我们的分析特别表明,标准的基于梯度的算法可以用来解决由所考虑的所有类型的椭圆变分不等式所控制的双层优化和最优控制问题,而不需要正则化低层问题中的不可微项,也不必损失所需的解决方案,例如稀疏性。例如,我们的结果可以用于卡森流体的优化控制,以及全变分图像去噪模型中参数学习的双层优化方法。

MSC公司:

49J40型 变分不等式
49J52型 非平滑分析
49号45 最优控制中的逆问题
68平方英寸10 图像处理的计算方法
76级05 非牛顿流体
90立方厘米 互补、平衡问题和变分不等式(有限维)(数学规划方面)

软件:

凯利
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] R.A.Adams,Sobolev Spaces,学术出版社,纽约,1975年·Zbl 0314.46030号
[2] S.Adly和L.Bourdin,通过邻近算子的二次超微分和原微分对变分不等式进行灵敏度分析,SIAM J.Optim。,28(2018),第1699-1725页,https://doi.org/10.1137/17M1135013。 ·Zbl 1392.49015号
[3] H.Attouch、G.Buttazzo和G.Michaille,Sobolev和BV空间中的变分分析:在PDE和优化中的应用,第二版,MOS/SIAM Ser。最佳方案。17,费城SIAM,2014,https://doi.org/10.1137/1.9781611973488。 ·Zbl 1311.49001号
[4] A.Beck,《非线性优化导论:理论、算法和MATLAB应用》,MOS-SIAM Ser。最佳方案。费城SIAM,2014年,https://doi.org/10.1137/1.9781611973655。 ·Zbl 1320.90001号
[5] F.Benita、S.Dempe和P.Mehlitz,具有纯状态约束和有限维低层的双层最优控制问题,SIAM J.Optim。,26(2016),第564-588页,https://doi.org/10.1137/141000889。 ·Zbl 1339.49020号
[6] J.F.Bonnans和A.Shapiro,优化问题的扰动分析,Springer,柏林,2000年·Zbl 0966.49001号
[7] L.Calatroni、C.Chung、J.C.De los Reyes、J.Carlos、C.-B.Scho¨nlieb和T.Valkonen,变分成像模型学习的双层方法,收录于《变分方法:成像和几何控制》,M.Bergounioux等人编辑,《Radon Ser》。计算。申请。数学。18,De Gruyter,柏林,2017年,第252-290页·Zbl 1468.94014号
[8] C.Carstensen、B.D.Reddy和M.Schedensack,宾厄姆流动问题的自然非协调有限元法是准最优的,数值。数学。,133(2016),第37-66页·Zbl 1457.65186号
[9] Y.J.Chen、T.Pock和H.Bischof,基于学习的分析和合成稀疏性先验使用双层优化,第26届神经信息处理系统年会(NIPS 2012)海报会议,太浩湖,2012年。
[10] C.Christof,(L^\infty)-障碍物问题重访的误差估计,Calcolo,54(2017),第1243-1264页·Zbl 1393.65046号
[11] C.Christof,《第一类和第二类椭圆变分不等式的敏感性分析》,多特蒙德理工大学博士论文,2018年。
[12] C.Christof、J.C.De los Reyes和C.Meyer,局部Lipschitz函数的非光滑信赖域方法及其在变分不等式约束优化问题中的应用,预印本,https://arxiv.org/abs/1111.03208, 2018. ·兹比尔1446.49006
[13] C.Christof和C.Meyer,第二类(H_0^1)-椭圆变分不等式的灵敏度分析,集值变分分析。,27(2018),第469-502页,https://doi.org/10.1007/s11228-018-0495-2。 ·Zbl 1416.35036号
[14] C.Christof、C.Meyer、S.Walther和C.Clason,非光滑半线性椭圆方程的最优控制,数学。控制关系。Fields,8(2018),第247-276页·Zbl 1407.49026号
[15] C.Christof和G.Wachsmuth,局部Lipschitz连续解算子变分不等式的微分灵敏度分析,应用。数学。最佳。,出现;2019年1月10日在线发布·兹比尔1439.90068
[16] C.Chung、J.C.De los Reyes和C.-B.Schoínlieb,在全变分图像去噪中学习最佳空间相关正则化参数,反问题,33(2017),第1-31页·Zbl 1371.49018号
[17] M.B.Cohen、J.Diakonikolas和L.Orecchia,《关于噪声破坏梯度的加速》,第35届机器学习国际会议论文集(PMLR 80),瑞典斯德哥尔摩,2018年,第1019-1028页。
[18] A.R.Conn、N.Gould、A.Sartenaer和Ph.L.Toint,一类信赖域算法的全局收敛性,使用凸约束上的不精确投影进行优化,SIAM J.Optim。,3(1993),第164-221页,https://doi.org/10.1137/0803009。 ·Zbl 0806.9011号
[19] A.R.Conn、N.I.M.Gould和Ph.L.Toint,信托区域方法,MOS-SIAM Ser。最佳方案。1,SIAM,费城,2000年,https://doi.org/10.1137/1.9780898719857。 ·Zbl 0958.65071号
[20] J.C.De los Reyes,一类第二类变分不等式的最优控制,SIAM J.控制优化。,49(2011),第1629-1658页,https://doi.org/10.1137/090764438。 ·Zbl 1226.49008号
[21] J.C.De los Reyes,粘塑性材料流动中产生的混合变分不等式的优化,计算。最佳方案。申请。,52(2012),第757-784页·Zbl 1258.49010号
[22] J.C.De los Reyes和C.Meyer,一类由第二类变分不等式控制的优化问题的强平稳性条件,J.Optim。理论应用。,168(2016),第375-409页·Zbl 1337.49040号
[23] J.C.De los Reyes、C.-B.Schonlieb和T.Valkonen,高阶全变差正则化模型的双层参数学习,J.Math。《成像视觉》,57(2017),第1-25页·Zbl 1425.94010号
[24] E.J.Dean、R.Glowinski和G.Guidoboni,《宾厄姆粘塑性流动的数值模拟:新旧结果》,J.Non-Newton。流体力学。,142(2007),第36-62页·兹比尔1107.76061
[25] S.Dempe,双层规划问题的一个充要最优性条件,《最优化》,25(1992),第341-354页·Zbl 0817.90104号
[26] S.Dempe,双层规划基础,非凸优化。申请。2002年,纽约施普林格,第61页·Zbl 1038.90097号
[27] S.Dempe、J.Dutta和B.S.Mordukhovich,乐观双层规划中的新必要最优性条件,优化,56(2007),第577-604页·Zbl 1172.90481号
[28] S.Dempe、V.Kalashnikov、G.A.Peкrez-ValdeкS和N.Kalashnykova,《双层规划问题:能源网络的理论、算法和应用》,能源系统,柏林斯普林格-Verlag出版社,2015年·Zbl 1338.90005号
[29] S.Dempe和A.B.Zemkoho,非光滑双层优化中KKT重定式和最优性的必要条件,SIAM J.Optim。,24(2014),第1639-1669页,https://doi.org/10.1137/10917715。 ·兹比尔1327.90377
[30] S.Dempe和A.B.Zemkoho,双层规划问题:重整、约束条件和最优性条件,数学。程序。,138(2013),第447-473页·Zbl 1272.90086号
[31] P.Dvurechensky,复合非凸优化的不精确Oracle梯度法,预印本,https://arxiv.org/abs/1703.09180, 2017.
[32] I.Ekeland和R.Teímam,《凸分析和变分问题》,法文翻译,1976年英文版的更正重印,经典应用。数学。28,SIAM,费城,1999年,https://doi.org/10.1137/1.9781611971088。 ·Zbl 0939.49002号
[33] W.Forst和D.Hoffman,《优化-理论与实践》,施普林格大学本科生。数学课文。技术。,施普林格,纽约,2010年·Zbl 1211.90002号
[34] T.L.Friesz、R.L.Tobin、H.-J.Cho和N.J.Mehta,基于灵敏度分析的启发式算法,用于变分不等式约束的数学程序,数学。程序。,48(1990年),第265-284页·Zbl 0723.90070号
[35] R.Glowinski,《非线性变分问题数值方法讲座》,塔塔基础研究所,孟买,1980年·Zbl 0456.65035号
[36] M.Heinkenschloß和L.N.Vicente,不精确信任区域SQP算法分析,SIAM J.Optim。,12(2001),第283-302页,https://doi.org/10.1137/S1052623499361543。 ·Zbl 1035.90104号
[37] M.Hintermuöller和C.N.Rautenberg,加权全变分模型中正则函数的最优选择:第一部分:建模与理论,J.Math。《成像视觉》,59(2017),第498-514页·Zbl 1382.94015号
[38] M.Hintermuöller、C.N.Rautenberg、T.Wu和A.Langer,加权总变差模型中正则函数的最佳选择。第二部分:算法、算法分析和数值测试,数学杂志。《成像视觉》,59(2017),第515页-第533页·Zbl 1382.94016号
[39] M.Hintermuöller和T.M.Surowiec,关于第二类变分不等式解映射的方向可微性,集值Var.Ana。,26(2018),第631-642页·Zbl 1471.47039号
[40] M.Hintermuöller和T.Wu,盲反褶积中校准点扩散函数的双层优化,逆问题。《成像》,9(2015),第1139-1169页·Zbl 1343.49023号
[41] G.Holler、K.Kunisch和R.C.Barnard,反问题中参数学习的双层方法,反问题,34(2018),第1-28页·Zbl 1400.49046号
[42] R.R.Huilgol和Z.You,增广拉格朗日方法在宾厄姆、卡森和赫歇尔-巴克利流体定常管流中的应用,J.Non-Newton。流体力学。,128(2005),第126-143页·Zbl 1195.76024号
[43] C.T.Kelley,最优化迭代方法,前沿应用。数学。18,SIAM,费城,1999年,https://doi.org/10.1137/1.9781611970920。 ·Zbl 0934.90082号
[44] K.Kunisch和T.Pock,变分模型中参数学习的双层优化方法,SIAM J.成像科学。,6(2013),第938-983页,https://doi.org/10.1137/120882706。 ·Zbl 1280.49053号
[45] A.B.Levy,变分条件灵敏度分析的隐式多功能定理,数学。程序。,74(1996),第333-350页·Zbl 0864.49003号
[46] G.-H.Lin、M.Xu和J.J.Ye,关于用非凸低层程序求解简单二层程序,数学。程序。,144(2014),第277-305页·Zbl 1301.65050号
[47] P.Lindqvist,(text{div}(|\nablau|^{P-2}\nablau)=f\)随变量的解的稳定性,数学杂志。分析。申请。,127(1987),第93-102页·Zbl 0642.35028号
[48] P.Mehlitz,《对巴拿赫空间中互补性和双层规划的贡献》,博士论文,Bergakademie Freiberg理工大学,2017年·Zbl 1421.90141号
[49] P.Mehlitz,具有唯一下层解的一类特殊双层规划问题的必要最优性条件,《优化》,66(2017),第1533-1562页·Zbl 1421.90141号
[50] P.Mehlitz和G.Wachsmuth,广义双层规划和双层最优控制中的弱平稳性和强平稳性,《优化》,65(2016),第907-935页·Zbl 1367.90120号
[51] P.P.Mosolov和V.P.Miasnikov,粘塑性介质流动性理论中的变分方法,J.Appl。数学。机械。,29(1965年),第545-577页·Zbl 0168.45505号
[52] P.P.Mosolov和V.P.Miasnikov,《关于管道中粘性塑性介质的滞流区域》,PMM,30(1966),第705-717页(俄语);J.Appl.中的英文翻译。数学。机械。,30(1966年),第841-854页,https://doi.org/10.1016/0021-8928(66)90035-9. ·Zbl 0168.45601号
[53] P.P.Mosolov和V.P.Miasnikov,《关于管道中粘塑性介质流动的定性奇异性》,J.Appl。数学。机械。,31(1967年),第609-613页·Zbl 0236.76006号
[54] J.Nocedal和S.J.Wright,《数值优化》,第二版,Springer Ser。操作。Res.财务。工程师,施普林格,纽约,2006年·Zbl 1104.65059号
[55] P.Ochs,R.Ranftl,T.Brox和T.Pock,非光滑低层问题的双层优化,计算机视觉中的尺度空间和变分方法,计算讲义。科学。9087,施普林格,查姆,2015年,第654-665页·Zbl 1444.94018号
[56] G.Peyreí和J.Fadili,《学习分析稀疏性先验》,载于《第九届抽样理论与应用国际会议论文集》(Sampta’11),新加坡,2011年,https://hal.archives-ouvertes.fr/hal-00542016/。
[57] R.Pytlak,非凸优化中的共轭梯度算法,非凸最优化。申请。柏林斯普林格-Verlag 89号,2009年·Zbl 1171.49002号
[58] A.-T.Rauls和G.Wachsmuth,障碍问题解算子的广义导数,集值变量分析。,出现;2019年2月7日在线发布。
[59] R.T.Rockafellar和R.J.-B.Wets,变分分析,格兰德伦数学。威斯。317,柏林施普林格,1998年·Zbl 0888.49001号
[60] M.Ruzicka,《Nichtlineare功能分析》,施普林格出版社,柏林,2004年·Zbl 1043.46002号
[61] C.Sabett、A.Hafftka、K.Sexton和R.G.Spencer,(L_1、L_p、L_2),以及磁共振弛豫测量中高斯分量分布正则化的弹性净惩罚,概念杂志,46A(2017),e21427。
[62] E.W.Sachs,扰动优化问题算法的收敛性,Ann.Oper。研究,27(1990),第311-341页·Zbl 0721.90080号
[63] M.Solodov,双层凸优化的显式下降法,J.凸分析。,14(2007)第227-237页·Zbl 1145.90081号
[64] S.Vaiter、G.Peyre、C.Dossal和J.Fadili,稳健稀疏分析正则化,IEEE Trans。通知。《理论》,59(2013),第2001-2016页·Zbl 1364.94172号
[65] L.Vicente、G.Savard和J.Juídice,二次双层规划的下降方法,J.Optim。理论应用。,81(1994),第379-399页·兹伯利0819.90076
[66] 许明义,吴淑英,叶建杰,用平滑投影梯度法求解半无限规划,计算。最佳方案。申请。,59(2014),第591-616页·Zbl 1308.65101号
[67] 叶俊杰,双层规划问题的约束条件和KKT条件,数学。操作。研究,31(2006),第811-824页·Zbl 1278.90437号
[68] 叶俊杰和叶晓云,变分不等式约束优化问题的必要最优性条件,数学。操作。Res.,22(1997),第977-997页·Zbl 1088.90042号
[69] Ye J.和D.Zhu,结合MPEC和值函数方法的双层规划的新必要最优性条件,SIAM J.Optim。,20(2010),第1885-1905页,https://doi.org/10.1137/080725088。 ·Zbl 1279.90187号
[70] 叶俊杰、朱德良,双层规划问题的最优性条件,最优化,33(1995),第9-27页·Zbl 0820.65032号
[71] H.Zou和T.Hastie,《通过弹性网进行正则化和变量选择》,J.R.Stat.Soc.Ser。B.统计方法。,67(2005),第301-320页·Zbl 1069.62054号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。