×

无导数优化:原理和算法。 (英语) Zbl 1494.65040号

摘要:优化方法旨在处理约束最小化问题的输入数据,即目标函数和一组约束。然而,它是基于一种反模式的思维方式,这种思维方式导致了约束最小化方法。它不采用无约束最小化算法来处理约束,而是采用可行性搜索算法来减少(不一定最小化)目标函数值。这是通过在可行性搜索算法中插入减少扰动的目标函数来实现的,同时保持其可行性搜索能力,并且不需要付出高昂的计算代价。提出了一种采用组件式目标函数约简步骤的优化算法。这实现了无导数优化(DFS),这意味着优化可以应用于没有可计算偏导数或次梯度的目标函数。我们的无导数优势化算法的数值行为在通过模拟投影图像重建问题生成的数据集上进行了说明。我们提供了一个工具(我们称之为邻近目标曲线)用于确定两种迭代方法中哪一种对于解决特定问题“更好”。实验的邻近目标曲线图证明了所提出的无导数优化算法的优势。

MSC公司:

65千5 数值数学规划方法
90 C56 无导数方法和使用广义导数的方法

软件:

多最小值
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Audet,C.,Dennis,Jr.,J.E.:无导数非线性规划的渐进障碍。SIAM J.Optim公司。20, 445-472 (2009) ·Zbl 1187.90266号
[2] Audet,C.,Hare,W.:无导数和黑盒优化。施普林格国际出版公司,Cham(2017)·Zbl 1391.90001号
[3] Bargetz,C.、Reich,S.、Zalas,R.:存在扰动时动态字符串平均投影方法的收敛性。数字。算法。77, 185-209 (2018) ·Zbl 1459.47023号
[4] Butnariu,D.,Reich,S.,Zaslavski,A.J.:收敛到Banach空间中Bregman单调非扩张算子的不精确轨道的不动点。摘自:《不动点理论及其应用学报》,墨西哥,第11-32页(2006年)·Zbl 1116.47052号
[5] Cegielski,A.:希尔伯特空间中不动点问题的迭代方法。柏林施普林格出版社(2012)·兹比尔1256.47043
[6] Cegielski,A.,Al-Musallam,F.:液位控制的优化。反向探测。33, 044009 (2017) ·Zbl 1366.65060号
[7] Censor,Y.:弱优势和强优势:在可行性搜索和最小化之间。分析。污点。奥维德大学。施工-序列号。材料23、41-54(2015)·Zbl 1349.90675号
[8] Censor,Y.:算法的叠加和扰动弹性:一本汇编并不断更新的书目http://math.haifa.ac.il/yair/bib-superiorization-censor.html,上次更新日期:2020年10月27日(2020)
[9] Censor,Y.,Cegielski,A.:投影方法:书籍和评论的注释书目。优化64,2343-2358(2015)·Zbl 1328.65001号
[10] Censor,Y.,Heaton,H.,Schulte,R.W.:无导数优化与分量扰动。数字。算法。80, 1219-1240 (2019) ·Zbl 07042047号
[11] Censor,Y.,Herman,G.T.,Jiang,M.(编辑):《叠加:理论与应用》特刊。反问题。33, 040301-044014 (2017) ·Zbl 1365.00030号
[12] Censor,Y.,Levy,E.:通过测量集中原则分析优势化方法。应用数学与优化。doi:10.1007/s00245-019-09628-4(2019)·Zbl 07371841号
[13] Censor,Y.,Zaslavski,A.:通过优化可行搜索投影方法,严格Fejér单调性。J.优化。理论应用。165, 172-187 (2015) ·Zbl 1322.90063号
[14] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化简介。工业和应用数学学会(SIAM)(2009年)·Zbl 1163.49001号
[15] Cooley,T.A.,Barrett,H.H.:通过ROC分析评估图像重建的统计方法。IEEE传输。医学成像11,276-282(1992)
[16] Davidi,R.,Garduño,E.,Herman,G.T.,Langthaler,o.,Rowland,S.W.,Sardana,S.,Ye,Z.:SNARK14:从1D投影重建2D图像的编程系统,可从http://turing.iimas.unam.mx/SNARK14M/SNARK14.pdf (2019)
[17] Diniz-Ehrhardt,M.,Martínez,J.,Pedroso,L.:一般低层约束非线性规划的无导数方法。计算。申请。数学。30, 19-52 (2011) ·Zbl 1222.90060号
[18] Echeverría Ciaurri,D.,Isebor,O.,Durlosky,L.:无导数方法在一般约束石油生产优化问题中的应用。Procedia计算。科学。1, 1301-1310 (2012)
[19] Engl,H.W.,Hanke,M.,Neubauer,A.:反问题的正则化。Kluwer学术出版社(2000)·Zbl 0859.65054号
[20] Fletcher,R.,Leyfer,S.:无罚函数的非线性规划。数学。程序。序列号。A 91,239-269(2002)·Zbl 1049.90088号
[21] Garduño,E.,Herman,G.T.:ML-EM算法的优化。IEEE传输。核科学。61, 162-172 (2014)
[22] Garduño,E.,Herman,G.T.:全变差和剪切波的计算机断层扫描。反向探测。33, 044011 (2017) ·Zbl 1367.92060号
[23] Gay,H.A.,Niemierko,A.:一个免费程序,用于计算体外放射治疗中基于EUD的NTCP和TCP。《物理医学》23,115-25(2007)
[24] He,H.,Xu,H.K.:平均映射的扰动弹性和优化方法。反向探测。33, 044007 (2017) ·兹比尔1366.65061
[25] Herman,G.T.:《计算机层析成像基础:投影图像重建》,第二版,柏林斯普林格出版社(2009)·Zbl 1280.92002年
[26] Herman,G.T.:迭代重建技术及其在Radon变换反演中的优势。收录:Ramlau,R.,Scherzer,O.(编辑)《氡转化:前100年及其后》,第217-238页。德格鲁伊特(2019)·Zbl 1459.44002号
[27] Herman,G.T.:优势化理论和实践中的问题结构。J.应用。数字。最佳方案。2, 71-76 (2020)
[28] Herman,G.T.、Garduño,E.、Davidi,R.、Censor,Y.:高级化:医学物理的优化启发式。医学物理。39, 5532-5546 (2012)
[29] Hoseini,M。;Saeidi,S。;Kim,DS,关于次微分函数的最小化或优化扰动混合最速下降法,Numer。算法。,85, 353-374 (2020) ·Zbl 1514.47096号 ·doi:10.1007/s11075-019-00818-3
[30] Kaczmarz,S.:Angenäherte Auflösung von Systemen直系亲属Gleichungen。项目符号。阿尔卡特。波隆。科学。莱特。A35、355-357(1937)
[31] Kolda,T.,Lewis,R.,Torczon,V.:直接搜索优化:一些经典和现代方法的新观点。SIAM第45版,385-482(2003)·Zbl 1059.90146号
[32] Li,L.,Chen,Y.,Liu,Q.,Lazic,J.,Luo,W.,Li,Y.:针对单目标应用对MATLAB无导数优化程序进行基准测试和评估。作者:Huang,D.S.,Jo,K.H.,Figueroa-Garcia,J.(编辑)《智能计算理论与应用》。ICIC 2017,第75-88页。施普林格(2017)
[33] Luo,S.,Zhang,Y.,Zhou,T.,Song,J.:基于近点方法的优化迭代及其在XCT图像重建中的应用。ArXiv电子版,ArXiv:1608.03931(2016)
[34] Luo,S.,Zhang,Y.,Zhou,T.,Song,J.,Wang,Y.:XCT图像重建的改进优化迭代和理论分析。优化方法和软件,doi:10.1080/10556788.2018.1560442(2019)·Zbl 1466.94007号
[35] Metz,C.E.:放射ROC研究中实验设计和数据分析的一些实际问题。投资。无线电。24, 234-243
[36] Nikazad,T.、Davidi,R.、Herman,G.T.:加速扰动弹性块迭代投影方法及其在图像重建中的应用。反向探测。28, 035005 (2012) ·Zbl 1261.94014号
[37] Nystrom,H.,Jensen,M.F.,Nystrom.,P.W.:质子治疗的治疗计划:未来10年需要什么?英国。J.无线电。93(1107), 20190304. doi:10.1259/bjr.20190304(2020)
[38] Reich,S.,Zalas,R.:Hilbert空间中拟非扩张映射公共不动点问题的模串平均过程。数字。算法。72, 297-323 (2016) ·Zbl 1348.47065号
[39] Reich,S.,Zaslavski,A.J.:近似解的收敛性和迭代算法的扰动弹性。反问题。33, 044005 (2017) ·Zbl 1456.47030号
[40] Rios,L.M.,Sahinidis,N.V.:无导数优化:算法综述和软件实现比较。J.全球。最佳方案。56, 1247-1293 (2013) ·兹比尔1272.90116
[41] Swets,J.A.:ROC分析应用于医学成像技术评估。投资。无线电。14, 109-112 (1979)
[42] Zaslavski,A.J.:解决常见不动点问题的算法。施普林格国际出版公司(2018)·Zbl 1447.47012号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。