×
埃米尔·贝克

求解双边单纯形约束极小化问题的二坐标下降法。 （英语） Zbl 1312.90058号

J.优化。理论应用。 162，第3期，892-919（2014）.
作者考虑了以下最小化问题：\[f（x）~\longmapsto~\分钟\]从属于\[\sum_{j=1}^nx_j=K，\，l_j\leqx_j\LEqu_j，~j=1，\点，n，\]其中，\（f:\mathbb R^n~\longmapsto~\mathbbR）是一个具有Lipschitz连续梯度的连续可微函数，并且\（l_j，~u_j）可以是实函数或无穷函数。提出了两坐标下降法的几种变体来解决这个问题。建立了一般非凸函数的稳定点收敛性。在凸目标函数、变量的下界（l_j）和上界均不存在的情况下，证明了一个次线性收敛速度。本文的最后一部分将通过数值算例来验证该方法的有效性。
审核人：卡雷尔·齐默尔曼（普拉哈）

引用于11文件

MSC公司：

90C26型 非凸规划，全局优化
90立方 非线性规划

关键词：

非凸优化;simplex类型约束;块下降法;收敛速度

软件：

GPDT公司;CVX公司;配置文件_QP;SeDuMi公司;伦敦银行支持向量机;SVM灯
PDF格式BibTeX公司 XML格式引用
\textit{A.Beck}，J.Optim。理论应用。162，第3号，892--919（2014；Zbl 1312.90058）
全文： 内政部

参考文献：

[1] Bertsekas，D.P.，Tsitsiklis，J.N.：并行和分布式计算。Prentice-Hall，Englewood Cliffs（1989）·Zbl 0743.65107号
[2] Ortega，J.M.，Rheinboldt，W.C.：多元非线性方程的迭代解。纽约学术出版社（1970）·Zbl 0241.65046号
[3] Auslander，A.：无差别功能的组合和最小化方法。数字。数学。18, 213-223 (1971/72) ·Zbl 0215.27504号 ·doi:10.1007/BF01397082
[4] 澳大利亚银行：乐观。Méthodes Numériques，数学与应用基金会。巴黎马森（1976）·Zbl 0326.90057号
[5] Auslander，A.，Martinet，B.：将产品功能最小化的设计方法。C.R.学院。科学。巴黎。A-B 274，A632-A635（1972）·Zbl 0237.49020号
[6] Bertsekas，D.P.：非线性规划，第二版。雅典娜科学，贝尔蒙特（1999）·Zbl 1015.90077号
[7] Cassioli，A.，Lorenzo，D.D.，Sciandone，M.：关于约束优化的非精确块坐标下降方法的收敛性。欧洲药典。第231（2）号决议，274-281（2013）·Zbl 1317.90275号 ·doi:10.1016/j.ejor.2013.05.049
[8] Cassioli，A.，Sciandone，M.：箱约束优化问题的收敛分解方法。最佳方案。莱特。3(3), 397-409 (2009) ·Zbl 1170.90485号 ·doi:10.1007/s11590-009-0119-8
[9] Grippo，L.，Sciandrone，M.：无约束优化的全局收敛块坐标技术。最佳方案。方法软件。10, 587-637 (1999) ·Zbl 0940.65070号 ·doi:10.1080/10556789908805730
[10] Luo，T.，Tseng，P.：可行下降法的误差界和收敛性分析：一种通用方法。安·Oper。推理。46157-178（1993年）·Zbl 0793.90076号 ·doi:10.1007/BF02096261
[11] 鲍威尔，M.J.D.：关于最小化算法的搜索方向。数学。程序。4, 193-201 (1973) ·Zbl 0258.90043号 ·doi:10.1007/BF01584660
[12] Luo，T.，Tseng，P.：关于凸可微极小化的坐标下降法的收敛性。J.优化。理论应用。(1992) ·Zbl 0795.90069号
[13] Polak，E.，Sargent，R.W.H.，Sebastian，D.J.：关于序列最小化算法的收敛性。J.优化。理论应用。14, 439-442 (1974) ·兹比尔0281.65044 ·doi:10.1007/BF00933310
[14] Sargent，R.W.H.，Sebastian，D.J.：关于序列最小化算法的收敛性。J.优化。理论应用。12, 567-575 (1973) ·Zbl 0253.65037号 ·doi:10.1007/BF00934779
[15] Tseng，P.，Yun，S.：非光滑可分离最小化的坐标梯度下降法。数学。程序。117, 387-423 (2009) ·兹比尔1166.90016 ·doi:10.1007/s10107-007-0170-0
[16] Nesterov，Y.：坐标下降法在大规模优化问题上的效率（2010年）。核心讨论文件2010/2·Zbl 1257.90073号
[17] Beck，A.，Terameshvili，L.：关于块坐标下降型方法的收敛性。SIAM J.Optim公司。23(2), 2037-2060 (2013) ·Zbl 1297.90113号 ·数字对象标识代码：10.1137/120887679
[18] Burges，C.J.C.：模式识别支持向量机教程。数据最小知识。迪斯科。2, 121-167 (1998) ·doi:10.1023/A:1009715923555
[19] 普拉特，J.C。；Scholkopf，B.（编辑）；Burges，C.J.C.（编辑）；Smola，A.J.（编辑），《序列最小优化：训练支持向量机的快速算法》，185-208（1999），剑桥
[20] Keerthi，S.，Gilbert，E.：支持向量机广义SMO算法的收敛性。机器。学习。46, 351-360 (2002) ·Zbl 0998.68109号 ·doi:10.1023/A:1012431217818
[21] Keerthi，S.S.、Shevade，S.K.、Bhattacharyya，C.、Murthy，K.R.K.：改进Platt的SMO算法，用于SVM分类器设计。神经计算。13(3), 637-649 (2001) ·Zbl 1085.68629号 ·doi:10.11162/08976601300014493
[22] Joachims，T。；Scholkopf，B.（编辑）；Burges，C.J.C.（编辑）；Smola，A.J.（编辑），《使大规模SVM学习实用化》，169-184（1999），剑桥
[23] Lin，C.J.：关于支持向量机分解方法的收敛性。IEEE传输。神经网络。1288-1298年12月（2001年）·Zbl 1012.94501号
[24] Lin，C.J.：无任何假设的SMO算法的渐近收敛性。IEEE传输。神经网络。13, 248-250 (2002)
[25] Palagi，L.，Sciandone，M.：关于修正版本的（rm\text{SVM}^{text{light}}）算法的收敛性。最佳方案。方法软件。20(2-3), 317-334 (2005) ·Zbl 1072.90042号 ·doi:10.1080/105567805123318209
[26] Lucidi，S.，Palagi，L.，Risi，A.，Sciandrone，M.：一种用于SVM训练的收敛混合分解算法模型。IEEE传输。神经网络。20(6), 1055-1060 (2009)
[27] Lin，C.J.，Lucidi，S.，Palagi，L.，Risi，A.，Sciandone，M.：受上下界约束的单线性约束问题的分解算法模型。J.优化。理论应用。141(1), 107-126 (2009) ·Zbl 1168.90556号 ·doi:10.1007/s10957-008-9489-9
[28] Lucidi，S.、Palagi，L.、Risi，A.、Sciandone，M.：支持向量机的收敛分解算法。计算。最佳方案。申请。38(2), 217-234 (2007) ·Zbl 1172.90443号 ·数字对象标识代码：10.1007/s10589-007-9044-x
[29] Chen，P.H.，Fan，R.E.，Lin，C.J.：使用二阶信息训练支持向量机的工作集选择。J.马赫。学习。1889-1918年第6号决议（2005年）·Zbl 1222.68198号
[30] Glasmachers，T.、Igel，C.：SVM的最大增益工作集选择。J.马赫。学习。第7号决议，1437-1466（2006）·Zbl 1222.90040号
[31] Chang，C.C.，Hsu，C.W.，Lin，C.J.：支持向量机分解方法的分析。IEEE传输。神经网络。11, 1003-1008 (2000)
[32] Dai，Y.H.，Fletcher，R.：受上下界约束的单线性约束二次规划的新算法。数学。程序。，序列号。A 106（3），403-421（2006）·Zbl 1134.90030号 ·doi:10.1007/s10107-005-0595-2
[33] Serafini，T.、Zanghirati，G.、Zanni，L.：二次规划的梯度投影方法及其在训练支持向量机中的应用。最佳方案。方法软件。20, 353-378 (2005) ·Zbl 1072.90026号 ·doi:10.1080/105567805123318182
[34] Tseng，P.，Yun，S.：用于线性约束平滑优化和支持向量机训练的坐标梯度下降方法。计算。最佳方案。申请。47(2), 179-206 (2010) ·Zbl 1226.90062号 ·doi:10.1007/s10589-008-9215-4
[35] Liuzzi，G.，Palagi，L.，Piacentini，M.：关于单线性约束问题的Jacobi型算法的收敛性。最佳方案。莱特。5(2), 347-362 (2011) ·Zbl 1242.90238号 ·doi:10.1007/s11590-010-0214-x
[36] Markowitz，H.：投资组合选择。《金融杂志》7，77-91（1952）
[37] Bomze，I.M.：走向最大集团的进化。J.全球。最佳方案。10(2), 143-164 (1997) ·兹伯利0880.90110 ·doi:10.1023/A:1008230200610
[38] Xu，S.，Freund，R.M.，Sun，J.：最小围圆问题的求解方法。计算。最佳方案。申请。25(1-3), 283-292 (2003). 向以利亚（卢西恩）·波拉克致敬·Zbl 1038.90080号 ·doi:10.1023/A:1022977709811
[39] Lin，C.J.：支持向量机分解方法停止准则的形式化分析。IEEE传输。神经网络。13（5），1045-1052（2002）
[40] Hush，D.，Scovel，C.：支持向量机的多项式时间分解算法。机器。学习。51(1), 51-71 (2003) ·Zbl 1056.68118号 ·doi:10.1023/A:1021877911972
[41] 贝克，A。；特布尔，M。；Eldar，Y.（编辑）；Palomar，D.（编辑），基于梯度的算法及其在信号恢复问题中的应用（2010年），剑桥·Zbl 1211.90290号
[42] Nesterov，Y.：凸优化入门讲座。Kluwer，波士顿（2004）·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9
[43] Polyak，B.T.：优化导论。数学与工程翻译系列，优化软件，纽约（1987）·Zbl 0708.90083号
[44] Chen，P.H.，Fan，R.E.，Lin，C.J.：支持向量机的SMO型分解方法研究。IEEE传输。神经网络。17(4), 893-908 (2006)
[45] Grant，M.，Boyd，S.：CVX:规范凸规划的Matlab软件，1.21版。http://cvxr.com/cvx (2011)
[46] Sturm，F.J.：使用SeDuMi 1.02，一个用于对称锥体优化的Matlab工具箱。最佳方案。方法软件。11-12, 625-653 (1999) ·Zbl 0973.90526号 ·doi:10.1080/10556789908805766
[47] Chang，C.C.，Lin，C.J.：LIBSVM数据：分类、回归和多标签。网址：http://www.csie.ntu.edu.tw/cjlin/libsvmtools/datasets/·Zbl 1072.90026号
[48] Chang，C.C.，Lin，C.J.:LIBSVM：支持向量机库。ACM事务处理。智力。系统。Technol公司。2(3), 1-27 (2011). 软件可在网址：http://www.csie.ntu.edu.tw/cjlin/libsvm·数字对象标识代码：10.1145/1961189.1961199
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。