×

关于求解严格凸QP问题的共轭方向法。 (英语) Zbl 1387.90177号

摘要:研究了严格凸二次规划问题的求解问题。使用了共轭方向的概念。首先,我们假设我们知道关于目标函数的hessian的共轭方向集。我们从同一点开始,沿着这些共轭方向应用(n)同步方向最小化,然后添加方向校正。证明了该算法求二次目标函数全局极小值的定理。给出了有效构造所需共轭方向集的方法。我们从一个除第一个项外的零值项向量开始。在每一步,构造与先前生成的向量共轭的新向量,其非零项的数目比其先前生成的项大一。通过上述构造过程获得的共轭方向与适当选择的参数形成上三角矩阵,在精确计算中,上三角矩阵是hessian矩阵逆矩阵的Cholesky因子。计算逆因式分解的计算成本与原始二阶导数矩阵的Cholesky因式分解成本相当。这些向量的计算只涉及矩阵/向量乘法和求对角矩阵的逆矩阵。报告了一些试验问题的初步计算结果。在测试问题中,使用了佛罗里达大学知识库中的所有对称正定矩阵,这些矩阵的维数从(14乘14)到(2000乘2000)。

MSC公司:

90C20个 二次规划
65千5 数值数学规划方法
90-08年 运筹学和数学规划相关问题的计算方法
65平方英尺 线性系统和矩阵反演的直接数值方法
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Alléon G,Carpentieri B,Duff IS,Giraud L,Langou J,Martiné,Sylvand G(2003)电磁场中边界元法产生的大型密集线性系统解的高效并行迭代求解器。摘自:巴黎核应用超级计算国际会议记录·Zbl 0919.65021号
[2] Andrea C,Giovanni F,Massimo R(2017)基于非线性共轭梯度法的拟Newton更新的新型预条件器。Opt Lett 11(4)电话:835-853·Zbl 1367.90091号 ·doi:10.1007/s11590-016-1060-2
[3] Benoit C(1924)注:方程法线解算方法provenant de l’application de la method e des moindres carreséun system d’equations linearies en nombre inferieurácelui des inconues(Cholesky指挥官程序)。公牛Geod 2:67-77·doi:10.1007/BF303031308
[4] Bertsekas DP(1995)非线性规划。雅典科学,贝尔蒙特·Zbl 0935.90037号
[5] Bertsekas DP,Tsitsiklis JN(1989)并行和分布式计算,数值方法。英格伍德悬崖普伦蒂斯·霍尔·Zbl 0743.65107号
[6] Bientinesi P,Gunter B,van de Geijn RA(2008)与对称正定矩阵求逆相关的算法家族。ACM Trans Math Softw 35(1):3·数字对象标识代码:10.1145/1377603.1377606
[7] Boisvert RF、Pozo R、Remington K、Barrett R、Dongarra J、Miller B、Lipman B(1997年a)矩阵市场。http://math.nist.gov/MatrixMarket。2016年10月访问·Zbl 0132.11702号
[8] 波西弗特,RF;波佐,R。;雷明顿,K。;巴雷特,R。;JJ Dongarra;Boisvert,RF(编辑),矩阵市场:测试矩阵集合的网络资源,125-137(1997),伦敦·doi:10.1007/978-1-5041-2940-49
[9] Chen X,Zhou W(2010)非光滑非凸图像复原的平滑非线性共轭梯度法。SIAM影像科学杂志3(4):765-790·Zbl 1200.65031号 ·数字对象标识代码:10.1137/080740167
[10] Dai YH(2011)非线性共轭梯度法。ftp://lsec.cc.ac.cn/pub/dyh/papers/CGoverview.pdf。2017年5月26日访问
[11] Dai YH,Yuan Y(1999)一种具有强全局收敛性的非线性共轭梯度法。SIAM J Optim 10(1):177-182·兹比尔0957.65061 ·doi:10.1137/S1052623497318992
[12] Davis TA(2014)佛罗里达大学稀疏矩阵收集。盖恩斯维尔佛罗里达大学·兹比尔1365.65123
[13] Davis TA,Hu Y(2011年a)佛罗里达大学稀疏矩阵集合。ACM Trans Math Softw(TOMS)38(1),第1条http://www.cise.uf.edu/research/sparese/matrixes/。2016年10月访问·兹比尔1365.65123
[14] Davis TA,Hu Y(2016)佛罗里达大学稀疏矩阵收集。http://yifanhu.net/PUB/matrices.pdf。2016年10月访问·兹比尔1365.65123
[15] Davis TA、Rajamanickam S、Sid-Lakhdar WM(2016)稀疏线性系统直接方法调查。德克萨斯农工大学计算机科学与工程系技术报告。http://faulty.cse.tamu.edu/davis/publications.html。2017年5月访问·Zbl 1346.65011号
[16] Duff IS、Grimes RG、Lewis JG(1989年a)Harwell/Being系列。http://math.nist.gov/MatrixMarket/collections/hb.html。2016年10月访问
[17] Duff IS、Grimes RG、Lewis JG(1997)《卢瑟福-波音稀疏矩阵集合》。技术报告RAL-TR-97-031,英国奥克森卢瑟福阿普尔顿实验室
[18] Duff IS,Grimes RG,Lewis JG(1989年b)稀疏矩阵测试问题。ACM Trans数学软件15(1):1-14·Zbl 0667.65040号 ·数字对象标识代码:10.1145/62038.62043
[19] El Guennouni A,Jbilou K,Sadok H(2003)BIGSTAB的块版本,用于具有多个右侧的线性系统。ETNA El Trans数字分析16:129-142。https://eudml.org/doc/1124803 ·Zbl 1065.65052号
[20] Fasano G,Roma M(2016)优化中大型正定线性系统的一类新的近似逆预条件。Comp Optim应用65(2):399-429·Zbl 1369.90166号 ·doi:10.1007/s10589-015-9765-1
[21] Felippa CA(2001)《矩阵结构分析的历史大纲:三幕剧》。《公司结构》79(14):1313-1324。doi:10.1016/S0045-7949(01)00025-6·doi:10.1016/S0045-7949(01)00025-6
[22] Feng YT,Owen DRJ,Peri D(1995)应用于具有多个右手边的线性系统的块共轭梯度法。Comp Meth Appl Mech Eng公司127(1-4):203-215·Zbl 0861.73077号 ·doi:10.1016/0045-7825(95)00832-2
[23] Fletcher R(1987)《实用优化方法》,第二版。奇切斯特威利·Zbl 0905.65002号
[24] Fletcher R,Reeves CM(1964)《共轭梯度函数最小化》。计算J 7(2):149-154·兹伯利0132.11701 ·doi:10.1093/comjnl/7.2.149
[25] Gratton S,Sartemaer A,Ilunga JT(2011)关于具有多个右手边的大规模线性系统的一类有限内存预处理器。SIAM J Optim 21(3):912-935·Zbl 1273.65044号 ·doi:10.1137/08074008
[26] Hager WW,Zhang H(2005)一种新的具有保证下降和有效线搜索的共轭梯度法。SIAM J Optim 16(1):170-192·邮编1093.90085 ·doi:10.1137/030601880
[27] Hestenes MR,Stiefel EL(1952)求解线性系统的共轭梯度方法。J Res Nat Bur支架49(6):409-436·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[28] 反问题。收录:维基百科。https://en.wikipedia.org/wiki/Inverse_problem。2017年5月访问
[29] Lin L,Yang C,Meza JC,Lu J,Ying L(2011)稀疏对称矩阵选择反演的SelInv-an算法。美国医学会数学学报(TOMS)37(4):40。数字对象标识代码:10.1145/1916461.1916464·Zbl 1365.65069号 ·数字对象标识代码:10.1145/1916461.1916464
[30] McGuire W、Gallagher RH、Ziemian RD(2000)《矩阵结构分析》,第2版。纽约威利
[31] Ogita T,Oishi S(2012)精确稳健的逆Cholesky因子分解。非线性理论应用IEICE 3(1):103-111·doi:10.1587/nolta.3103
[32] O’Leary DP(2000)线性代数与优化之间的共生。《计算机应用数学杂志》123(1-2):447-465·Zbl 0964.65069号 ·doi:10.1016/S0377-0427(00)00408-8
[33] Polak E,Ribiére G(1969)注意到方向变迹法的收敛性。法国评论Inf Rech Opér 3(16):35-43·Zbl 0174.48001号
[34] Polyak BT(1969)极端问题中的共轭梯度法。苏联数学数学物理9(4):94-112·兹伯利0229.49023 ·doi:10.1016/0041-5553(69)90035-4
[35] Powell MJD(1964)在不计算导数的情况下求多变量函数最小值的有效方法。组件J 7(2):155-162·Zbl 0132.11702号 ·doi:10.1093/comjnl/7.2.155
[36] Simonicin V,Szyld D(2007)线性系统Krylov子空间方法的最新计算发展。数字线性代数应用14(1):1-59·Zbl 1199.65112号 ·doi:10.1002/nla.499
[37] Stachurski A(2012)非线性连续优化中的二次近似(抛光:Aproksymacje kwadratowe w cigej optymalizacji nielinowej)。Prace Naukow Politiechniki Warszawskiej,Elektronika 184,华沙WUT出版社·Zbl 0174.48001号
[38] Stoer J(1972)1976)Einfuehrung in die numerische mathematik I.Springer,柏林·Zbl 0245.65001号 ·doi:10.1007/978-3-662-06865-6
[39] Stoer J,Bulirsch R(1993)《数值分析导论》。柏林施普林格·兹比尔0771.65002 ·doi:10.1007/978-1-4757-2272-7
[40] Wilkinson JH(1963)代数过程中的舍入误差。Prentice-Hall公司,Englewood Cliffs·Zbl 1041.65502号
[41] Yanagisawa Y,Ogita T,Oishi S(2014)精确逆Cholesky分解算法的收敛性分析。Jpn J工业应用数学31(3):461-482。doi:10.1007/s13160-014-0154-4·Zbl 1309.65032号 ·doi:10.1007/s13160-014-0154-4
[42] 云兰F,惠饶Z,武汉XH(1997)矩形Toeplitz块矩阵的快速逆Cholesky分解。大学自然科学2(4):418-422。doi:10.1007/BF02830245·Zbl 0919.65021号 ·doi:10.1007/BF02830245
[43] Zhu H,Chen W,Li B,Gao F(2011)基于高效逆Cholesky因式分解的V-BLAST改进平方算法。IEEE Trans无线通信10(1):43-48·doi:10.1109/TWC.2010.110510.100555
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。