×

基于带有内迭代预处理的Krylov子空间迭代求解器的LP内点方法的实现。 (英语) 兹比尔1427.90289

摘要:我们将新的内迭代预条件Krylov子空间方法应用于线性规划(LP)的内点算法。Morikuni和Hayami最近提出的内迭代预条件使我们能够克服在内点迭代的最后阶段求解的线性方程组的严重病态条件。Krylov子空间方法不存在秩亏问题,因此即使约束矩阵的行不是线性独立的,也不需要预处理。通过这些方法,提出了一种新的点内递推法,以便在每一步中省略一个矩阵向量乘积。对140个LP问题的不同实例进行了广泛的数值实验,包括Netlib、QAPLIB、Mittelmann和Atomizer Basis Pursuit集合。最大的问题有434580个未知数。结果表明,在不增加CPU时间的情况下,我们的实现比标准公共域求解器SeDuMi(自对偶最小化)、SDPT3(半定规划Toh-Todd-TüTüncü)和PDCO中的LSMR迭代求解器(凸目标的原对偶屏障方法)更健壮。所提出的基于迭代求解器的内点方法在标准停止准则下成功地从基准库中求解了相当多的LP实例。该工作还对包括直接求解器和迭代求解器在内的几个著名求解器进行了相当广泛的基准测试。

MSC公司:

90摄氏51度 内部点方法
90C05(二氧化碳) 线性规划
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Adler,I.,Resende,M.G.C.,Veiga,G.,Karmarkar,N.:线性规划中Karmarker算法的实现。数学。程序。44(1-3), 297-335 (1989). https://doi.org/10.1007/BF01587095 ·Zbl 0682.90061号 ·doi:10.1007/BF01587095文件
[2] Al-Jeiroudi,G.,Gondzio,J.:线性优化不精确不可行内点方法的收敛性分析。J.优化。理论应用。141(2), 231-247 (2009). https://doi.org/10.1007/s10957-008-9500-5 ·Zbl 1176.90647号 ·doi:10.1007/s10957-008-9500-5
[3] Al-Jeiroudi,G.,Gondzio,J.,Hall,J.:内部点方法中的不定系统预处理,用于大规模线性优化。最佳方案。方法软件。23(3), 345-363 (2008). https://doi.org/10.1080/10556780701535910 ·Zbl 1162.90510号 ·网址:10.1080/10556780701535910
[4] 安德森,E.D.,安德森,K.D.:线性规划预解。数学。程序。71(2), 221-245 (1995). https://doi.org/10.1007/BF01586000 ·兹比尔0846.90068 ·doi:10.1007/BF01586000
[5] 安德森,ED;J.Gondzio。;梅萨罗斯,C。;Xu,X。;Pardalos,PM(编辑);Hearn,D.(ed.),《大规模线性规划的内点方法的实现》,第5期(1996年),多德雷赫特·Zbl 0874.90127号 ·doi:10.1007/978-1-4613-3449-16
[6] Bergamaschi,L.,Gondzio,J.,Venturin,M.,Zilli,G.:内点方法中线性系统的非精确约束预条件。计算。最佳方案。申请。36(2-3), 137-147 (2007). https://doi.org/10.1007/s10589-006-9001-0 ·Zbl 1148.90349号 ·doi:10.1007/s10589-006-9001-0
[7] Bergamaschi,L.,Gondzio,J.,Zilli,G.:优化内点方法中的不定系统预处理。计算。最佳方案。申请。28(2), 149-171 (2004). https://doi.org/10.1023/B:COAP.000026882.34332.1b ·Zbl 1056.90137号 ·doi:10.1023/B:COAP.000026882.34332.1b
[8] 澳大利亚比约克。,Elfving,T.:计算线性方程组伪逆解的加速投影方法。BIT 19145-163(1979)。https://doi.org/10.1007/BF01930845 ·Zbl 0409.65022号 ·doi:10.1007/BF01930845
[9] Carpenter,T.J.,Shanno,D.F.:基于共轭投影梯度的二次规划内点法。计算。最佳方案。申请。2(1), 5-28 (1993). https://doi.org/10.1007/BF01299140 ·兹比尔0778.90048 ·doi:10.1007/BF01299140
[10] Chen,S.、Donoho,D.、Saunders,M.:关于雾化器(2000)。http://sparselab.stanford.edu/amotizer/。2019年5月27日访问
[11] Chen,S.,Donoho,D.,Saunders,M.:通过基追踪进行原子分解。SIAM Rev.43(1),129-159(2001)。https://doi.org/10.1137/S003614450037906X ·Zbl 0979.94010号 ·doi:10.1137/S003614450037906X
[12] Chin,P.,Vannelli,A.:内点算法的PCG技术。摘自:第36届中西部电路与系统研讨会论文集,第200-203页。IEEE(1994)。https://doi.org/10.109/MWSCAS.1993.343095
[13] 克雷格,E.J.:\[{N} N个\]-步骤迭代过程。数学杂志。物理学。第34、64-73页(1955年)。https://doi.org/10.1002/sapm195534164 ·Zbl 0065.10901号 ·doi:10.1002/sapm195534164
[14] Cui,X.:最小二乘问题的近似广义逆预处理方法。日本高等研究生院博士论文(2009年)。http://id.nii.ac.jp/1013/00001492/
[15] Cui,X.,Hayami,K.,Yin,J.F.:预处理最小二乘问题的Greville方法。高级计算。数学。35, 243-269 (2011). https://doi.org/10.1007/s10444-011-9171-x ·Zbl 1233.65027号 ·doi:10.1007/s10444-011-9171-x
[16] Cui,Y.,Morikuni,K.,Tsuchiya,T.,Hayami,K.:基于Krylov子空间迭代求解器的LP内点方法的实现,带内迭代预处理,第1-30页。arXiv预处理。arXiv:1604.07491(2016)·Zbl 1427.90289号
[17] Czyzyk,J.、Mehrotra,S.、Wagner,M.、Wright,S.J.:PCx:线性规划的内部点代码。最佳方案。方法软件。11(1-4), 397-430 (1999). https://doi.org/10.1080/10556789908805757 ·Zbl 0970.90118号 ·doi:10.1080/10556789908805757
[18] D’Apuzzo,M.,De Simone,V.,Di Serafino,D.:关于数值线性代数和大规模优化的相互影响,重点关注内点方法。计算。最佳方案。申请。45(2), 283-310 (2010). https://doi.org/10.1007/s10589-008-9226-1 ·Zbl 1187.90194号 ·doi:10.1007/s10589-008-9226-1
[19] Davis,T.A.:CSparse:一个简洁的稀疏矩阵包。3.1.4版(2014)。http://www.suitesparse.com。2019年5月27日访问
[20] Davis,T.A.,Hu,Y.:佛罗里达大学稀疏矩阵集合。ACM事务处理。数学。柔和。38(1), 1:1-1:25 (2011). https://doi.org/10.1145/2049662.2049663 ·Zbl 1365.65123号 ·doi:10.1145/2049662.2049663
[21] Dax,A.:求解奇异非结构化线性方程组的线性平稳迭代过程的收敛性。SIAM第32版,611-635(1990)。https://doi.org/10.1137/1032122 ·Zbl 0718.65021号 ·doi:10.1137/1032122
[22] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91(2), 201-213 (2002). https://doi.org/10.1007/s101070100263 ·邮编:1049.90004 ·doi:10.1007/s101070100263
[23] 达夫,I.S.:MA57——求解稀疏对称定系统的新代码。ACM事务处理。数学。柔和。30(2), 118-144 (2004). https://doi.org/10.1145/992200.992202 ·Zbl 1070.65525号 ·doi:10.1145/992200.992202
[24] Ferris,M.C.,Munson,T.S.:大规模支持向量机的内部点方法。SIAM J.Optim公司。13(3), 783-804 (2002). https://doi.org/10.1137/S1052623400374379 ·Zbl 1039.90092号 ·doi:10.1137/S1052623400374379
[25] Forer,R.,Mehrotra,S.:用线性规划的内点方法求解对称不定系统。数学。程序。62(1-3), 15-39 (1993). https://doi.org/10.1007/BF01585158 ·Zbl 0802.90069 ·doi:10.1007/BF01585158
[26] Freund,R.W.,Jarre,F.:求解线性规划的基于QMR的内点算法。数学。程序。76(1), 183-210 (1997). https://doi.org/10.1007/BF026114383 ·Zbl 0881.90094号 ·doi:10.1007/BF02614383
[27] Freund,R.W.,Jarre,F.,Mizuno,S.:线性规划的一类不精确内点算法的收敛性。数学。操作。第24(1)号决议,50-71(1999)。https://doi.org/10.1287/moor.24.1.50 ·Zbl 0977.90021号 ·doi:10.1287/门24.1.50
[28] Gill,P.E.,Murray,W.,Saunders,M.A.,Tomlin,J.A.,Wright,M.H.:关于线性规划的投影牛顿屏障方法以及与Karmarkar投影方法的等价性。数学。程序。36(2), 183-209 (1986). https://doi.org/10.1007/BF02592025 ·Zbl 0624.90062号 ·doi:10.1007/BF02592025
[29] Gondzio,J.:HOPDM(2.12版)-基于原始-对偶内点方法的快速LP解算器。欧洲药典。第85(1)号决议,221-225(1995)。https://doi.org/10.1016/0377-2217(95)00163-K·Zbl 0925.90284号 ·doi:10.1016/0377-2217(95)00163-K
[30] Gondzio,J.:线性规划原对偶方法中的多重中心性校正。计算。最佳方案。申请。6(2), 137-156 (1996). https://doi.org/10.1007/BF00249643 ·Zbl 0860.90084号 ·doi:10.1007/BF00249643
[31] Gondzio,J.:在应用内点方法之前对线性程序进行预解分析。信息J.计算。9(1), 73-91 (1997). https://doi.org/10.1287/ijoc.9.1.73 ·Zbl 0890.90143号 ·doi:10.1287/ijoc.9.1.73
[32] Gondzio,J.:25年后的内点法。欧洲药典。第218(3)号决议,587-601(2012年)。https://doi.org/10.1016/j.ejor.2011.09.017 ·Zbl 1244.90007号 ·doi:10.1016/j.ejor.2011.09.017
[33] Gondzio,J.:无矩阵内点法。计算。最佳方案。申请。51(2), 457-480 (2012). https://doi.org/10.1007/s10589-010-9361-3 ·Zbl 1241.90179号 ·doi:10.1007/s10589-010-9361-3
[34] J.Gondzio。;Terlaky,T。;Beasley,JE(编辑),内点方法的计算视图,103-144(1996),牛津·Zbl 1010.90524号
[35] Grant,M.,Boyd,S.:CVX:规范凸编程的Matlab软件。2.1版。(2014). http://cvxr.com/cvx。2019年5月27日访问
[36] 格兰特,MC;博伊德,SP;布隆德尔,V.(编辑);Boyd,S.(编辑);Kimura,H.(编辑),非光滑凸程序的图形实现,95-110(2008),柏林·Zbl 1205.90223号 ·数字对象标识代码:10.1007/978-1-84800-155-87
[37] Hayami,K.,Yin,J.F.,Ito,T.:最小二乘问题的GMRES方法。SIAM J.矩阵分析。申请。31, 2400-2430 (2010). https://doi.org/10.1137/070696313 ·Zbl 1215.65071号 ·doi:10.1137/070696313
[38] Hestenes,M.R.,Stiefel,E.:求解线性系统的共轭梯度方法。《国家研究杂志》。伯尔。站立。49(6), 409-436 (1952). https://doi.org/10.6028/jres.049.044 ·Zbl 0048.09901号 ·doi:10.60028/jres.049.044
[39] Jüdice,J.J.,Patricio,J.,Portugal,L.F.,Resende,M.G.C.,Veiga,G.:网络内点方法预条件的研究。计算。最佳方案。申请。24(1),5-35(2003)。https://doi.org/10.1023/A:1021882330897 ·Zbl 1035.90101号 ·doi:10.1023/A:1021882330897
[40] Karmarkar,N.,Ramakrishnan,K.:大规模线性规划内点算法的计算结果。数学。程序。52(1-3), 555-586 (1991). https://doi.org/10.1007/BF01582905 ·Zbl 0739.90042号 ·doi:10.1007/BF01582905
[41] Kojima,M.,Mizuno,S.,Yoshise,A.:一类线性互补问题的多项式时间算法。数学。程序。4(1-3), 1-26 (1989). https://doi.org/10.1007/BF01587074 ·Zbl 0676.90087号 ·doi:10.1007/BF01587074
[42] Korzak,J.:求解线性规划问题的不精确不可行内点算法的收敛性分析。SIAM J.Optim公司。11(1), 133-148 (2000). https://doi.org/10.1137/S105262349732993 ·Zbl 0999.90051号 ·doi:10.1137/S105262349732993
[43] Lustig,I.J.,Marsten,R.E.,Shanno,D.F.:关于实现Mehrotra线性规划的预测-校正内点方法。SIAM J.Optim公司。2(3), 435-449 (1992). https://doi.org/10.1137/0802022 ·Zbl 0771.90066号 ·doi:10.1137/0802022年
[44] Lustig,I.J.,Marsten,R.E.,Shanno,D.F.:线性规划的内点方法:最先进的计算方法。ORSA J.计算。6(1),1-14(1994)。https://doi.org/10.1287/ijoc.6.1.1 ·Zbl 0798.90100号 ·doi:10.1287/ijoc.6.1.1
[45] Mehrotra,S.:仿射缩放方法的实现:使用预处理共轭梯度法的线性方程组的近似解。ORSA J.计算。4(2), 103-118 (1992). https://doi.org/10.1287/ijoc.4.2.103 ·Zbl 0782.90067号 ·doi:10.1287/ijoc.4.2.103
[46] Mehrotra,S.:关于原对偶内点方法的实现。SIAM J.Optim公司。2(4), 575-601 (1992). https://doi.org/10.1137/0802028 ·Zbl 0773.90047号 ·doi:10.1137/0802028年
[47] Mehrotra,S.,Li,Z.:初值内点方法的收敛条件和基于Krylov子空间的校正。SIAM J.Optim公司。15(3), 635-653 (2005). https://doi.org/10.1137/S1052623403431494 ·Zbl 1077.90078号 ·doi:10.1137/S1052623403431494
[48] 梅赫罗特拉,S。;Wang,J。;Adams,L.(编辑);Nazareth,J.(编辑),用于网络流问题的内点方法的基于共轭梯度的实现,124-142(1996),费城·Zbl 0865.65049号
[49] Monteiro,R.D.C.,Adler,I.:遵循原对偶算法的内部路径。第一部分:线性规划。数学。程序。44(1-3), 27-41 (1989). https://doi.org/10.1007/BF01587075 ·Zbl 0676.90038号 ·doi:10.1007/BF01587075
[50] Monteiro,R.D.C.,O'Neal,J.W.:基于迭代线性解算器的长步长原对偶不可行内点LP算法的收敛性分析。技术报告,佐治亚理工学院(2003年)。http://www.optimization-online.org/DB_FILE/2003/10/768.pdf
[51] Monteiro,R.D.C.,O'Neal,J.W.,Tsuchiya,T.:内点方法中使用的预处理正规矩阵的一致有界性。SIAM J.Optim公司。15(1), 96-100 (2004). https://doi.org/10.1137/S1052623403426398 ·Zbl 1075.65085号 ·doi:10.1137/S1052623403426398
[52] Morikuni,K.:秩亏最小二乘问题的对称内迭代预处理,第1-15页。arXiv预处理。arXiv:1504.00889(2015)
[53] Morikuni,K.:对称奇异线性系统的对称分裂矩阵内迭代预处理。事务处理。JSIAM 29(1),62-77(2019)。https://doi.org/10.11540/jsiamt.29.1_62 ·doi:10.11540/jsiamt.29.1-62
[54] Morikuni,K.,Hayami,K.:最小二乘问题的内迭代Krylov子空间方法。SIAM J.矩阵分析。申请。34(1), 1-22 (2013). https://doi.org/10.1137/10828472 ·Zbl 1269.65039号 ·数字对象标识代码:10.1137/10828472
[55] Morikuni,K.,Hayami,K.:秩亏最小二乘问题的内迭代GMRES方法的收敛性。SIAM J.矩阵分析。申请。36(1), 225-250 (2015). https://doi.org/10.1137/10946009 ·Zbl 1315.65041号 ·doi:10.1137/130946009
[56] Morikuni,K.,Hayami,K.:NE-SOR内部迭代预处理的AB-GMRES方法的Matlab-MEX码。http://researchmap.jp/KeiichiMorikuni/Implementations/。2019年5月27日访问
[57] MOSEK ApS:MATLAB手册的MOSEK优化工具箱。7.1版(第63版)。(2015). https://docs.mosek.com/7.1/toolbox.pdf。2019年5月27日访问
[58] Oliveira,A.R.L.,Sorensen,D.C.:基于线性规划的内点方法的大型线性系统的一类新的预条件器。线性代数应用。394, 1-24 (2005). https://doi.org/10.1016/j.laa.2004.08.019 ·Zbl 1071.65088号 ·doi:10.1016/j.laa.2004.08.019
[59] Paige,C.C.,Saunders,M.A.:线性方程组稀疏不定系统的求解。SIAM J.数字。分析。12, 617-629 (1975). https://doi.org/10.1137/0712047 ·Zbl 0319.65025号 ·数字对象标识代码:10.1137/0712047
[60] Portugal,L.F.,Resende,M.G.C.,Veiga,G.,Jüdice,J.J.:截断原不可行双可行网络内点法。网络35(2),91-108(2000)。https://doi.org/10.1002/(SICI)1097-0037(200003)35:2h91::AID-NET1i3.0.CO;2-T型·Zbl 0957.90022号 ·doi:10.1002/(SICI)1097-0037(200003)35:2h91::AID-NET1i3.0.CO;2-T型
[61] Rees,T.,Greif,C.:由内点优化方法产生的线性系统预条件。SIAM J.科学。计算。29(5), 1992-2007 (2007). https://doi.org/10.1137/060661673 ·Zbl 1155.65048号 ·电话:10.1137/060661673
[62] Resende,M.G.C.,Veiga,G.:二部无容量网络上最小费用流的对偶仿射缩放算法的实现。SIAM J.Optim公司。3(3), 516-537 (1993). https://doi.org/10.1137/0803025 ·Zbl 0794.90014号 ·数字对象标识代码:10.1137/0803025
[63] Saad,Y.:稀疏线性系统的迭代方法,第2版。SIAM,费城(2003)。https://doi.org/10.1137/1.9780898718003 ·Zbl 1031.65046号 ·数字对象标识代码:10.1137/1.9780898718003
[64] Saad,Y.,Schultz,M.H.:GMRES:求解非对称线性系统的广义最小残差算法。SIAM J.科学。统计计算。7, 856-869 (1986). https://doi.org/10.1137/0907058 ·Zbl 0599.65018号 ·doi:10.1137/0907058
[65] Saunders,M.A.、Kim,B.、Maes,C.、Akle,S.、Zahr,M.:PDCO:凸目标的原始-对偶内部方法(2013)。https://web.stanford.edu/group/SOL/software/pdco/。2019年5月27日访问
[66] Sturm,J.F.:使用SeDuMi 1.02,一个用于对称锥体优化的MATLAB工具箱。最佳方案。方法软件。1625-633(1999年)。https://doi.org/10.1080/10556789908805766 ·兹伯利0973.90526 ·doi:10.1080/10556789908805766
[67] Tanabe,K.:数学规划的中心牛顿法。摘自:《系统建模与优化》,《控制与信息科学讲义》,第113卷,第197-206页。柏林施普林格(1988)。https://doi.org/10.1007/BFb0042787 ·Zbl 0656.90085号
[68] Toh,K.C.,Todd,M.J.,TüTüncü,R.H.:SDPT3-半定规划的Matlab软件包。最佳方案。方法软件。11, 545-581 (1999). https://doi.org/101080/10556789908805762 ·Zbl 0997.90060号 ·doi:10.1080/10556789908805762
[69] TüTüncü,R.H.,Toh,K.C.,Todd,M.J.:使用SDPT3求解半定二次线性程序。数学。程序。序列号。B 95189-217(2003)。https://doi.org/10.1007/s10107-002-0347-5 ·兹比尔1030.90082 ·文件编号:10.1007/s10107-002-0347-5
[70] Wang,W.,O'leary,D.P.:线性规划的预测-校正内点方法中迭代方法的自适应使用。数字。算法25(1-4),387-406(2000)。https://doi.org/10.1023/A:1016614603137 ·Zbl 0977.65054号 ·doi:10.1023/A:1016614603137
[71] Wright,S.J.:原始-双重内点方法。SIAM,费城(1997年)。https://doi.org/10.1137/1.9781611971453 ·Zbl 0863.65031号 ·doi:10.1137/1.9781611971453
[72] Wright,S.J.:线性规划内点算法中的修正Cholesky分解。SIAM J.Optim公司。9(4), 1159-1191 (1999). https://doi.org/10.1137/S1052623496304712 ·Zbl 0957.65055号 ·doi:10.1137/S1052623496304712
[73] Zhang,Y.:关于水平线性互补问题的一类不可行内点方法的收敛性。SIAM J.Optim公司。4(1), 208-227 (1994). https://doi.org/10.1137/0804012 ·Zbl 0803.90092 ·数字对象标识代码:10.1137/0804012
[74] Zhang,Y.:在Matlab环境下用内点方法求解大规模线性规划。最佳方案。方法软件。10(1), 1-31 (1998). https://doi.org/10.1080/10556789808805699 ·Zbl 0916.90208号 ·doi:10.1080/10556789808805699
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。