×

灯塔框架中基于性能的数值解算器选择。 (英语) Zbl 1352.65107号

摘要:科学和工程计算在大规模数据分析、建模和仿真、机器学习和其他应用问题上严重依赖线性代数。稀疏线性系统解决方案通常控制着此类应用程序的执行时间,推动了高度优化迭代算法和高性能并行实现的不断发展。在Lighthouse项目中,我们使具有不同背景的应用程序开发人员能够随时发现并有效地应用最佳可用的数值软件来解决他们的问题,旨在最大限度地提高开发人员的生产力和应用程序性能。Lighthouse是一个基于搜索的专家系统,建立在软件分类法的基础上,该分类法结合了专家知识、基于机器学习的现有数字软件集合分类以及自动代码生成和优化。在本文中,我们将稀疏线性系统的PETSc和Trilinos迭代求解器集成到Lighthouse框架中。除了分类法中的功能信息外,我们还创建了一个基于机器学习的综合工作流,用于稀疏求解器的自动分类,它可以推广到其他类型的快速发展的数值方法。我们对各种输入问题和机器学习方法的求解器分类结果进行了比较分析,在确定PETSc和Trilinos中性能最佳的线性求解方法时,准确率达到93%。

MSC公司:

65层10 线性系统的迭代数值方法
65层50 稀疏矩阵的计算方法
65日元10 特定类别建筑的数值算法
68甲19 其他编程范式(面向对象、顺序、并发、自动等)
68T05型 人工智能中的学习和自适应系统
68层35 人工智能的语言和软件系统理论(基于知识的系统、专家系统等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[5] {\lang1033D.W.Aha、D.Kibler和M.K.Albert,{\lang1033\f5基于实例的学习算法}{\lang1033\f5,}{\lang1033Mach。学习。,6(1991),第37-66页。
[6] E.Anderson、Z.Bai、C.Bischof、L.S.Blackford、J.Demmel、J.Dongarra、J.D.Croz、A.Greenbaum、S.Hammarling、A.McKenney和D.Sorensen,《拉丁美洲包装用户指南》,第三版,SIAM,费城,1995年·Zbl 0934.65030号
[7] S.Balay、S.Abhyankar、M.F.Adams、J.Brown、P.Brune、K.Buschelman、L.Dalcin、V.Eijkhout、W.D.Gropp、D.Kaushik、M.G.Knepley、L.C.McInnes、K.Rupp、B.F.Smith、S.Zampini、H.Zhang和H.Zhang,{it PETSc用户手册},技术报告ANL-95/11-3.7版,阿贡国家实验室,2016年。
[8] S.Balay、J.Brown、K.Buschelman、W.D.Gropp、D.Kaushik、M.G.Knepley、L.C.McInnes、B.F.Smith和H.Zhang,{\ it PETSc网页},2016年。
[9] S.Balay、W.D.Gropp、L.C.McInnes和B.F.Smith,{面向对象数值软件库中并行性的有效管理},收录于科学计算中的现代软件工具,E.Arge、A.M.Bruaset和H.P.Langtangen,eds.,Birkha¨用户出版社,1997年,第163-202页·Zbl 0882.65154号
[10] R.Barrett、M.Berry、J.Dongarra、V.Eijkhout和C.Romine,《线性系统迭代解的算法轰炸:一种多重迭代方法》,J.Compute。申请。数学。,74(1996),第91-110页·Zbl 0866.65027号
[12] G.Belter、E.R.Jessup、I.Karlin和J.G.Siek,{自动生成组合线性代数内核},收录于SC'09:高性能计算网络、存储和分析会议论文集,美国计算机学会,纽约,2009年,第1-12页。
[13] S.Bhowmick、V.Eijkhout、Y.Freund、E.Fuentes和D.Keyes,《机器学习在稀疏线性系统求解器选择中的应用》,载《2006年SIAM并行处理会议论文集》,加利福尼亚州旧金山,2006年。
[14] S.Bhowmick、V.Eijkhout、Y.Freund、E.Fuentes和D.Keyes,《交替决策树在选择稀疏线性解算器中的应用》,摘自《软件自动调整:从概念到最新结果》,K.Naono、K.Teranishi、J.Cavazos和R.Suda编辑,Springer,2010年,第153-173页。
[15] S.Bhowmick、D.Kaushik、L.McInnes、B.Norris和P.Raghavan,{可压缩PETSc-FUN3D模拟中的并行自适应解算器},《第17届并行计算流体动力学国际会议论文集》,马里兰州大学帕克分校,马里兰州,2005年;预印本,ANL/MCS-P1279-0805。
[16] S.Bhowmick、P.Raghavan、L.C.McInnes和B.Norris,{使用鲁棒复合线性解算器进行基于PDE的快速模拟},《未来一代计算机系统》,20(2004),第373-387页。
[17] R.R.Bouckaert,{韦卡贝叶斯网络分类器版本(3-5-7)},人工智能工具,11(2008),第369-387页。
[18] L.Breiman,{装袋预测值},马赫。学习。,24(1996),第123-140页·Zbl 0858.68080号
[19] K.Bryan和T.Leise,(25000000000特征向量:谷歌背后的线性代数),SIAM Rev.,48(2006),第569-581页·Zbl 1115.15007号
[20] C.Cortes和V.Vapnik,支持向量网络,马赫。学习。,20(1995年),第273-297页·Zbl 0831.68098号
[21] T.A.Davis和Y.Hu,{佛罗里达大学稀疏矩阵集合},ACM Trans。数学。软质。,38(2011),第1:1-1:25页·Zbl 1365.65123号
[22] G.Demiro¨z和H.A.Gu¨venir,{按投票特征间隔分类},《第九届欧洲机器学习会议论文集》,ECML’97,英国伦敦,1997年,Springer-Verlag,第85-92页。
[23] J.W.Demmel、O.A.Marques、B.N.Parlett和C.Voímel,《LAPACK对称三对角特征解算器的性能和精度》,SIAM J.Sci。计算。,30(2008),第1508-1526页·Zbl 1165.65014号
[25] J.Dongarra,《网上线性代数免费软件》,2015年。
[26] J.Dongarra、G.Bosilca、Z.Chen、V.Eijkhout、G.E.Fagg、E.Fuentes、J.Langou、P.Luszczek、J.Pjesivac-Grbovic、K.Seymour、H.You和S.S.Vadhiyar,《自适应数值软件(SANS)努力》,IBM J.Res.Dev.,50(2006),第223-238页。
[27] V.Eijkhout和E.Fuentes,{数字元数据标准和软件},ACM Trans。数学。软质。,35(2009),第1-20页。
[28] V.Eijkhout和E.Fuentes,{用于多阶段选择数值方法的机器学习},载于机器学习的新进展,Y.Zhang,ed.,in-Teh,Olajnica,克罗地亚,2010年,第117-136页。
[29] P.R.Eller、J.-R.C.Cheng和R.S.Maier,{分布式系统上使用机器学习进行瞬态仿真的动态线性求解器选择},IPDPS Workshops,2012年,第1915-1924页。
[30] A.Ern,V.Giovangigli,D.E.Keyes,和M.D.Smooke,{面向非线性椭圆问题的多算法线性系统求解器},SIAM J.Sci。计算。,15(1994年),第681-703页·Zbl 0807.65027号
[31] T.Fawcett,《ROC分析导论》,《模式识别快报》。,27(2006),第861-874页。
[32] E.Frank、M.Hall、G.Holmes、R.Kirkby、B.Pfahringer、I.H.Witten和L.Trigg,{\it Weka},摘自《数据挖掘和知识发现手册》,Springer,2005年,第1305-1314页。
[33] Y.Freund和L.Mason,{交替决策树学习算法},收录于《ICML’99:第十六届国际机器学习会议论文集》,第99卷,Morgan Kaufmann,1999年,第124-133页。
[35] M.Hall、E.Frank、G.Holmes、B.Pfahringer、P.Reutemann和I.H.Witten,《韦卡数据挖掘软件:更新》,ACM SIGKDD探索通讯,11(2009),第10-18页。
[36] M.A.Hall,{基于相关性的机器学习特征子集选择},博士论文,怀卡托大学,1999年。
[37] J.Han、M.Kamber和J.Pei,《数据挖掘概念和技术》,第三版,摩根·考夫曼,2012年·兹比尔1230.68018
[38] T.Hastie、R.Tibshirani和J.H.Friedman,《统计学习的要素》,斯普林格出版社,2001年·Zbl 0973.62007号
[40] V.Hernandez,J.E.Roman和V.Vidal,{\it SLEPc:用于解决特征值问题的可扩展且灵活的工具包},ACM Trans。数学。软质。,31(2005),第351-362页·Zbl 1136.65315号
[41] A.Holloway和T.-Y.Chen,{预测预处理迭代解算器行为的神经网络},载《计算科学:ICCS 2007》,Y.Shi、G.D.van Albada、J.Dongarra和P.M.A.Sloot编辑,《计算讲义》。科学。4487,柏林施普林格,海德堡,2007年,第302-309页。
[42] G.Holmes、B.Pfahringer、R.Kirkby、E.Frank和M.Hall,《机器学习:ECML 2002》,2002年,第161-172页·Zbl 1014.68754号
[43] E.N.Houstis、J.R.Rice、N.P.Chrisochoides、H.C.Karathanasis、P.N.Papachiou、M.K.Samartzis、E.A.Vavalis、K.Y.Wang和S.Weerawarana,{\it//ellpack:并行mimd机器的数值模拟编程环境},SIGARCH Comput。阿基特。《新闻》,18(1990),第96-107页。
[44] I.K.Jeremy G.Siek和E.R.Jessup,{\it Build to order linear algebration kernels},《高级语言和库性能优化研讨会》(POHLL 2008),佛罗里达州迈阿密,2008年,第1-8页。
[45] E.Jessup、B.Bolton、B.Enosh、F.Ma和T.Nguyen,{\it LAPACK Internet Interface and Search Engine},2008年。
[46] R.Katz、M.Knepley、B.Smith、M.Spiegelman和E.Coon,{使用科学计算便携式可扩展工具包对地球动力学过程进行数值模拟},《地球和行星内部物理》,163(2007),第52-68页。
[47] L.Kotthoff,I.P.Gent,和I.Miguel,《搜索问题算法选择中机器学习的评估》,AI Commun。,25(2012),第257-270页。
[49] 灯塔项目,2015年。
[50] R.Lucas,{it PERI:性能工程研究所},2007年。
[51] H.D.Mittelmann,《优化软件的决策树》,2008年。
[52] Netlib,2015年。
[53] NIST,{\it HotGAMS:可用数学软件指南};以前于2008年提供。
[54] NIST,《可用数学软件指南》,2015年。
[55] NIST,{矩阵市场},2015年。
[56] B.Norris、S.-L.Bernstein、R.Nair和E.Jessup,{灯塔:线性代数软件的以用户为中心的Web系统},《爱思唯尔系统与软件杂志》(JSS):《并行系统软件工程专刊》(2015)即将出版;arXiv预打印arXiv:1408.1363。
[57] B.Norris,L.C.McInnes,S.Bhowmick,and L.Li,{基于PDE模拟的自适应数值组件},PAMM:特刊:第六届国际工业应用数学大会(ICIAM07)和GAMM年会,苏黎世,2007,7(2007),pp.1140509-1140510。
[58] N.Pater,{\it Enhanced random forest implementation in Weka},载于ECE591Q机器学习会议论文,2005年。
[59] R.Quinlan,{it C4.5:机器学习程序},Morgan Kaufmann,San Mateo,CA,1993年。
[63] G.Vidal,《一维量子多体系统的有效模拟》,Phys。修订稿。,93 (2004), 040502.
[64] S.Weerawarana、E.N.Houstis、J.R.Rice、A.Joshi和C.E.Houstis,《Pythia:选择科学算法的基于知识的系统》,ACM Trans。数学。软质。,22(1996),第447-468页·Zbl 0884.65123号
[65] R.C.Whaley、A.Petitet和J.J.Dongarra,{软件和ATLAS项目的自动经验优化},并行计算。,27(2001),第3-35页·Zbl 0971.68033号
[66] P.R.Willems、B.Lang和C.Vo¨mel,《使用多个相对稳健的表示法计算双对角奇异值分解》,SIAM J.Matrix Ana。申请。,28(2006),第907-926页·Zbl 1129.65027号
[67] S.Xu和J.Zhang,{利用参数化矩阵预条件预测稀疏矩阵可解性的SVM分类},技术报告458-06,肯塔基大学计算机科学系,2006。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。