×

动态负载平衡方面的新挑战。 (英语) Zbl 1061.68025号

摘要:数据分区和负载平衡是并行计算的重要组成部分。已经开发了许多不同的分区策略,在并行应用中非常有效。但负载平衡问题尚未完全解决;新的应用程序和体系结构需要新的分区功能。必须增强现有算法以支持更复杂的应用程序。生物、电路和材料模拟应用中产生的非方形、非对称和高度连接系统需要新的模型。越来越多地使用异构计算体系结构需要考虑非一致计算、网络和内存资源的分区器。而且,为了产生最大的影响,这些新功能必须以健壮、易于使用且适用于广泛应用程序的工具包的形式提供。在本文中,我们讨论了在Zoltan并行数据服务工具包中解决这些问题的方法。

MSC公司:

68平方米 计算机系统环境下的性能评估、排队和调度
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 伯杰,M.J。;Bokhari,S.H.,多处理器上非均匀问题的分区策略,IEEE Trans。计算。,36, 5, 570-580 (1987)
[2] Berzins,M.,自适应负载平衡的新算法,(第12届SIAM会议论文集。科学计算的并行处理(2004),SIAM:SIAM Philadelphia,PA)·Zbl 1058.65137号
[3] E.Boman,K.Devine,R.Heaphy,B.Hendrickson,M.Heroux,R.Preis,LDRD报告:并行重分区以实现最优解算器性能,技术代表SAND2004-0365,Sandia National Laboratories,Albuquerque,NM,2004年2月;E.Boman,K.Devine,R.Heaphy,B.Hendrickson,M.Heroux,R.Preis,LDRD报告:并行重新分区以实现最优解算器性能,技术代表SAND2004-0365,新墨西哥州阿尔伯克基Sandia国家实验室,2004年2月
[4] Bui,T。;Jones,C.,稀疏矩阵分解中减少填充的启发式方法,(第六届SIAM Conf.科学计算并行处理(1993),SIAM:SIAM Philadelphia,PA),445-452
[5] Butz,A.,Hilbert空间填充曲线的替代算法,IEEE Trans。计算。,424-426 (1971) ·Zbl 0223.68018号
[6] 考德威尔,A。;Kahng,A。;Markov,J.,VLSI分区基于运动的启发式设计与实现,ACM J.实验算法。,5 (2000) ·Zbl 1071.68532号
[7] P.M.Campbell,用于并行自适应有限元计算的八叉树负载平衡器的性能,硕士论文,伦斯勒理工学院计算机科学系,特洛伊,纽约,2001;P.M.Campbell,用于并行自适应有限元计算的八叉树负载平衡器的性能,硕士论文,伦斯勒理工学院计算机科学系,特洛伊,纽约,2001
[8] Catalysturek,美国。;Aykanat,C.,《分解不规则稀疏矩阵进行并行矩阵-向量乘法》(计算机科学讲义,第1117卷(1996),施普林格:施普林格-柏林),75-86
[9] Catalysturek,美国。;Aykanat,C.,并行稀疏矩阵向量乘法的基于Hypergraph-partitioning的分解,IEEE Trans。平行分配系统,10,7,673-693(1999)
[10] Chang,C。;Kurc,T。;苏斯曼,A。;Catalysturek,美国。;Saltz,J.,《并行数据聚合的基于超图的工作负载分区策略》,(第11届SIAM科学计算并行处理会议(2001年),SIAM:SIAM Philadelphia,PA)
[11] Cybenko,G.,分布式内存多处理器的动态负载平衡,J.并行分布计算。,7, 279-301 (1989)
[12] Devine,K。;Boman,E。;Heaphy,R。;亨德里克森,B。;Vaughan,C.,并行动态应用的Zoltan数据管理服务,计算。科学。工程,4,2,90-97(2002)
[13] Devine,K。;Flaherty,J.,并行自适应马力-守恒定律的精化技术,应用。数字。数学。,20, 367-386 (1996) ·Zbl 0860.65095号
[14] K.Devine、B.Hendrickson、E.Boman、M.St.John、C.Vaughan、Zoltan:用于并行应用程序的动态负载平衡库;用户指南,Sandia National Laboratories,Albuquerque,NM,技术报告SAND99-1377http://www.cs.sandia.gov/Zoltan/ug_html/ug.html, 1999; K.Devine、B.Hendrickson、E.Boman、M.St.John、C.Vaughan、Zoltan:并行应用程序的动态负载平衡库;用户指南,桑迪亚国家实验室,新墨西哥州阿尔伯克基,技术报告SAND99-1377http://www.cs.sandia.gov/Zoltan/ug_html/ug.html, 1999
[15] K.D.Devine,B.A.Hendrickson,《修补玩具并行编程:与国际佐尔坦的案例研究》。J.计算。科学。工程,出版中;K.D.Devine,B.A.Hendrickson,《修补玩具并行编程:与国际佐尔坦的案例研究》。J.计算。科学。工程,出版
[16] Dongarra,J.J。;莫勒,C.B。;邦奇,J.R。;Stewart,G.W.,《LINPACK用户指南》(1979年),SIAM:宾夕法尼亚州费城SIAM·Zbl 0476.68025号
[17] H.C.Edwards,可伸缩自适应有限元方法的并行基础结构及其在最小二乘配置中的应用,博士论文,德克萨斯大学奥斯汀分校,1997年5月;H.C.Edwards,可缩放自适应有限元方法的并行基础结构及其在最小二乘配置中的应用,博士论文,德克萨斯大学奥斯汀分校,1997年5月
[18] Eliassi-Rad,T。;波顿,A。;Pinar,A。;亨德森,K。;周,E。;Hendrickson,B.,《复杂网络的图形划分》,(第十二届SIAM会议论文集,科学计算并行处理(2004),SIAM:SIAM Philadelphia,PA)
[19] J.Faik,L.G.Gervasio,J.E.Flaherty,J.Chang,J.D.Teresco,E.G.Boman,K.D.Devine,异构集群上资源软件负载平衡模型,技术代表CS-03-03,威廉姆斯学院计算机科学系,http://www.cs.williams.edu/drum/, 2003; J.Faik,L.G.Gervasio,J.E.Flaherty,J.Chang,J.D.Teresco,E.G.Boman,K.D.Devine,异构集群上资源软件负载平衡模型,技术代表CS-03-03,威廉姆斯学院计算机科学系,http://www.cs.williams.edu/drum/, 2003
[20] 菲杜西亚,C.M。;Mattheyses,R.M.,《改进网络分区的线性时间启发式》,(第19届IEEE设计自动化会议(1982),IEEE:IEEE纽约),175-181
[21] 弗莱厄蒂,J。;罗伊(Loy,R.)。;谢泼德,M。;Szymanski,B。;Teresco,J。;Ziantz,L.,三维守恒定律并行解的八叉树负载平衡自适应局部求精,J.并行分布计算。,47, 2, 139-152 (1998)
[22] Frink,L.J.D。;塞林格,A.G。;西尔斯,M.P。;Weinhold,J.D。;Frischknecht,A.L.,密度泛函理论在生物学和纳米技术中应用的数值挑战,物理学杂志。条件。Matter,14,12167-12187(2002)
[23] Hendrickson,B.,图分割和并行求解器:皇帝没有衣服吗?,(《计算机科学讲义》,第1457卷(1998),施普林格出版社:柏林施普林格),218-225
[24] 亨德里克森,B。;Kolda,T.,并行计算的图形分区模型,并行计算。,26, 1519-1534 (2000) ·Zbl 0948.68130号
[25] B.Hendrickson,R.Leland,Chaco用户指南,2.0版,技术代表SAND94-2692,Sandia国家实验室,新墨西哥州阿尔伯克基,1994年10月;B.Hendrickson,R.Leland,Chaco用户指南,2.0版,技术代表SAND94-2692,Sandia国家实验室,新墨西哥州阿尔伯克基,1994年10月
[26] 亨德里克森,B。;Leland,R.,《划分图的多级算法》(Proc.Supercomputing’95(1995),ACM:ACM New York)
[27] Y.Hu,R.Blake,《最佳动态负载平衡算法》,技术报告DL-P-95-011,达累斯伯里实验室,沃灵顿,WA4 4AD,英国,1995年12月;Y.Hu,R.Blake,最佳动态负载平衡算法,技术报告DL-P-95-011,达累斯伯里实验室,沃灵顿,WA4 4AD,英国,1995年12月
[28] 胡玉凤。;布莱克·R·J。;Emerson,D.R.,动态负载平衡的最佳迁移算法,并发:Prac。专家。,10, 467-483 (1998) ·Zbl 0903.68087号
[29] Iqbal,M.A.,分区和分配问题的近似算法,国际。J.并行编程,20,341-361(1991)
[30] Karypis,G.,接触/冲击计算的多约束网格划分(Proc.SC2003,ACM,Phoenix,AZ(2003))
[31] Karypis,G。;阿加瓦尔,R。;库马尔,V。;Shekhar,S.,《多级超图划分:在超大规模集成电路领域的应用》,(第34届设计自动化会议(1997),美国计算机学会:美国计算机学会纽约分会),526-529
[32] G.Karypis,V.Kumar,《一种快速高质量的不规则图分割多级方案》,技术代表CORR 95-035,明尼苏达大学计算机科学系,明尼阿波利斯,MN,1995年6月;G.Karypis,V.Kumar,《一种快速、高质量的划分不规则图的多级方案》,技术代表CORR 95-035,明尼苏达大学计算机科学系,明尼阿波利斯,MN,1995年6月·Zbl 0915.68129号
[33] G.Karypis,V.Kumar,ParMETIS:并行图划分和稀疏矩阵排序库,技术代表97-060,明尼苏达大学计算机科学系,网址:www网址:http://www.cs.umn.edu/metis(1997);G.Karypis,V.Kumar,ParMETIS:并行图划分和稀疏矩阵排序库,技术代表97-060,明尼苏达大学计算机科学系,网址:网址:http://www.cs.umn.edu/metis(1997)
[34] G.Karypis,V.Kumar,多约束图分区的多层算法,技术代表98-019,明尼苏达大学计算机科学系,1998年;G.Karypis,V.Kumar,多约束图分区的多级算法,技术代表98-019,明尼苏达大学计算机科学系,1998年
[35] Lawder,J。;King,P.,《使用空间填充曲线进行多维索引》,《计算机科学讲义》(1832年),施普林格出版社:柏林
[36] Lawder,J。;King,P.,使用希尔伯特空间填充曲线查询索引的多维数据,SIGMOD记录,30,1,19-24(2001)
[37] Leis,E。;Reddy,H.,《分布式负载平衡:设计和性能分析》,W.M.Keck Res.Compute。实验室,5205-270(1989)
[38] Lo,C.Y。;马图塞克,J。;Steiger,W.,《火腿-三明治切割算法》,离散计算。几何学,11,4,433-452(1994)·兹比尔0806.68061
[39] Maerten,B。;Roose,D。;Basermann,A。;Fingberg,J。;Lonsdale,G.,DRAMA:有限元应用的并行动态负载平衡库(第九届科学计算并行处理SIAM会议,德克萨斯州圣安东尼奥(1999))·Zbl 1076.65534号
[40] 米亚德,T。;Kallinderis,Y.,《动态执行环境的并行负载平衡》,计算。方法应用。机械。工程,189,4,1295-1309(2000)·Zbl 1003.76072号
[41] Mitchell,W.F.,《自适应网格基于细化树的分区》,(第七届科学计算并行处理SIAM会议论文集(1995年),SIAM:SIAM费城,宾夕法尼亚州),587-592·Zbl 0836.65120号
[42] Mitchell,W.F.,《Fortran 90中并行自适应多级代码的设计》(Proc.2002 Internatl.Conf.on Computational Science,阿姆斯特丹(2002))·Zbl 1056.65136号
[43] Moore,D.,《快速希尔伯特曲线生成、排序和范围查询》
[44] 奥尔斯塔德,B。;Manne,F.,《序列的有效划分》,IEEE Trans。计算。,44, 1322-1326 (1995) ·Zbl 1068.68628号
[45] Ozdal,M。;Aykanat,C.,基于数据模式聚类的超图模型和算法,数据挖掘和知识发现,9,1,29-57(2004)
[46] Patra,A。;Oden,J.T.,自适应问题分解马力有限元方法,J.Compute。系统工程,6,2,97-109(1995)
[47] F.Pelligrini,SCOTCH 3.4用户指南,研究代表RR-1264-01,LaBRI,2001年11月;F.Pelligrini,SCOTCH 3.4用户指南,研究代表RR-1264-01,LaBRI,2001年11月
[48] J.R.Pilkington,S.B.Baden,用空间填充曲线划分,CSE技术报告CS94-349,加利福尼亚大学计算机科学与工程系,加利福尼亚州圣地亚哥,1994年;J.R.Pilkington,S.B.Baden,用空间填充曲线划分,CSE技术报告CS94-349,加利福尼亚大学计算机科学与工程系,加利福尼亚州圣地亚哥,1994年
[49] A.Pinar,科学计算中的组合算法,伊利诺伊大学-乌尔巴纳-恰姆巴因分校博士论文,2001年;A.Pinar,科学计算中的组合算法,伊利诺伊大学-乌尔巴纳-恰姆巴因分校博士论文,2001年
[50] Pinar,A。;Hendrickson,B.,《自适应计算的通信支持》(第10届SIAM会议,科学计算并行处理,弗吉尼亚州朴茨茅斯(2001))
[51] 皮纳尔,A。;Hendrickson,B.,《利用灵活的可分配工作来改善负载平衡》,(第14届ACM Symp.Parallel Algs and Archs(2002),ACM:ACM New York),155-163
[52] 普林普顿,S。;阿塔韦,S。;亨德里克森,B。;斯威格尔,J。;沃恩,C。;Gardner,D.,《瞬态动力学模拟:接触检测和平滑粒子流体动力学的并行算法》,J.Parallel Distribute.Compute。,50, 104-122 (1998) ·Zbl 0910.68230号
[53] 波顿,A。;西蒙,H。;Liou,K.,用图的特征向量划分稀疏矩阵,SIAM J.矩阵分析。,11, 3, 430-452 (1990) ·Zbl 0711.65034号
[54] R.Preis,R.Diekmann,《PARTY分区库》,用户指南1.1版,技术代表tr-rsfb-96-024,德国帕德博恩大学计算机科学系,1996年9月;R.Preis,R.Diekmann,《PARTY分区库》,用户指南1.1版,技术代表tr-rsfb-96-024,德国帕德博恩大学计算机科学系,1996年9月
[55] Sagan,H.,《空间填充曲线》(Space-Filling Curves)(1994),Springer:Springer New York·Zbl 0806.01019号
[56] Schloegel,K。;Karypis,G。;Kumar,V.,自适应网格重划分的多级扩散算法,J.并行分布计算。,47, 2, 109-124 (1997)
[57] Schloegel,K。;Karypis,G。;Kumar,V.,并行静态和动态多约束图划分,并发计算。实践经验,14,3,219-240(2002)·Zbl 1012.68146号
[58] Simon,H.D.,用于并行处理的非结构化问题划分,(大规模结构分析和物理应用并行方法会议论文集(1991),佩加蒙出版社:纽约佩加蒙出版公司)
[59] 辛哈,S。;Parashar,M.,异构集群上AMR应用程序的自适应系统分区,集群计算。,5, 4, 343-352 (2002)
[60] 斯通,A.H。;Tukey,J.W.,《广义三明治定理》,杜克数学。J.,9,356-359(1942)·Zbl 0061.38405号
[61] 泰勒,V.E。;Nour-Omid,B.,有限元方法并行实现的因子分解填充研究,国际。J.数字。方法工程,37,3809-3823(1994)·Zbl 0817.65089号
[62] J.D.Teresco,科学计算的分层分区和动态负载平衡,技术代表CS-04-04,威廉姆斯学院计算机科学系,2004年6月20日至23日;J.D.Teresco,科学计算的分层分区和动态负载平衡,技术代表CS-04-04,威廉姆斯学院计算机科学系,2004年6月20日至23日,PARA'04
[63] Teresco,J.D。;比尔,M.W。;Flaherty,J.E。;Shephard,M.S.,自适应有限元计算的层次划分模型,计算。方法应用。机械。工程,184,269-285(2000)·Zbl 0986.74072号
[64] Thomas,S.,《软件库》(1991)
[65] B.Vastenhouw,R.H.Bisseling,并行稀疏矩阵向量乘法的二维数据分布方法,SIAM Rev.,出版中;B.Vastenhouw,R.H.Bisseling,并行稀疏矩阵-向量乘法的二维数据分布方法,SIAM Rev.,出版·Zbl 1083.65044号
[66] Walshaw,C.,The Parallel JOSTLE Library User's Guide,3.0版(2002),格林威治大学:英国格林威治伦敦大学
[67] C.Walshaw,M.Cross,异构通信网络的多级网格划分,未来一代计算。系统。17(5)(2001)601-623(最初作为Univ.Greenwich Tech.Rep.00/IM/57出版);C.Walshaw,M.Cross,异构通信网络的多级网格划分,未来一代计算。系统。17(5)(2001)601-623(最初作为Univ.Greenwich Tech.Rep.00/IM/57出版)
[68] 沃尔肖,C。;克罗斯,M。;McManus,K.,《多相网格划分》,App。数学。建模,25123-140(2000)·Zbl 1076.65538号
[69] 沃伦,M.S。;Salmon,J.K.,并行散列八叉树体算法(Proc.Supercomputing’93,Portland,OR(1993))
[70] 沃尔斯基,R。;新界斯普林。;Hayes,J.,《网络天气服务:用于元计算的分布式资源性能预测服务,未来一代计算》。系统。,15, 5-6, 757-768 (1999)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。