×

PEBBL:用于可扩展并行分支和绑定的面向对象框架。 (英语) Zbl 1329.90171号

摘要:并行枚举与分支绑定库(PEBBL)是一个C++类库,它实现了在基于MPI的消息传递分布式内存并行计算环境中支持各种分支绑定算法所需的底层操作。可以对PEBBL进行自定义,以支持特定于应用程序的操作,同时管理分支和绑定的通用方面,例如跨多个处理器维护活动子问题池、负载平衡和终止检测。PEBBL设计用于在大量处理器内核上提供高度可扩展的性能。我们描述了PEBBL体系结构的基础,重点介绍了对高可扩展性最为关键的特性,包括其灵活的两级负载平衡体系结构及其对同步并行提升阶段的支持。我们还提供了一个应用示例:由某些机器学习应用引起的最大单项一致性问题。对于足够困难的问题实例中,我们在6000多个处理器内核上显示了基本上的线性加速,展示了分支绑定实现的可伸缩性的最新状态。我们还展示了处理器缓存效应如何导致可再现的超线性加速。

MSC公司:

90C57型 多面体组合学,分支与绑定,分支与切割
第65年 并行数值计算
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 亚松森,A.,纽曼,D.J.:UCI机器学习库(2007年)。网址:http://www.ics.uci.edu/mlearn/MLRepository.html
[2] 巴德,DA;哈特,WE;加利福尼亚州菲利普斯;Greenberg,HJ(编辑),分枝定界并行算法设计,5-1-5-44(2004),多德雷赫特
[3] Benaíchouche,M.,Cung,V.D.,Dowaji,S.,Cun,B.L.,Mautor,T.,Roucairol,C.:构建并行分支绑定库。在:解决并行方法和技术中的组合优化问题,计算机科学课堂讲稿,第1054卷,第201-231页。Springer-Verlag,伦敦(1996)·Zbl 1062.90039号
[4] Bendjoudi,A.,Melab,N.,Talbi,E.G.:分层分支和绑定算法的容错机制。摘自:第25届IEEE国际并行和分布式处理研讨会研讨会论文集,大规模并行处理研讨会(LSPP),第1806-1814页。阿拉斯加安克雷奇(20011)
[5] Blelloch,G.E.:作为原始并行操作进行扫描。IEEE传输。计算。38(11), 1526-1538 (1989) ·数字对象标识代码:10.1109/12.42122
[6] Boros,E.,Hammer,P.L.,Ibaraki,T.,Kogan,A.:数值数据的逻辑分析。数学。程序。79(1-3), 163-190 (1997) ·Zbl 0887.90179号
[7] Brewer,T.:利用多达128个PA-RISC处理器的高度可扩展系统。摘自:COMPCON,《信息高速公路技术》,论文摘要,第133-140页(1995年)。http://dblp.uni-trier.de/db/conf/compcon/compcon95.html#Brewer95 ·Zbl 0806.90095号
[8] Cataldo,A.M.,Whaley,R.C.:使用并行缓存分配缩放LAPACK面板操作。内容:ACM并行编程原理与实践。ACM,纽约(2010年)·Zbl 0998.68105号
[9] 克劳森,J。;Migdalas,A.(编辑);Pardalos,P.(编辑);Storöy,S.(ed.),分支和约束算法-原理和示例,第7期,239-267(1997),多德雷赫特·Zbl 0903.90123号 ·doi:10.1007/978-1-4613-3400-27
[10] Clausen,J.,Perregaard,M.:关于平行分界中的最佳搜索策略:最佳优先搜索与懒惰深度优先搜索。安·Oper。第90号决议,1-17(1999)·Zbl 0937.90089号 ·doi:10.1023/A:1018952429396
[11] Danna,E.,Fenelon,M.,Gu,Z.,Wunderling,R.:生成混合整数规划问题的多个解。在:整数规划和组合优化,计算机科学讲义,第4513卷,第280-294页。柏林施普林格出版社(2007)·Zbl 1136.90416号
[12] Demiriz,A.、Bennett,K.P.、Shawe-Taylor,J.:通过列生成促进线性规划。机器。学习。46, 225-254 (2002) ·Zbl 0998.68105号 ·doi:10.1023/A:1012470815092
[13] Dobkin,D.P.,Gunoplos,D.,Maas,W.:计算最大两色差异,应用于计算机图形学和机器学习。J.公司。系统。科学。52(3), 453-470 (1996) ·Zbl 0858.68077号 ·doi:10.1006/jcss.1996.0034
[14] Eckstein,J.:并行混合整数分支与绑定的控制策略。在:《超级计算’94:1994年美国计算机协会/电子工程师协会超级计算会议论文集》,第41-48页。ACM,纽约(1994)·Zbl 1147.90416号
[15] Eckstein,J.:CM-5上一般混合整数规划的并行分枝定界算法。SIAM J.Optim公司。4(4), 794-814 (1994) ·Zbl 0819.90063号 ·doi:10.1137/0804046
[16] Eckstein,J.:并行分支和绑定的分布式与集中式存储和控制:CM-5上的混合整数编程。计算。最佳方案。申请。7(2), 199-220 (1997) ·Zbl 0881.90100号 ·doi:10.1023/A:1008699010646
[17] Eckstein,J.:并行分支和绑定需要多少通信?信息J.计算。9(1), 15-29 (1997) ·Zbl 0890.90148号 ·doi:10.1287/ijoc.9.1.15
[18] Eckstein,J.,Goldberg,N.:最大单项式协议的改进分枝定界法。信息J.计算。24(2), 328-341 (2012) ·Zbl 1462.90104号 ·doi:10.1287/ijoc.1110.0459
[19] Eckstein,J.,Hart,W.E.,Phillips,C.:大规模并行混合整数编程:算法和应用。摘自:Heroux,M.A.,Raghavan,P.,Simon,H.(编辑)《科学计算的并行处理》,第17章,第323-340页。基于第11届SIAM科学计算并行处理会议。SIAM(2006)·Zbl 0911.90282号
[20] Eckstein,J.、Hart,W.E.、Phillips,C.A.:并行混合整数编程包中的资源管理。摘自:《英特尔超级计算机用户小组会议录》(1997年)。在线诉讼
[21] Eckstein,J.,Phillips,C.A.,Hart,W.E.:并行分支和绑定的面向对象框架。In:可行性和优化中的固有并行算法及其应用(Haifa,2000),Stud.Compute。数学。,第8卷,第219-265页。荷兰北部,阿姆斯特丹(2001)·Zbl 0989.90130号
[22] Eckstein,J.,Phillips,C.A.,Hart,W.E.:PEBBL:可扩展并行分支和绑定的面向对象框架。RUTCOR研究报告RRR 9-2013,罗格斯大学(2013)·兹比尔1329.90171
[23] Eckstein,J.、Phillips,C.A.、Hart,W.E.:PEBBL 1.4.1用户指南。RUTCOR研究报告RRR 2-2014,罗格斯大学(2014)
[24] Elf,M.、Gutwenger,C.、Jünger,M.和Rinaldi,G.:用于组合优化的分支和切割算法及其在ABACUS中的实现。摘自:《计算组合优化,最优或可证明的近似最优解》,第157-222页。Springer Verlag,伦敦(2001)·Zbl 1052.90106号
[25] Goldberg,N.,Shan,C.:促进最佳逻辑模式。摘自:第七届SIAM国际数据挖掘会议记录,第228-236页。SIAM,明尼阿波利斯(2007)·Zbl 0887.90179号
[26] Graham,R.L.,Woodall,T.S.,Squires,J.M.:开放式MPI:一种灵活的高性能MPI。摘自:第六届并行处理与应用数学国际年会论文集。波兰波兹南(2005)·Zbl 0875.68206号
[27] Gropp,W.、Lusk,E.、Doss,N.、Skjellum,A.:MPI消息传递接口标准的高性能、可移植实现。并行计算。22(6), 789-828 (1996) ·Zbl 0875.68206号 ·doi:10.1016/0167-8191(96)00024-5
[28] W.D.希利斯:连接机器。麻省理工学院出版社,剑桥(1985)
[29] Ichnowski,J.,Alterovitz,R.:具有超线性加速的基于并行采样的运动规划。摘自:IEEE/RSJ智能机器人和系统国际会议,第1206-1212页(2012)·Zbl 0858.68077号
[30] Jünger,M.,Thienel,S.:ABACUS简介——一个分支与切割系统。操作。Res.Lett公司。22(2-3), 83-95 (1998) ·Zbl 0911.90282号 ·doi:10.1016/S0167-6377(98)00013-3
[31] Jünger,M.,Thienel,S.:用于整数规划和组合优化中的分支与降价算法的ABACUS系统。软件实践。专家。30, 1325-1352 (2000) ·Zbl 1147.90416号 ·doi:10.1002/1097-024X(200009)30:11<1325::AID-SPE342>3.0.CO;2-T型
[32] Karypis,G.,Kumar,V.:SIMD并行计算机上的非结构化树搜索:结果摘要。收录:《1992年超级计算:1992年ACM/IEEE超级计算会议记录》,第453-462页。IEEE计算机学会出版社,洛斯·阿拉米托斯(1992)
[33] Kearns,M.J.,Schapire,R.E.,Sellie,L.M.:迈向高效的不可知论学习。机器。学习。17(2-3), 115-141 (1994) ·Zbl 0938.68797号
[34] 金·M·李·H·李;,J.:多媒体应用程序的比例共享调度器。在:IEEE多媒体计算与系统国际会议’97,第484-491页。IEEE计算机学会出版社,洛斯·阿拉米托斯(1997)
[35] Koch,T.、Ralphs,T.和Shinano,Y.:我们能用一百万核来解整数程序吗?数学。方法操作。第76号、第67-93号决议(2012年)·Zbl 1262.90106号 ·doi:10.1007/s00186-012-0390-9
[36] Ladányi,L.,Ralphs,T.K.,Trotter Jr.,L.E.:分支、切割和价格:顺序和平行。摘自:计算组合优化(SchloßDagstuhl,2000),《计算机科学讲义》,第2241卷,第223-260页。施普林格,柏林(2001)·Zbl 1052.90107号
[37] Mahanti,A.,Daniel,C.J.:并行启发式搜索的SIMD方法。Artif公司。英特尔。60, 243-282 (1993) ·doi:10.1016/0004-3702(93)90003-T
[38] Mattern,F.:分布式终止检测算法。分布计算。2, 161-175 (1987) ·doi:10.1007/BF01782776
[39] Menouer,T.,LeCun,B.,Vander-Swalmen,P.:使用并行框架BobPP并行化约束编程求解器的分区方法。摘自:《第一届计算机科学、应用数学和应用国际会议论文集》,第117-127页。施普林格国际出版公司,瑞士(2013)
[40] Nemhauser,G.L.,Savelsbergh,M.W.P.,Sigismondi,G.C.:MINTO,一个混合INTeger优化器。操作。Res.Lett公司。15(1), 47-58 (1994) ·Zbl 0806.90095号 ·doi:10.1016/0167-6377(94)90013-2
[41] Ralphs,T.K.,Ladányi,L.,Saltzman,M.J.:大规模离散优化的并行分支、切割和价格。数学。程序。序列号。B 98(1-3),253-280(2003)·Zbl 1082.90102号 ·doi:10.1007/s10107-003-0404-8
[42] Ralphs,T.K.,Ládanyi,L.,Saltzman,M.J.:实现可扩展并行搜索算法的库层次结构。J.超级计算机。28(2), 215-234 (2004) ·Zbl 1062.90039号 ·doi:10.1023/B:SUPE.0000020179.55383.ad
[43] Rayward-Smith,V.J.,Rush,S.A.,McKeown,G.P.:平行分支与约束实施中的效率考虑。安·Oper。第43(1-4)号决议,123-145(1993)·Zbl 0784.90108号 ·doi:10.1007/BF02024489
[44] Schulz,M.、Galarowicz,J.、Maghrak,D.、Hachfeld,W.、Montoya,D.、Cranford,S.:Open\[|\]|Speedshop:并行性能分析的开源基础设施。科学。程序。16(2-3), 105-121 (2008)
[45] Shinano,Y.:ParaSCIP和fiberSCIP库用于并行化定制SCIP解算器(2014)。http://scip.zib.de/workshop/parascip_libraries.pdf。2014年SCIP研讨会
[46] Shinano,Y.,Achterberg,T.,Berthold,T.,Heinz,S.,Koch,T.:paraSCIP:SCIP的平行扩展。摘自:《2010年高性能计算能力》,第135-148页。斯普林格·弗拉格(Springer-Verlag),贝林·海德堡(Belin Heidelberg)(2012)
[47] Shinano,Y.、Harada,K.、Hirabayashi,R.:并行分枝定界算法的广义实用控制方案。摘自:IPPS’97:第11届并行处理国际研讨会论文集,第621页。IEEE计算机协会,华盛顿特区(1997)
[48] Shinano,Y.,Higaki,M.,Hirabayashi,R.:并行分支定界算法的通用工具。摘自:SPDP’95:第七届IEEE并行和分布式处理研讨会论文集,第392页。IEEE计算机学会,华盛顿特区(1995)
[49] Snir,M.、Otto,S.W.、Walker,D.W.、Dongarra,J.、Huss-Lederman,S.:MPI:完整参考。麻省理工学院出版社,剑桥(1995)
[50] Tschöke,S.,Polzer,T.:可移植并行分支和绑定库:PPBB Lib用户手册2.0版。Paderborn大学计算机科学系技术代表(1996年)·Zbl 1462.90104号
[51] Waldspurger,C.A.:彩票和步幅调度:灵活的比例共享资源管理。麻省理工学院电气工程与计算机科学系博士论文,剑桥(1996)·Zbl 1462.90104号
[52] Wu,M.S.,Aluru,S.,Kendall,R.A.:混合模式矩阵乘法。摘自:IEEE集群计算国际会议论文集,第195-203页(2002)
[53] Wu,X.(编辑):并行系统的性能评估、预测和可视化,《Kluwer计算机和信息科学亚洲研究国际丛书》第4卷。克鲁沃学院,斯普林格(1999)·Zbl 0927.68035号
[54] Xu,Y.,Ralphs,T.K.,Ladányi,L.,Saltzman,M.J.:并行整数编程软件框架的计算经验。信息J.计算。21, 383-397 (2009). http://coral.ie.lehigh.edu/ted/files/papers/CHiPPS-Rev.pdf·Zbl 1243.90010号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。