戈伦，盖伊;沙伊·瓦尔加夫提克;摩西，约拉姆 异构负载平衡系统中的随机协调。 （英语） 兹比尔07735999 分布计算。 36，第3期，253-275（2023年）. 概要：当前的数据中心和大容量云服务使用了大量异构服务器。在这种设置中，客户机请求通常会到达多个入口点，将其发送到服务器是一个紧迫的分布式系统问题。本文针对此类系统中的负载平衡问题提出了一种有效的解决方案，改进并克服了以前解决方案的问题。负载平衡问题被描述为一个随机优化问题，通过对该问题的精细数学分析，获得了一个有效的算法解决方案。最后，在模拟数据上对该解决方案进行了广泛的评估，结果表明它优于以前的解决方案。此外，生成的调度策略可以非常有效地计算，从而使该解决方案切实可行。 MSC公司： 68米14 分布式系统 68宽15 分布式算法 关键词：分布式负载平衡;异构负载平衡;随机协调调度;并行服务器模型 软件：Nginx公司;github PDF格式BibTeX公司 XML格式引用 \textit{G.Goren}等人，《分布计算》。36，编号3，253--275（2023；Zbl 07735999） 全文： 内政部 arXiv公司 参考文献： [1] 阿德勒，M。；Chakrabarti，S。；Mitzenmacher，M。；Rasmussen，L.，并行随机负载平衡，随机结构。算法，13，2，159-188（1998）·Zbl 0959.68504号 ·doi:10.1002/（SICI）1098-2418（199809）13:2<159:：AID-RSA3>3.0.CO；第2季度 [2] Anselmi，J。；Dufour，F.，《记忆能力选择：流体极限和优化》，数学。操作。决议（2020年）·兹比尔1451.90044 ·doi:10.1287/门2019.1014 [3] Assadi，S.、Bernstein，A.、Langley，Z.：分布式负载平衡的改进界限。arXiv预打印arXiv:2008.04148，（2020） [4] Atar，R.、Keslassy，I.、Orda，A.、Vargaftik，S.：持久荷载分布。随机系统，Gal Mendelson（2020）·Zbl 1450.60052号 [5] Azar，Y.、Broder，A.Z.、Karlin，A.R.、Upfal，E.：平衡分配。摘自：第二十六届ACM计算理论年会论文集，593-602，（1994）·兹比尔1345.68167 [6] Barbette，T.，Tang，C.，Yao，H.，Kostić，D.，Maguire Jr，G.Q.，Papadimitratos，P.，Chiesa，M.：保证过连接一致性的高速负载平衡器设计。第17届网络系统设计与实现（NSDI）研讨会，2020年，667-683年，（2020年） [7] Berenbrink，P。；布林克曼，A。；弗里德茨基，T。；Nagel，L.，《将球放入非均匀箱中》，J.《平行分布计算》。，74, 2, 2065-2076 (2014) ·Zbl 1327.68042号 ·doi:10.1016/j.jpdc.2013.10.008 [8] 布鲁姆，M。；弗洛伊德，RW；VR普拉特；铆钉，RL；Tarjan，RE，选择的时间界限，J.Compute。系统。科学。，7, 4, 448-461 (1973) ·Zbl 0278.68033号 ·doi:10.1016/S0022-0000（73）80033-9 [9] 博伊德，S。；Vandenberghe，L.，《凸优化》（2004），英国剑桥：剑桥大学出版社，英国剑桥·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441 [10] Czygrinow，A.，Hanćkowiak，M.，Szymanáska，E.，Wawrzyniak，W.：半匹配问题的分布式2-近似算法。摘自：分布式计算国际研讨会，210-222。施普林格（2012）·Zbl 1377.68314号 [11] 迪安·J。；路易斯安那州巴罗佐（Barroso），《尾巴在天平上》（The tail at scale），《公社》（Commun）。ACM，56，2，74-80（2013）·doi:10.1145/2408776.2408794 [12] Delimitrou，C。；Kozyrakis，C.，Paragon：异构数据中心的Qos感知调度，ACM SIGPLAN Notices，48，4，77-88（2013）·数字对象标识代码：10.1145/2499368.2451125 [13] Duato，J.，Pena，A.J，Silla，F.，Mayo，R.，Quintana-Ortí，E.S.：rcuda：减少高性能集群中基于gpu的加速器的数量。2010年高性能计算与仿真国际会议，224-231。IEEE（2010） [14] Eisenbud，D.E.，Yi，C.，Contavalli，C.，Smith，C.，Kononov，R.，Mann-Hielscher，E.，Cilingiroglu，A.，Cheyney，B.，Shang，W.，Hosein，J.D.：磁浮：一种快速可靠的软件网络负载平衡器。In:第13届USENIX网络系统设计与实现研讨会（NSDI），523-535，（2016） [15] 埃里尔马兹，A。；Srikant，R.，漂移条件隐含的渐近紧稳态队列长度界限，排队系统。，72, 3-4, 311-359 (2012) ·Zbl 1273.90054号 ·doi:10.1007/s11134-012-9305-y [16] Foss，S。；Chernova，N.，关于具有状态依赖路由的部分可访问多级队列的稳定性，排队系统。，29, 1, 55-73 (1998) ·Zbl 0915.60089号 ·doi:10.1023/A:1019175812444 [17] 甘地，R。；刘，HH；胡，YC；卢，G。；Padhye，J。；袁，L。；Zhang，M.，Duet：通过硬件和软件实现云级负载平衡，ACM SIGCOMM Compute。Commun公司。版本：44、4、27-38（2014）·doi:10.1145/2740070.2626317 [18] Gardner，K.，Jaleel，J.A.，Wickeham，A.，Doroudi，S.：异构服务器存在下的可扩展负载平衡。绩效评估（2021）·Zbl 1498.60363号 [19] 加德纳，K。；Stephens，Cole，异构系统中的智能调度，ACM SIGMETRICS Perform.Eval。第47、2、12-14版（2019年）·doi:10.1145/3374888.3374894 [20] Garrett，O.：NGINX和“两种选择的力量”负载平衡算法。，2018https://www.nginx.com/blog/nginx-power-of-two-choices-load-balancing算法，出版日期：2018年11月12日 [21] Garrett，O.：HTTP负载平衡。，(2021). https://www.nginx.com/ [22] 乔治亚迪斯，L。；尼利，MJ；Tassiulas，L.，无线网络中的资源分配和跨层控制，Found。趋势Netw。，1, 1, 1-144 (2006) ·Zbl 1119.68020号 ·数字对象标识代码：10.1561/130000001 [23] Goren，G.，Vargaftik，S.：SCD算法的实现。，(2021). https://github.com/guytechnion/stochasticaly-coordinated-despatching（https://github.com/guytichnion/stochasticaly-协调调度） [24] Goren，G.，Vargaftik，S.，Moses，Y.：并行服务器模型中的分布式调度。参加：第34届分布式计算国际研讨会（DISC 2020），（2020） [25] Govindan，R.、Minei，I.、Kallahalla，M.、Koley，B.、Vahdat，A.：要么进化，要么消亡：从谷歌网络基础设施中提取的高可用性设计原则。摘自：2016年ACM SIGCOMM会议记录，58-72，（2016） [26] Halldórsson，M。；科勒，S。；Patt Shamir，B。；Rawitz，D.，《网络中的分布式备份布局》，Distribute.Compute。，31, 2, 83-98 (2018) ·Zbl 1451.68048号 ·doi:10.1007/s00446-017-0299-x [27] Huang，M.、Wu，D.、Yu，C.H.、Fang，Z.、Interlandi，M.，Condie，T.、Cong，J.：编程和运行时支持，以在数据中心规模上实现fpga加速器部署。摘自：第七届ACM云计算研讨会论文集，456-469，（2016） [28] Jaleel，J.A.、Wickeham，A.、Doroudi，S.、Gardner，K.：异构系统的通用“断电”调度框架。(2020) ·Zbl 1498.60363号 [29] Karp，R.M.，Luby，M.，Meyer auf der Heide，F.：分布式内存机器上的高效pram模拟。算法，16（4）：517-542，（1996）·Zbl 0857.68122号 [30] Karush，W.：以不等式为辅助条件的多变量函数的极小值。芝加哥大学数学系硕士论文（1939年） [31] Kleinberg，R。；皮里奥拉斯，G。；爱沙尼亚塔尔多斯。，公告板模型Distribut.Comput.中的负载平衡。，24, 1, 21-29 (2011) ·Zbl 1231.68084号 ·doi:10.1007/s00446-011-0129-5 [32] Kuhn，H.W.，Tucker，A.W.：非线性规划。摘自：《第二届伯克利数理统计与概率研讨会论文集》，481-492，加州伯克利（1951）。加利福尼亚大学出版社 [33] Lenzen，C.等人。；Wattenhofer，R.，并行随机负载平衡的紧边界，分布式计算。，29, 2, 127-142 (2016) ·Zbl 1356.68018号 ·doi:10.1007/s00446-014-0225-4 [34] 卢，Y。；谢奇。；Kliot，G。；盖勒，A。；Larus，JR；Greenberg，A.，Join idle queue:一种用于动态可扩展web服务的新型负载平衡算法，Perform.Eval。，68, 11, 1056-1071 (2011) ·doi:10.1016/j.peva.2011.07.015 [35] Lu，Y.，Xie，Q.，Kliot，G.，Geller，A.，Larus，J.R.，Greenberg，A.：Join-Idle-Queue:一种用于动态可伸缩web服务的新型负载平衡算法。，(2011). https://www.microsoft.com/en-us/research/publication/join-idle-queue-a-novel-load-ballancing-algorithm-for-dynamically-scalable-web-services（https://http://www.microsoft.com/en-us/research/publication/join-idele-queue-an-novel-loadbalgorithm/ [36] MJ Luczak；科林·麦克迪尔米德（Colin McDiarmid），《超市模型中的最大排队长度》（Annals Probab）。，34, 2, 493-527 (2006) ·Zbl 1102.60083号 ·doi:10.1214/00911790500000710 [37] Mars，J。；Tang，L。；Hundt，R.，“同质”仓库规模计算机中的异质性：性能机会，IEEE Compute。阿基特。莱特。，10, 2, 29-32 (2011) ·doi:10.1109/L-CA.2011.14 [38] 五楼托尼·莫罗。选择NGINX Plus负载平衡技术。，2015年10月29日。https://www.nginx.com/blog/choosing-nginx-plus-load-balancing-techniques/#：：text=使用 [39] McMullen，T.：负载平衡是不可能的，（2016年）。https://www.youtube.com/watch？v=kpvbOzHUakA [40] Mitzenmacher，M.，旧信息有多有用？，IEEE传输。并行分布式系统。，11, 1, 6-20 (2000) ·数字对象标识代码：10.1109/71.824633 [41] Mitzenmacher，M.，《随机负载平衡中两种选择的力量》，IEEE Trans。并行分布式系统。，12, 10, 1094-1104 (2001) ·数字对象标识代码：10.1109/71.963420 [42] Mitzenmacher，M.：分析分布式联合队列：一种流体极限方法。在：2016年第54届阿勒顿通信、控制和计算年会，312-318。IEEE（2016） [43] Mitzenmacher，M.，Prabhakar，B.，Shah，D.：使用内存进行负载平衡。第43届IEEE计算机科学基础年会。，799-808. IEEE（2002） [44] Neely，MJ，《多用户无线下行链路的最佳能量和延迟权衡》，IEEE Trans。《信息论》，53，9，3095-3113（2007）·Zbl 1326.94013号 ·doi:10.10109/TIT.2007.903141 [45] Neely，M.J.：稳定性和容量区域或离散时间排队网络。arXiv预印arXiv:1003.3396，（2010） [46] Nishtala，R.、Carpenter，P.、Petrucci，V.、Martorell，X.：Hipster：用于延迟关键云工作负载的混合任务管理器。在：IEEE高性能计算机体系结构国际研讨会（HPCA），409-420，（2017） [47] Nocedal，J。；Wright，S.，《数值优化》（2006），柏林/海德堡：施普林格科学与商业媒体，柏林/海德堡·Zbl 1104.65059号 [48] Prekas，G.，Kogias，M.，Bugnion，E.：Zygos：实现微秒级网络任务的低尾延迟。摘自：第26届操作系统原理研讨会（SOSP），第325-341页，（2017年） [49] Schurman，E.，Brutlag，J.：网络搜索中服务器延迟、额外字节和http分块对用户和业务的影响。收录：Velocity Web性能和操作会议。O'Reilly（2009） [50] Selen，J.，Adan，I.，Kapodistria，S.，van Leeuwaarden，J.:最短预期延迟路由的稳态分析。排队系统。84(3), 309-354 (2016) ·Zbl 1386.60314号 [51] Smith，M.：Netflix技术博客。重新思考Netflix的边缘负载平衡。2018年9月，（2018）。https://netflixtechblog.com/netflix-edge-loadbalancing-695308b5548c [52] Stolyar，AL，大型异构服务系统中基于拉动的负载分配，排队系统。，80, 4, 341-361 (2015) ·Zbl 1317.90073号 ·doi:10.1007/s11134-015-9448-8 [53] Stolyar，AL，异构并行服务器之间基于Pull的负载分配：多路由器的情况，排队系统。，85, 1-2, 31-65 (2017) ·Zbl 1366.90026号 ·doi:10.1007/s11134-016-9508-8 [54] 塔罗·W·：HAProxy。测试驱动“两个随机选择的功率”负载平衡。，2019https://www.haproxy.com/blog/power-of-two-load-balancing/2019年2月15日出版 [55] Tarreau，W.：可靠、高性能的TCP/IP负载平衡器。，(2021). http://www.haproxy.org/ [56] van der Boor，M.、Borst，S.、van Leeuwaarden，J.：具有多个调度器的大型系统中的负载平衡。In:IEEE INFOCOM（2017） [57] 范德布尔，M。；Borst，S。；van Leeuwaarden，J.，具有稀疏反馈的超可扩展jsq，Proc。ACM测量。分析。计算。系统。，3, 1, 1-37 (2019) ·数字对象标识代码：10.1145/3322205.3311075 [58] Vargaftik，S.、Keslassy，I.、Orda，A.：LSQ：具有多个调度器的大规模异构系统中的负载平衡。IEEE/ACM网络汇刊，（2020） [59] Vvedenskaya，N.D.，Dobrushin，R.L.，Karpelevich，F.I.：选择两个队列中最短的队列系统：渐近方法。Problemy Peredachi Informatsii，32（1）：20-34，（1996）·兹比尔0898.60095 [60] 王，C。；冯，C。；Cheng，J.，《低延迟云服务的分布式联合队列》，IEEE/ACM Trans。净值。，26, 5, 2309-2319 (2018) ·doi:10.1109/TNET.2018.2869092 [61] 韦伯，RR，《关于将客户最优分配给并行服务器》，J.Appl。概率。，15, 2, 406-413 (1978) ·Zbl 0378.60095号 ·doi:10.2307/3213411 [62] 维基百科撰稿人。专业化——维基百科，免费百科全书。https://en.wikipedia.org/w/index.php？title=多数&oldid=993822990（2020年）。[在线；2021年1月29日访问] [63] W.Winston，《最短线路规程的优化》，J Appl。概率。，14, 1, 181-189 (1977) ·Zbl 0357.60023号 ·doi:10.2307/3213271 [64] 周，X。；Shroff，N。；Wierman，A.，《具有多个调度器的大规模异构系统中的渐近最优负载平衡》，《性能评估》。，145, 102146 (2021) ·doi:10.1016/j.peva.2020.102146 [65] 周，X。；Fei，W。；Tan，J。；孙，Y。；Shroff，N.，《设计低复杂度重载延迟优化负载平衡方案：理论到算法》，ACM POMACS，1，2，39（2017） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。