杰夫·拉斯利
人员信息
优化列表
2020年–今天
2024 [i8] 康纳·霍尔姆斯 , 田中将大 , 迈克尔·怀亚特 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , Samyam Rajbhandari先生 , 雷扎·亚兹达尼·阿米纳巴迪 , 合阳琴 , 阿拉什·巴赫蒂亚里 , 列夫·库里连科 , 何玉雄 :
DeepSpeed-FastGen:通过MII和DeepSpead-Inference为LLM生成高通量文本。 CoRR公司 abs/2401.08671 ( 2024 ) 2023 [第14条] 昆汀·安东尼 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , 何玉雄 , 阿米尔·沙菲 , 穆斯塔法·阿卜杜勒贾巴尔 , 哈里·苏布拉莫尼 , Dhabaleswar K.熊猫 :
MCR-DL:用于深度学习的混合和匹配通信运行时。 IPDPS公司 2023 : 996-1006 [i7] 昆汀·安东尼 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , 何玉雄 , 阿米尔·沙菲 , 穆斯塔法·阿卜杜勒贾巴尔 , 哈里·苏布拉莫尼 , Dhabaleswar K.熊猫 :
MCR-DL:用于深度学习的混合和匹配通信运行时。 CoRR公司 abs/2303.08374 ( 2023 ) [i6] 姚哲伟 , 雷扎·亚兹达尼·阿米纳巴迪 , Olatunji Ruwase公司 , Samyam Rajbhandari先生 , 吴晓霞 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , 张敏佳 , 李从龙 , 康纳·霍尔姆斯 , 周忠珠 , 迈克尔·怀亚特 , 莫莉·史密斯 , 列夫·库里连科 , 合阳琴 , 田中将大 , 帅车 , 宋帅文 , 何玉雄 :
DeepSpeed-Chat:轻松、快速、经济实惠的RLHF训练,适用于各种规模的ChatGPT-like模型。 CoRR公司 abs/2308.01320 ( 2023 ) [i5] 宋帅文 , 邦妮·克鲁夫特 , 张敏佳 , 李从龙 , 陈石阳 , 张成明 , 田中将大 , 吴晓霞 , 杰夫·拉斯利 , 阿马尔·艾哈迈德·阿旺 , 康纳·霍尔姆斯 , 马丁·蔡 , 亚当·加尼姆 , 周忠珠 , 何玉雄 , 皮特·卢费连科 , 迪维亚·库马尔 , 乔纳森·韦恩 , 张瑞雄 , 西尔维斯特·科洛克 , 沃洛德米尔·弗拉戈夫 , 穆罕默德·阿尔库拉西 , 古斯塔夫·阿赫德里茨 , 克里斯蒂娜·弗洛里斯坦 , 克里斯蒂娜·内格里 , 拉奥·科塔马西 , 文卡特拉姆·维什瓦纳 , 阿尔文德·拉马纳森 , 萨姆·福尔曼 , 凯尔·希佩 , 特洛伊·阿科曼诺 , 罗米特·莫利克 , 马克西姆·兹维亚金 , 亚历山大·布拉斯 , Bin Zhang(张斌) , 辛迪·奥罗斯科·博霍克斯 , 奥斯汀·克莱德 , 巴拉特·卡莱 , 丹尼尔·佩雷兹·里维拉 , Heng Ma公司 , 卡拉·曼恩 , 迈克尔·欧文 , J.格雷戈里·保洛斯基 , 洛根·T·沃德 , 瓦莱里·海奥特·萨森 , 穆拉利·埃马尼 , 甄燮 , 林殿根 , 毛利克·舒克拉 , 伊恩·福斯特 , 詹姆斯·戴维斯 , 迈克尔·帕普卡 , 托马斯·布雷廷 , 普拉桑娜·巴拉普拉卡什 , 吉娜·图拉西 , 约翰·古恩利 , 海蒂·A·汉森 , 托马斯·波托克 , 马西米利亚诺·卢波·帕西尼 , 凯特·伊万斯 , 丹露 , 道尔顿·D·伦加 , 尹俊奇 , 萨加尔·达什 , 王飞毅 , Mallikarjun Shankar公司 , 艾萨克·林加斯 , 小王 , 国净聪 , 张培(音译) , 明凡 , 刘思燕 , 阿道夫·霍西 , Shinjae Yoo先生 , 任一辉 , 邓肇怡 , 凯尔·费尔克 , 阿列克谢·斯维亚特科夫斯基 , 刘杭(Hang Liu) , 阿什温·M·阿吉 , 安吉拉·道尔顿 , 迈克尔·舒尔特 , 卡尔·舒尔茨 , 邓云田 , 聂伟力 , 乔什·罗梅罗 , 克里斯蒂安·达尔拉戈 , 阿拉什·瓦达特 , 肖朝伟 , 托马斯·吉布斯 , 阿尼玛·阿南德库马尔 , 里克史蒂文斯 :
DeepSpeed4Science Initiative:通过复杂的人工智能系统技术实现大规模科学发现。 CoRR公司 腹肌/2310.04610 ( 2023 ) 2022 [第13条] Samyam Rajbhandari先生 , 李从龙 , 姚哲伟 , 张敏佳 , 雷扎·亚兹达尼·阿米纳巴迪 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , 何玉雄 :
DeepSpeed MoE:推进专家推理和训练的混合,为下一代人工智能规模提供动力。 ICML公司 2022 : 18332-18346 [第12条] 雷萨·亚兹达尼·阿米纳巴迪 , Samyam Rajbhandari先生 , 阿马尔·艾哈迈德·阿旺 , 程莉 , 杜丽 , 埃尔顿·郑 , Olatunji Ruwase公司 , 沙登·史密斯 , 张敏佳 , 杰夫·拉斯利 , 何玉雄 :
深度推理:实现前所未有规模的变压器模型高效推理。 联合国安全理事会 2022 : 46:1-46:15 [i4] Samyam Rajbhandari先生 , 李从龙 , 姚哲伟 , 张敏佳 , 雷扎·亚兹达尼·阿米纳巴迪 , 阿马尔·艾哈迈德·阿旺 , 杰夫·拉斯利 , 何玉雄 :
DeepSpeed MoE:推进专家推理和训练的混合,为下一代人工智能规模提供动力。 CoRR公司 abs/2201.05596 ( 2022 ) [i3] 雷扎·亚兹达尼·阿米纳巴迪 , Samyam Rajbhandari先生 , 张敏佳 , 阿马尔·艾哈迈德·阿旺 , 程莉 , 杜丽 , 埃尔顿·郑 , 杰夫·拉斯利 , 沙登·史密斯 , Olatunji Ruwase公司 , 何玉雄 :
深度推理:以前所未有的规模实现变压器模型的高效推理。 CoRR公司 abs/2207.00032 ( 2022 ) 2021 [第11条] Samyam Rajbhandari , Olatunji Ruwase公司 , 杰夫·拉斯利 , 沙登·史密斯 , 何玉雄 :
ZeRO-infinity:打破GPU记忆墙,实现极端规模的深度学习。 联合国安全理事会 2021 : 59 [i2] Samyam Rajbhandari先生 , Olatunji Ruwase公司 , 杰夫·拉斯利 , 沙登·史密斯 , 何玉雄 :
ZeRO-Infinity:打破GPU记忆墙,实现极限深度学习。 CoRR公司 abs/2104.07857 ( 2021 ) 2020 [第10条] 杰夫·拉斯利 , Samyam Rajbhandari先生 , Olatunji Ruwase公司 , 何玉雄 :
DeepSpeed:系统优化支持训练超过1000亿个参数的深度学习模型。 KDD公司 2020 : 3505-3506 【c9】 Samyam Rajbhandari先生 , 杰夫·拉斯利 , 奥拉通吉·鲁瓦塞 , 何玉雄 :
ZeRO:针对训练万亿参数模型的内存优化。 联合国安全理事会 2020 : 20
2010 – 2019
2019 【b1】 杰夫·拉斯利 :
应用程序软件群集资源管理。 美国布朗大学, 2019 【c8】 张敏佳 , Samyam Rajbhandari先生 , 王文翰(Wenhan Wang) , 埃尔顿·郑 , Olatunji Ruwase公司 , 杰夫·拉斯利 , 杰森·李 , 王俊华 , 何玉雄 :
通过微软的DeepCPU加速大规模深度学习推理。 OpML(操作ML) 2019 : 5-7 [i1] Samyam Rajbhandari , 杰夫·拉斯利 , Olatunji Ruwase公司 , 何玉雄 :
ZeRO:面向训练万亿参数模型的内存优化。 CoRR公司 abs/1910.02054 ( 2019 ) 2017 【c7】 杰夫·拉斯利 , 何玉雄 , 冯燕 , Olatunji Ruwase公司 , 罗德里戈·丰塞卡 :
HyperDrive:使用POP调度探索超参数。 中间件 2017 : 1-13 2016 【c6】 杰夫·拉斯利 , 康斯坦蒂诺斯·卡拉纳索斯 , 斯里坎思·坎杜拉 , 罗德里戈·丰塞卡 , 米兰-沃伊诺维奇 , 斯里拉姆·拉奥 :
集群调度的高效队列管理。 欧洲系统 2016 : 36:1-36:15 2015 【c5】 亚历山大·帕普塔基 , 华国 , 达娜·梅塔克萨·卡卡沃利 , 康诺·格拉马齐奥 , 杰夫·拉斯利 , 谢文婷 , 关王(Guan Wang) , 黄立成 :
从无到有的众包:初学者收集数据的语用实验。 HCOMP公司 2015 : 140-149 【c4】 杰夫·拉斯利 , 埃利尼·盖西奥 , 托尼·奥曼 , 尤里·布伦 , 克里希纳穆西神社 , 贾斯汀·卡波斯 :
检测潜在的跨平台API违规。 ISSRE公司 2015 : 484-495 2014 【c3】 杰夫·拉斯利 , 布伦特·斯蒂芬斯 , 迪克森 , 埃里克·罗兹纳 , 韦斯·费尔特 , 卡纳克·阿加瓦尔 , 约翰·卡特 , 罗德里戈·丰塞卡 :
通过超额订阅端口镜像进行低损耗网络监控。 国家统计局 2014 【c2】 杰夫·拉斯利 , 布伦特·斯蒂芬斯 , 迪克森 , 埃里克·罗兹纳 , 韦斯·费尔特 , 卡纳克·阿加瓦尔 , 约翰·卡特 , 罗德里戈·丰塞卡 :
普朗克:商品网络的毫秒级监控。 SIGCOMM公司 2014 : 407-418 2010 【c1】 贾斯汀·卡波斯 , 阿蒙·戴加 , 杰夫·拉斯利 , 贾斯汀·塞缪尔 , 伊万·贝沙特尼克 , 科斯敏·巴桑 , 阿尔温德·克里斯纳姆塞 , 托马斯·安德森 :
尽管特权内存安全代码中存在漏洞,但仍保留了沙盒容器。 CCS系统 2010 : 212-223