王宏毅 0001
人员信息
附属: 美国宾夕法尼亚州匹兹堡卡内基梅隆大学机器学习系 从属关系(博士2021): 美国威斯康星大学麦迪逊分校
其他同名人员
王宏毅 (又名:王宏毅) — 消歧页 王宏毅 0002 -浙江大学计算机科学与技术学院,中国杭州 王宏毅 0003 -中国长沙国防科技大学电子科学学院 王宏毅 0004 -清华大学计算机科学与技术系,中国北京 王宏毅 0005 — 天宫大学,人工智能学院,天津电气设备智能控制重点实验室,天津,中国 (还有2个以上) 王宏毅 0006 -重庆科技大学智能技术与工程学院,中国重庆 王宏毅 0007 -美国纽约哥伦比亚大学 王宏毅 0008 — 中国广州华南理工大学电子与信息工程学院 (还有1个) 王宏毅 0009 -清华大学软件学院电子工程系,中国北京 王宏毅 0010 (又名:王宏毅 0010 ) — 西安交通大学微电子学院,微纳米电子学与系统集成重点实验室,西安,中国 (还有2个以上) 王宏毅 0011 -奥尔堡大学,AAU能源系,丹麦奥尔堡 王宏毅 0013 -马里兰大学电气工程系,系统研究所,医学博士,美国 王宏毅 0014 — 北京先锋高新技术开发公司,中国北京 (还有1个)
其他同名人员
王洪毅 0012 -加拿大维多利亚大学计算机科学系
优化列表
2020年–今天
2024 [i29] 孙立超 , 岳煌 , 王浩然 , 吴思源 , 张启辉(Qihui Zhang) , 高楚杰 , 黄一新 , 文汉·吕 , 张一轩 , 李欣儿 , 刘正良 , 刘一新 , 王一觉 , 张志坤 , 巴维亚·凯尔库拉 , 熊才明 , 肖朝伟 , 李春元 , 埃里克·P·星 , 黄芙蓉 , 郝刘 , 恒基 , 王宏毅 , 张欢(音) , 姚华秀 , 马诺利斯·凯利斯 , Marinka Zitnik公司 , 孟江 , 莫希特·班萨尔 , 詹姆斯·邹 , 简培 , 刘健 , 高剑锋 , 韩嘉伟 , 赵洁宇 , 吉良堂 , 王金东 , 约翰·米切尔 , 楷书 , 徐凯迪 , Kai-Wei Chang公司 , 何丽芳 , 黄立福 , 迈克尔·巴克斯 , 龚振强 , 菲利普·S·余 , 陈品玉(Pin-Yu Chen) , 顾泉泉 , 冉旭 , 雷克斯·英 , 水王记 , 苏曼·贾纳 , 陈天龙 , 刘天明 , 周天一 , 威廉·王 , 向丽 , 张向良 , 小王 , 邢燮 , 陈勋 , 王旭宇 , 刘燕(Yan Liu) , 叶燕芳 , 曹银芝 , 岳照 :
TrustLLM:大型语言模型中的可信度。 CoRR公司 abs/2401.05561 ( 2024 ) 2023 [第18条] 韩过(Han Guo) , 菲利普·格林加德 , 王宏毅 , 安德鲁·格尔曼 , 尹金(Yoon Kim) , 埃里克·P·星 :
作为变分推理的联合学习:一种可扩展的期望传播方法。 ICLR公司 2023 [第17条] 李大成 , 王宏毅 , 邵汝林 , 韩过(Han Guo) , 埃里克·P·星 , 张浩(Hao Zhang) :
MPCFORMER:使用MPC进行快速、高效和主动的变压器推断。 ICLR公司 2023 [第16条] 王红一 , 索拉巴·阿加瓦尔 , 蓬萨科恩U.-丘帕拉 , 田中吉崎 , 埃里克·P·星 , 迪米特里斯·帕皮略普洛斯 :
墨鱼:无需调整的低水位模型训练。 MLSys公司 2023 [第15条] 李俊波 , 李安(Ang Li) , 崇天 , 何其荣 , 埃里克·P·星 , 王宏毅 :
FedNAR:采用归一化退火正则化的联合优化。 NeurIPS公司 2023 [第28条] 宋卞 , 李大成 , 王宏毅 , 埃里克·P·星 , Shivaram Venkataraman公司 :
压缩激活是否有助于模拟并行训练? CoRR公司 abs/2301.02654 ( 2023 ) [i27] 韩过(Han Guo) , 菲利普·格林加德 , 王宏毅 , 安德鲁·格尔曼 , 尹·金 , 埃里克·P·星 :
作为变分推理的联合学习:一种可扩展的期望传播方法。 CoRR公司 abs/2302.04228 ( 2023 ) [i26] 张凯(Kai Zhang) , 宇通戴 , 王宏毅 , 埃里克·P·星 , 陈勋 , 孙立超 :
记忆自适应深度异构联合学习。 CoRR公司 abs/2303.04887 ( 2023 ) [i25] 王宏毅 , 索拉巴·阿加瓦尔 , 蓬萨科恩U.-丘帕拉 , 田中吉崎 , 埃里克·P·星 , Dimitris S.Papailiopoulos公司 :
墨鱼:无需调整的低水位模型训练。 CoRR公司 abs/2305.02538 ( 2023 ) 【i24】 塞缪尔·霍瓦思 , 斯特凡诺斯·拉斯卡里迪斯 , 沙申克·拉吉普特 , 王红一 :
大师:通过可训练分解揭示低级别结构。 CoRR公司 abs/2308.14929 ( 2023 ) [i23] 沈志强 , 陶天华 , 利群马 , 威利·内斯旺格 , 刘正中 , 王宏毅 , 鲍文·谭 , 乔尔·赫斯特内斯 , 纳塔莉亚·瓦西里耶娃 , 达丽亚·索博列娃 , 埃里克·P·星 :
SlimPajama-DC:了解LLM培训的数据组合。 CoRR公司 abs/2309.10818 ( 2023 ) [i22] 王宏毅 , 菲利佩·迈亚·波罗 , 孙月凯 , Souvik Kundu公司 , 埃里克·P·星 , 米哈伊尔·尤罗奇金 :
将模型与补充专业知识融合。 CoRR公司 abs/2310.01542 ( 2023 ) 【i21】 李俊波 , 李安(Ang Li) , 崇天 , 何其荣 , 埃里克·P·星 , 王宏毅 :
FedNAR:具有归一化退火正则化的联合优化。 CoRR公司 abs/23100.3163 ( 2023 ) [i20] 鲍文·谭 , 朱云(Yun Zhu) , 刘丽娟 , 王宏毅 , 壮永浩 , 陈金东 , 埃里克·P·星 , 胡志婷 :
Redco:一个轻量级工具,用于在任何GPU/TPU上自动化LLM的分布式训练。 CoRR公司 abs/2310.16355 ( 2023 ) [i19] 闫明浩 , 王宏毅 , Shivaram Venkataraman公司 :
PolyThrottle:Edge设备上的节能神经网络推断。 CoRR公司 abs/2310.19991 ( 2023 ) [i18] 刘正中 , 奥里克·乔 , 威利·内斯旺格 , 王宏毅 , 鲍文·谭 , 陶天华 , 李俊波 , 王玉琦(Yuqi Wang) , 孙素琪 , Omkar Pangarkar公司 , 理查德·范 , 易古 , 维克托·米勒 , 壮永浩 , 何国伟 , 李浩南 , 法里·库托 , 李平堂 , 尼基尔·兰扬 , 沈志强 , 徐光仁 , 罗伯托·伊里昂多 , 村木 , 胡志婷 , 马克·舒尔茨 , 普雷斯拉夫·纳科夫 , 提姆·鲍德温 , 埃里克·P·星 :
LLM360:走向完全透明的开放源代码LLM。 CoRR公司 abs/2312.06550 ( 2023 ) 2022 [第14条] 张凯(Kai Zhang) , Yu Wang(王宇) , 王宏毅 , 黄立福 , 卡尔·杨 , 陈勋 , 孙立超 :
基于隐私保护关系嵌入聚合的知识图高效联合学习。 EMNLP(调查结果) 2022 : 613-621 [第13条] 索拉巴·阿加瓦尔 , 王宏毅 , Shivaram Venkataraman公司 , Dimitris S.Papailiopoulos公司 :
梯度压缩在分布式训练系统中的应用。 MLSys公司 2022 [第12条] 李大成 , 王宏毅 , 埃里克·P·星 , 张浩(Hao Zhang) :
AMP:具有异质性意识的自动查找模型并行策略。 NeurIPS公司 2022 [第11条] 卡蒂克·斯列尼瓦桑 , 孙智勇 , 刘洋 , 马修·格林德 , 阿利奥特·纳格尔 , 王宏毅 , 埃里克·P·星 , 李康旭 , Dimitris S.Papailiopoulos公司 :
稀有宝石:在初始化时找到彩票。 NeurIPS公司 2022 [i17] 卡蒂克·斯列尼瓦桑 , Jy-yong Sohn先生 , 刘洋 , 马修·格林德 , 阿利奥特·纳格尔 , 王宏毅 , 李康旭 , Dimitris S.Papailiopoulos公司 :
稀有宝石:在初始化时找到彩票。 CoRR公司 abs/2202.12002 ( 2022 ) [i16] 张凯(Kai Zhang) , Yu Wang(王宇) , 王宏毅 , 黄立福 , 卡尔·杨 , 孙立超 :
基于隐私保护关系嵌入聚合的知识图高效联合学习。 CoRR公司 腹肌/2203.09553 ( 2022 ) 【i15】 李大成 , 王宏毅 , 埃里克·P·星 , 张浩(Hao Zhang) :
AMP:具有异质性意识的模型并行策略自动查找。 CoRR公司 abs/2210.07297 ( 2022 ) [第14条] 李大成 , 邵汝林 , 王宏毅 , 韩过(Han Guo) , 埃里克·P·星 , 张浩(Hao Zhang) :
MPC变形器:使用MPC进行快速、高效和私有的Transformer推理。 CoRR公司 abs/2211.01452 ( 2022 ) 2021 [第10条] 索拉巴·阿加瓦尔 , 王宏毅 , 李康旭 , Shivaram Venkataraman公司 , Dimitris S.Papailiopoulos公司 :
通过关键学习机制识别的自适应梯度通信。 MLSys公司 2021 【c9】 王红一 , 索拉巴·阿加瓦尔 , Dimitris S.Papailiopoulos公司 :
河豚鱼:无需额外费用的高效沟通模型。 MLSys公司 2021 [i13] 索拉巴·阿加瓦尔 , 王宏毅 , Shivaram Venkataraman公司 , Dimitris S.Papailiopoulos公司 :
梯度压缩在分布式训练系统中的应用。 CoRR公司 abs/2103.00543 ( 2021 ) [i12] 王宏毅 , 索拉巴·阿加瓦尔 , Dimitris S.Papailiopoulos公司 :
河豚鱼:无需额外费用的高效沟通模型。 CoRR公司 abs/2103.03936 ( 2021 ) [i11] 王建宇 , 扎卡里·查尔斯 , 郑旭 , 高利·乔希 , H.Brendan McMahan先生 , 布莱斯·阿圭拉(Blaise Agüera y Arcas) , Maruan Al-Shedivat公司 , 盖伦·安德鲁 , Salman Avestimehr公司 , 凯瑟琳·戴利 , 深化数据 , 苏哈斯·迪加维 , 休伯特·艾奇纳 , 阿德瓦伊特·加迪卡尔 , 扎卡里·加勒特 , 安东尼厄斯·吉尔吉斯 , 菲利普·汉泽利 , 安德鲁·哈德 , 朝阳河 , 塞缪尔·霍瓦思 , 霍周元 , 亚历克斯·英格曼 , 马丁·贾吉 , 塔拉·贾维迪 , 彼得·凯鲁兹 , 萨蒂恩·凯尔 , 赛普拉内斯·卡里米雷迪 , 雅库布·科内肯(Jakub Konecn) , 桑米·科耶霍 , 田莉 , 刘璐阳 , 梅赫亚尔·莫赫里 , 杭琪(Hang Qi) , 萨珊克·雷迪 , 彼得·里奇塔里克 , 卡兰·辛哈尔 , 辑弗吉尼亚·史密斯 , 马赫迪·索塔诺尔科塔比 , 宋卫康 , 阿南达·瑟塔·苏雷什 , 塞巴斯蒂安·U·斯蒂奇 , 阿梅特·塔瓦尔卡 , 王宏毅 , 布莱克·伍德沃思 , 吴珊珊 , 费利克斯·X·余 , 袁宏林 , 曼齐尔·扎希尔 , 张咪(Mi Zhang) , 张彤(音译) , 郑春香 , 陈竺 , 朱文南 :
联合优化现场指南。 CoRR公司 abs/2107.06917 ( 2021 ) [i10] 陈玲娇 , 陈乐昌 , 王宏毅 , 苏珊·B·戴维森 , 埃德加·多布里班 :
梭伦:通过冗余梯度实现高效沟通的拜占庭式分布式训练。 CoRR公司 abs/2110.01595 ( 2021 ) 2020 【c8】 王宏毅 , 米哈伊尔·尤罗奇金 , 孙月凯 , Dimitris S.Papailiopoulos公司 , 雅萨曼·卡扎尼 :
联合学习与匹配平均。 ICLR公司 2020 【c7】 王宏毅 , 卡蒂克·斯列尼瓦桑 , 沙申克·拉吉普特 , 哈利特·维什瓦卡玛 , 索拉巴·阿加瓦尔 , Jy-yong Sohn先生 , 李康旭 , Dimitris S.Papailiopoulos公司 :
尾巴攻击:是的,你真的可以后门联合学习。 NeurIPS公司 2020 [第九章] 王宏毅 , 米哈伊尔·尤罗奇金 , 孙月凯 , Dimitris S.Papailiopoulos公司 , 雅萨曼·卡扎尼 :
联合学习与匹配平均。 CoRR公司 abs/2002.06440 ( 2020 ) [i8] 王宏毅 , 卡蒂克·斯列尼瓦桑 , 沙申克·拉吉普特 , 哈利特·维什瓦卡玛 , 索拉布·阿加瓦尔 , Jy-yong Sohn先生 , 李康旭 , Dimitris S.Papailiopoulos公司 :
尾巴攻击:是的,你真的可以后门联合学习。 CoRR公司 abs/2007.05084 ( 2020 ) [i7] 朝阳河 , 李松泽 , 金云So , 张咪(Mi Zhang) , 王宏毅 , 王晓阳 , Praneeth Vepakomma公司 , 阿比谢克·辛格 , 杭秋 , 李深 , 赵培林 , 阎康 , 杨柳 , 拉梅什·拉斯卡尔 , 强阳(Qiang Yang) , 穆拉利·阿纳瓦拉姆 , Salman Avestimehr公司 :
FedML:联合机器学习的研究库和基准。 CoRR公司 abs/2007.13518 ( 2020 ) [i6] 索拉巴·阿加瓦尔 , 王宏毅 , 李康旭 , Shivaram Venkataraman公司 , Dimitris S.Papailiopoulos公司 :
手风琴:通过关键学习机制识别的自适应梯度交流。 CoRR公司 腹肌/2016.16248 ( 2020 )
2010 – 2019
2019 【c6】 沙申克·拉吉普特 , 王宏毅 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 :
DETOX:一个基于冗余的框架,用于更快、更稳健的梯度聚合。 NeurIPS公司 2019 : 10320-10330 【c5】 陈玲娇 , 王宏毅 , 陈乐昌 , Paraschos Koutris公司 , 阿伦·库马尔 :
Nimbus演示:数据市场中基于模型的机器学习定价。 SIGMOD会议 2019 : 1885-1888 [i5] 王红一 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 :
ErasureHead:使用近似渐变编码的无延迟分布式渐变下降。 CoRR公司 abs/1901.09671 ( 2019 ) [i4] 沙申克·拉吉普特 , 王宏毅 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 :
DETOX:一个基于冗余的框架,用于更快、更稳健的梯度聚合。 CoRR公司 abs/1907.12205 ( 2019 ) 2018 【c4】 陈玲娇 , 王宏毅 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 :
DRACO:通过冗余梯度进行拜占庭恢复分布式训练。 ICML公司 2018 : 902-911 【c3】 陈玲娇 , 王宏毅 , 赵金曼 , Dimitris S.Papailiopoulos公司 , Paraschos Koutris公司 :
网络宽度对大跨步训练成绩的影响。 NeurIPS公司 2018 : 9322-9332 【c2】 王宏毅 , 斯科特·西弗特 , 刘胜超 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 , 斯蒂芬·莱特 :
ATOMO:通过原子稀疏化实现高效沟通学习。 NeurIPS公司 2018 : 9872-9883 [i3] 陈玲娇 , 王宏毅 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 :
DRACO:通过冗余梯度进行稳健的分布式训练。 CoRR公司 abs/1803.09877 ( 2018 ) [i2] 陈玲娇 , 王宏毅 , 赵金曼 , Dimitris S.Papailiopoulos公司 , Paraschos Koutris公司 :
网络宽度对大跨步训练成绩的影响。 CoRR公司 abs/1806.03791 ( 2018 ) [i1] 王宏毅 , 斯科特·西弗特 , 刘胜超 , 扎卡里·查尔斯 , Dimitris S.Papailiopoulos公司 , 斯蒂芬·莱特 :
ATOMO:通过原子稀疏化实现高效沟通学习。 CoRR公司 abs/1806.04090 ( 2018 ) 2017 【c1】 Subramani大师 , 丹尼尔·拉基塔 , 王宏毅 , 乔丹·布莱克 , 迈克尔·津恩 , 迈克尔·格莱彻 :
通过力感应识别触觉操作过程中的动作。 IROS公司 2017 : 4386-4393