文件大小：1.31 MB 16页
AKSEL：快速拜占庭SGD
作者
-
部分： 体积： 第24届分布式系统原理国际会议（OPODIS 2020）
系列： 莱布尼茨国际信息学会议录（LIPIcs）
会议： 国际分布式系统原理会议（OPODIS） 许可证： 
Creative Commons Attribution 3.0未出口许可证 出版日期：2021-01-25
文件
文件标识符
引用为 获取BibTex
摘要
主题分类
ACM科目分类
计算方法 → 批量学习 安全和隐私 → 分布式系统安全 计算理论 → 非凸优化
关键词
机器学习 随机梯度下降算法 拜占庭式失败
韵律学
-
访问统计信息 总访问次数（每周更新） 0 PDF下载
参考文献
-
Martin Abadi等人，《Tensorflow:大规模机器学习系统》。 在2016年第12届USENIX操作系统设计与实现研讨会（OSDI 16），第265-283页。 
-
Dan Alistarh、Zeyuan Allen Zhu和Jerry Li.拜占庭随机梯度下降。 《神经信息处理系统进展》，第4613-46232018页。
-
Moran Baruch、Gilad Baruch和Yoav Goldberg。一点点就够了：避开分布式学习的防御，2019年。 网址： http://arxiv.org/abs/1902.06156 . -
佩瓦·布兰查德（Peva Blanchard）、马赫迪·穆罕默德（El Mahdi El Mhamdi）、拉希德·盖拉乌伊（Rachid Guerraoui）和朱利安·斯塔纳（Julien Stainer）。 与对手的机器学习：拜占庭容忍梯度下降。 神经信息处理系统进展30，第119-129页。 Curran Associates，Inc.，2017年。
-
莱昂·博图。 在线学习和随机近似，第9-42页。 美国剑桥大学出版社，1999年。
-
莱昂·博图（Léon Bottou）、弗兰克·E·柯蒂斯（Frank E.Curtis）和豪尔赫·诺塞达尔（Jorge Nocedal）。 大规模机器学习的优化方法。 SIAM评论，60（2）：223-3112018。
-
陈凌娇、王宏毅、查查里·查尔斯和迪米特里斯·帕皮利奥普洛斯。 DRACO：通过冗余梯度进行拜占庭式的分布式训练。 Jennifer Dy和Andreas Krause，编辑，《第35届国际机器学习会议论文集》，ICML 2018，Stockholmsmässan，瑞典斯德哥尔摩，2018年7月10日至15日，《机器学习研究论文集》第80卷，第903-912页。 PMLR，2018年。
-
陈玉东、苏丽丽和徐嘉明。 对抗环境中的分布式统计机器学习：拜占庭梯度下降。 ACM计算机系统测量与分析会议记录，1（2）：442017。
-
乔治奥斯·达马斯基诺斯（Georgios Damaskinos）、马赫迪·穆罕默德（El Mahdi El Mhamdi）、拉希德·格拉乌伊（Rachid Guerraoui）、阿尔萨尼·吉尔古斯（Arsany Guiguis）和塞巴斯蒂安·鲁奥。 Aggregathor：通过强大的梯度聚合实现拜占庭式机器学习。 2019年，SysML。
-
Georgios Damaskinos、El Mahdi El Mhamdi、Rachid Guerraoui、Rhichek Patra、Mahsa Taziki等人。拜占庭异步机器学习（sgd案例）。 在ICML中，第1153-1162页，2018年。
-
El Mahdi El Mhamdi、Rachid Guerraoui、Arsany Guirguis和LêNguyên Hoang。 天才分布式拜占庭机器学习。 PODC，2020年。
-
El Mahdi El Mhamdi、Rachid Guerraoui和Sébastien Rouault。 拜占庭分布式学习的潜在漏洞。 第35届国际机器学习会议记录，第3521-3530页。 PMLR，2018年。
-
尤里·法蒂耶夫、弗拉基米尔·沙杜罗夫、叶夫根尼·加林、德米特里·德米特里耶夫和瓦列里·泰普金。 非零数学期望中随机变量平方和的概率分布函数。 西伯利亚联邦大学学报。 数学与物理，2016年9月173-179日。
-
马蒂亚斯·福格尔和托马斯·诺瓦克。 快速多维渐近和近似一致性。 在第32届分布式计算国际研讨会（DISC 2018）上，莱布尼茨国际信息学论文集（LIPIcs）第121卷，第27:1-27:16页。 Dagstuhl-Leibniz-Zentrum fuer Informatik学校，2018年。
-
E.J.甘贝尔。 极值统计。 多本数学书籍。 多佛出版社，2004年。
-
罗伯特·赫赫特·尼尔森。 反向传播神经网络理论。感知神经网络，第65-93页。 爱思唯尔，1992年。
-
C.A.R.霍尔。 算法65：查找。 Commun公司。 美国医学会，4（7）：321–3221961年。
-
亚瑟·杰科特（Arthur Jacot）、弗兰克·加布里埃尔（Frank Gabriel）和克莱门特·洪勒（Clément Hongler）。 神经切线核：神经网络中的收敛和泛化。 《神经信息处理系统进展》，第8571-8580页，2018年。
-
S.Kotz和S.Nadarajah。 极值分布。 世界科学出版公司，2000年。
-
汉谟拉比·门德斯（Hammurabi Mendes）、莫里斯·赫利希（Maurice Herlihy）、尼丁·维迪亚（Nitin Vaidya）和维杰·加格（Vijay Garg）。拜占庭体系中的多维协议。 分布式计算，28:1-19，2015。
-
F.Mosteller和J.W.Tukey。 数据分析与回归：统计学第二课程。 艾迪生-韦斯利行为科学系列，1977年。
-
Lam M.Nguyen、Phuong Ha Ngueen、Marten van Dijk、Peter Richtárik、Katya Scheinberg和Martin Takánch。 警长和霍格沃德！ 2018年，在没有有界梯度假设的情况下收敛。
-
B.T.波利亚克和A.B.朱迪茨基。 通过平均加速随机近似。 SIAM控制与优化杂志，30（4）：838–8551992年。
-
彼得·卢梭。 高崩溃点的多元估计。 数学统计与应用，8:283-2971985。
-
David E Rumelhart、Geoffrey E Hinton和Ronald J Williams。 通过错误传播学习内部表示。 技术报告，加利福尼亚大学圣地亚哥拉荷亚认知科学研究所，1985年。
-
弗雷德·施耐德。 使用状态机方法实现容错服务：教程。 ACM计算机。 调查。， 22（4）：299–3191990年。
-
V.Vapnik。 学习理论的风险最小化原则。 J.E.Moody、S.J.Hanson和R.P.Lippmann主编，《神经信息处理系统进展》4，第831-838页。 Morgan-Kaufmann，1992年。
-
Cong Xie、Oluwasanmi Koyejo和Indranil Gupta。 通用拜占庭容忍标准，2018年。
-
Cong Xie、Oluwasanmi Koyejo和Indranil Gupta。 福卡斯：维拜占庭恢复随机梯度下降，2018年。
-
Cong Xie、Oluwasanmi Koyejo和Indranil Gupta。 帝国的衰落：通过内部产品操纵打破拜占庭式的容忍战略。 在UAI中，机器学习研究论文集第115卷，第261-270页。 PMLR，2020年。
-
董寅、陈玉东、兰昌德兰·坎南和彼得·巴特利特。 拜占庭式分布式学习：走向最佳统计率。 《第35届国际机器学习会议论文集》，《机器学习研究论文集》第80卷，第5650-5659页。 PMLR，2018年。