×

AIDE公司

swMATH ID: 28438
软件作者: 萨珊克·雷迪(Sashank J.Reddi)、雅库布·科内奇(Jakub Koneñn)、彼得·里奇塔里克(Peter Richtárik)、巴纳巴斯·波茨(Barnabás Póczós)、亚历克斯·斯莫拉(Alex Smola)
说明: 目的:快速且通信高效的分布式优化。在本文中,我们提出了两种新的通信效率方法来实现函数平均值的分布式最小化。第一种算法是DANE算法的不精确变体,它允许任何局部算法返回局部子问题的近似解。我们表明,这种策略不会显著影响DANE的理论保证。事实上,我们的方法可以被视为一种鲁棒化策略,因为该方法在实际出现的数据分区方面比DANE表现得更好。众所周知,DANE算法与通信复杂度下限不匹配。为了弥合这一差距,我们提出了第一种方法的加速变体,称为AIDE,它不仅符合通信下限,而且可以使用纯一阶预言机实现。我们的经验结果表明,在机器学习应用中自然出现的环境中,AIDE优于其他高效通信算法。
主页: https://arxiv.org/abs/1608.06879(网址:https://arxiv.org/abs/1608.06879)
相关软件: DiSCO公司;D-ADMM公司;RCV1型;亚当;阿帕奇火花;传奇;伦敦银行支持向量机;HOGWILD公司;DSCOVR公司;时尚-MNIST;EMNIST公司;CIFAR公司;叶子;脚手架;MNIST公司;UCI-毫升;MapReduce;PyTorch公司;mpi4py;CNTK公司
引用于: 10文件

按年份列出的引文