主页

论文

提交文件

新闻

编辑委员会

开源软件

程序(PMLR)

交易(TMLR)

搜索

统计

登录

常见问题

联系我们



RSS源

CoCoA:通信高效分布式优化的通用框架

弗吉尼亚·史密斯(Virginia Smith)、西蒙·福特(Simone Forte)、马晨欣(Chenxin Ma)、马丁·塔卡(Martin Takánch)、迈克尔·乔丹(Michael I.Jordan)、马汀·贾吉(Martin-Jaggi); 18(230):1−49, 2018.

摘要

现代数据集的规模要求为机器学习开发高效的分布式优化方法。我们提出了一个用于分布式计算环境的通用框架CoCoA,它具有高效的通信方案,适用于机器学习和信号处理中的各种问题。我们将该框架扩展到涵盖一般的非强凸正则化子,包括L1正则化问题,如套索、稀疏逻辑回归和弹性网正则化,并展示了如何将早期工作作为特例进行推导。我们利用一种处理非强凸正则化子和非光滑损失函数的新方法,为这类凸正则化损失最小化目标提供了收敛保证。正如我们在实际分布式数据集上进行的一组广泛的实验所证明的那样,与最先进的方法相比,由此产生的框架显著提高了性能。

[腹肌][pdf格式][围兜]      
©JMLR公司2018(编辑,β)