自动调谐 swMATH ID: 37882 软件作者： Patrick Koch、Oleg Golovidov、Steven Gardner、Brett Wujek、Joshua Griffin、Yan Xu 描述： Autotune：一个用于超参数调整的无导数优化框架。机器学习应用程序通常需要超参数调整。超参数通常会驱动模型训练过程的效率和生成的模型质量。对于超参数调整，机器学习算法是复杂的黑盒。这就产生了一类具有挑战性的优化问题，其目标函数往往是非光滑的、不连续的、计算费用不可预测变化的，并且包括连续变量、类别变量和/或整数变量。此外，功能评估可能因各种原因而失败，包括数字困难或硬件故障。此外，并非所有超参数值组合都兼容，这会创建所谓的隐藏约束。超参数整定需要稳健高效的优化算法。在本文中，我们提出了一种称为Autotune的自动并行无导数优化框架，该框架结合了许多专门的采样和搜索方法，尽管存在这些挑战，但这些方法在调整机器学习模型方面非常有效。与使用默认超参数设置相比，Autotune提供了显著改进的模型，在实际应用程序上用户交互最少。考虑到训练众多候选模型的固有开销，我们证明了Autotune搜索方法的有效性，以及训练和调整模型的高效分布式并行范例，并且还讨论了与分发训练过程和并行调整过程能力相关的资源权衡。 主页： https://arxiv.org/abs/1804.07824 相关软件： 小型计算机;青蒿素;自动锁相环;github;汽车-WEKA;Hyperopt公司;参数;MO-参数;汽车Keras;PyTorch公司;AlexNet公司;OpenML-CC18接口;AlphaD3M（字母3M）;TPOT公司;开放多媒体程序库;可调性;超波段;类鸟群;样品清洁;主动清洁 引用于： 2文件 5位作者引用 1 米特拉·巴拉奇 1 霍尔格·H·胡斯。 1 Marco F.Huber。 1 吉尔斯·奥特万格 1 马克·安德烈·泽勒 2篇连载文章中引用 1 人工智能研究杂志 1 数据挖掘与知识发现 在2个字段中引用 2 计算机科学（68至XX） 1 统计学（62-XX） 按年份列出的引文