自动损失 swMATH编号： 42061 软件作者： 徐浩文、张浩、胡志婷、梁晓丹、萨拉赫季诺夫、埃里克·星 描述： AutoLoss：学习离散计划以进行备用优化。许多机器学习问题涉及到根据不同的参数集迭代和交替优化不同的任务目标。适当地调度一个任务目标或一组参数的优化通常对收敛质量至关重要。在本文中，我们提出了AutoLoss，这是一个元学习框架，可以自动学习并确定优化时间表。AutoLoss提供了一种从元数据表示和学习离散优化计划的通用方法，允许在涉及不同参数或不同损失目标交替更新的ML问题中使用动态和数据驱动的计划。我们将AutoLoss应用于四个ML任务：d-ary二次回归、使用多层感知器（MLP）进行分类、使用GAN生成图像以及多任务神经机器翻译（NMT）。我们表明，AutoLoss控制器能够捕获更好的优化调度的分布，从而提高所有四个任务的收敛质量。训练有素的AutoLoss控制器是通用的-它可以指导和改进对不同规格或不同数据集的新任务模型的学习。 主页： https://arxiv.org/abs/1810.02442 源代码： https://github.com/safpla/AutoLossRelease网站 相关软件： SoftAdapt软件;PIN码NTK码;深XDE;亚当;TensorFlow公司;L-BFGS公司;PyTorch公司;张量差值等式;转发差异;DiffSharp（差异锐化）;FPIN编号;DGM公司;DeepONet（深度网络）;梯度规范;NSF网络;github 引用于： 2文件 5位作者引用 1 Braga-Neto，Ulisses M。 1 李维·麦克伦尼。 1 佩迪卡里斯，巴黎G。 1 王思凡 1 于新岭 连载1篇 2 计算物理杂志 在3个字段中引用 2 数值分析（65-XX） 2 计算机科学（68至XX） 1 偏微分方程（35-XX） 按年份列出的引文