在线结构化元学习

的一部分神经信息处理系统的进展33（NeurIPS 2020）

作者

姚华秀、周英波、迈赫达德·马哈达维、李振辉、理查德·索彻、熊彩明

摘要

快速学习对于部署在在线平台上的机器智能非常重要。元学习具有从学习任务中传递知识的能力，通过不断更新学习先验知识的模型，在在线场景中显示出其有效性。然而，当前的在线元学习算法仅限于学习全局共享的元学习器，当任务包含难以共享的异构信息时，可能会导致次优结果。我们通过提出一个在线结构化元学习（OSML）框架来克服这一局限性。受人类知识组织和层次特征表示的启发，OSML明确地将元学习者分解为具有不同知识块的元层次图。当遇到新任务时，它会通过使用最相关的知识块或探索新块来构建元知识路径。通过元知识途径，该模型能够快速适应新任务。此外，新知识将进一步融入所选区块。在三个数据集上的实验证明了该框架的有效性和可解释性，不仅适用于异构任务，也适用于同构环境。