×

从噪声数据中学习解释规则。 (英语) 兹比尔1426.68235

摘要:人工神经网络是一种强大的函数逼近器,能够对各种问题的解决方案进行建模,包括有监督和无监督问题。随着它们的大小和表达能力的增加,模型的方差也会增加,从而产生几乎无所不在的过拟合问题。尽管通过各种模型调整方法可以缓解这种情况,但常见的解决方法是寻求大量的训练数据,这些数据不一定很容易获得,足以接近我们希望测试的领域的数据分布。相比之下,诸如归纳逻辑编程(Inductive logic programming)之类的逻辑编程方法提供了一个数据效率极高的过程,通过该过程可以训练模型在符号域上进行推理。然而,这些方法无法处理神经网络可以应用到的各种域:它们对输入中的噪声或错误标记没有鲁棒性,而且可能更重要的是,不能应用于数据不明确的非符号域,例如操作原始像素。本文提出了一种可微分归纳逻辑框架,它不仅可以解决传统ILP系统适合的任务,而且对ILP无法处理的训练数据中的噪声和错误具有鲁棒性。此外,由于它是针对似然目标通过反向传播进行训练的,因此可以通过将其与模糊数据上的神经网络连接来进行混合,以便应用于ILP无法解决的领域,同时提供超出神经网络自身所能实现的数据效率和泛化。

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用