基于PDE的群等变卷积神经网络

摘要

我们提出了一个基于PDE的框架，它推广了群等变卷积神经网络（G-CNN）。在此框架中，网络层被视为一组PDE解算器，其中具有几何意义的PDE系数成为层的可训练权重。在齐次空间上公式化我们的PDE可以使这些网络设计具有内置对称性，例如旋转，以及CNN的标准平移等方差。在设计中包含所有所需的对称性，无需通过数据增强等昂贵技术将其包含在内。我们将在一般齐次空间设置中讨论基于PDE-的G-CNN（PDE-G-CNN），同时还将讨论我们感兴趣的主要案例的具体情况：旋转平移等方差。我们通过将线性群卷积和非线性形态群卷积与解析核近似相结合来解决感兴趣的偏微分方程，我们以形式化定理为基础。我们的核近似允许PDE解算器的快速GPU实现；我们以LieThorch对PyTorch的扩展的形式发布了本文的实现，可在https://gitlab.com/bsmetsjr/lietorch网站与线性卷积一样，形态卷积由我们在PDE-G-CNN中训练的内核指定。在PDE-G-CNN中，我们不使用非线性，如max/min-pooling和ReLUs，因为它们已经被形态卷积所包含。我们提出了一组实验来证明所提出的PDE-G-CNNs在提高基于深度学习的成像应用性能方面的优势，其参数远少于传统的CNNs。