计算机科学>机器学习
标题: 深度超图结构学习
摘要: 高阶相关学习在数据表示学习中显示出优越性,超图在最近几十年得到了广泛应用。 基于超图的表示学习方法(如超图神经网络)的性能在很大程度上取决于超图结构的质量。 如何在数据之间生成超图结构仍然是一个具有挑战性的任务。 缺失和噪声数据可能会导致超图结构中的“不良连接”,并破坏基于超图的表示学习过程。 因此,揭示观测数据背后的高阶结构,即超图,成为一项紧迫而重要的任务。 为了解决这个问题,我们设计了一个深度超图结构学习的通用范式,即DeepHGSL,以优化基于超图的表示学习的超图结构。 具体来说,受信息瓶颈原理对鲁棒性问题的启发,我们首先将其扩展到超图情况,即超图信息瓶颈(HIB)原理。 然后,我们应用这一原理指导超图结构学习,其中引入HIB构造损失函数,以最小化超图结构中的噪声信息。 超图结构可以被优化,这一过程可以被视为在训练阶段增强正确的连接,削弱错误的连接。 因此,即使在强噪声结构上,该方法也有助于提取更稳健的表示。 最后,我们在四个用于表示学习的基准数据集上对模型进行了评估。 在图形和超图结构数据上的实验结果表明,与其他最先进的方法相比,该方法的有效性和鲁棒性。