计算机科学>计算机视觉和模式识别
标题: 受优化启发的用于压缩传感的交叉注意力变换器
摘要: 通过将某些优化求解器与深度神经网络相结合,具有良好解释性和高性能的深度展开网络(DUN)在压缩传感(CS)领域受到了越来越多的关注。 然而,现有的DUN往往以大量参数为代价来提高视觉质量,并且在迭代过程中存在特征信息丢失的问题。 在本文中,我们提出了一个优化激励的交叉关注变压器(OCT)模块作为迭代过程,从而为图像CS提供了一个基于OCT的轻量级展开框架(OCTUF)。 具体来说,我们设计了一个新的双交叉注意(Dual CA)子模块,它由惯性提供的交叉注意(ISCA)块和投影引导的交叉注意(PGCA)块组成。 ISCA块引入了多通道惯性力,并通过相邻迭代之间的交叉注意机制增加了记忆效果。 PGCA块实现了增强的信息交互,通过交叉注意块将惯性力引入梯度下降步。 大量的CS实验表明,与最先进的方法相比,我们的OCTUF在训练复杂度较低的同时取得了优异的性能。 代码位于 此https URL .