用于图像重建的剩余对比学习：从噪声图像中学习可转移表示

用于图像重建的剩余对比学习：从噪声图像中学习可转移表示

董南庆、马特奥·马吉奥尼、杨永新、爱德华多·佩雷兹·佩利特罗、亚历斯·莱昂纳迪斯、史蒂文·麦克多纳

第三十一届国际人工智能联合会议论文集
主要轨道。第2930-2936页。https://doi.org/10.24963/ijcai.2022/406
本文研究用于低层图像恢复和增强任务的对比学习。我们提出了一种新的基于残差的标签效率学习范式——残差对比学习（RCL），并导出了一种适用于低水平视觉任务的无监督视觉表征学习框架。监督图像重建的目的是直接最小化残差项，而RCL通过定义一个新的实例识别借口任务，使用残差作为识别特征，在残差和CL之间建立连接。我们的公式缓解了现有CL框架中存在的实例识别借口任务和下游图像重建任务之间的严重任务错位。实验上，我们发现，与最近专为噪声输入设计的自监督方法相比，RCL可以学习鲁棒的可转换表示，从而提高各种下游任务的性能，例如去噪和超分辨率。此外，我们的无监督预培训可以显著降低注释成本，同时保持与全监督图像重建的性能竞争力。
关键词：
机器学习：自我监督学习
计算机视觉：转移、低调、半监督和无监督学习
机器学习：多任务和转移学习
机器学习：无监督学习