全身医学成像中的自我监督多模态对准

牛津大学工程科学系视觉几何组
出席MICCAI 2021(斯特拉斯堡/虚拟)
介绍

医学成像数据集可能很难获得,而注释更是如此。因此,人们对学习医学表征非常感兴趣对临床任务有用但不依赖于手动的成像注释。

在本文中,我们引入了一种新的对比框架来学习同一对象的多种成像模式可用。预培训任务是标准的噪声对比估计(NCE);将不同的模态表示匹配在一起具有高相似性的同一主题,同时将低相似性分配给的不同模态表示不同的学科。

然而,不是将图像编码为单个全局嵌入向量和测量余弦相似性的其他NCE方法,如simCLR,我们的方法将它们编码为空间特征图。扫描相似性然后通过使用标准关联特征图来计算卷积运算-这相当于测量扫描一系列可能的注册。

使用来自英国生物银行的全身DXA和MRI扫描,我们展示了其性能在这个预训练任务中,我们的方法大大超过了基线它使用全局嵌入向量作为图像表示(AUC>0.999!)。最后,我们展示了学习到的表征对临床任务非常有用,例如无监督配准和跨模态分割。

作为我们预训练任务的一个例子,你能匹配下面的DXA扫描吗到相应的MRI?(论文中给出的答案)

论文+视频链接

可以找到纸上的arxiv在这里.可以在上观看介绍该项目的短片YouTube网站.

代码发布

复制本文实验的代码可以在项目中找到github页面.为了帮助其他相关研究,我们还为下载、缝合和预处理英国代码生物银行全身扫描公开(请看这里).

引用
@进行中{Windsor21,author={莱迪安·温莎(Rhydian Windsor)、埃米尔·贾马鲁丁(Amir Jamaludin)、帝汶·卡迪尔(Timber Kadir)和安德鲁·齐瑟曼(Andrew Zisserman)},booktitle={Proc.医学图像计算和计算机辅助干预(MICCAI)},title={全身医学成像的自我监督多模式校准},日期={2021},}
致谢

Rhydian Windsor由英国癌症研究所资助作为自主智能机器和系统EPSRC CDT的一部分(EP/L015897/1)。我们还感谢皇家学会研究所的支持教授和EPSRC计划资助视觉人工智能(EP/T028572/1)。