自信锚定诱导的多源自由域自适应

的一部分神经信息处理系统34的进展(NeurIPS 2021)

Biptex公司 纸类 评论和公众评论» 补充的

作者

董嘉华、方贞、刘安进、孙干、刘铜梁

摘要

无监督领域自适应通过将知识从标记的源领域转移到未标记的目标领域,引起了学术界的广泛关注。然而,大多数现有方法都假设源数据来自单一领域,无法成功应用于探索来自分布差异较大的多个源领域的互补可转移知识。此外,他们需要在培训期间访问源数据,由于隐私保护和内存存储,这是低效和不实用的。为了应对这些挑战,我们开发了一种新的Confidential-Anchor-induced multi-source-free Domain Adaptation(CAiDA)模型,它是一种先驱性的探索,在没有任何源数据的情况下,从多个源域到未标记的目标域进行知识自适应,但只使用预处理的源模型。具体地说,提出了一种特定于源的可转移感知模块,用于自动量化从多源领域传输到目标领域的互补知识的贡献。为了在不访问源数据的情况下为目标域生成伪标签,我们通过构建置信锚组并为每个非置信目标样本分配语义上最接近的置信锚来开发置信锚诱导的伪标签生成器。此外,还提出了一种类关系软件一致性损失,通过跨域对齐软混淆矩阵来保持类间关系的一致性。理论分析回答了为什么多源域优于单源域,并建立了一个新的学习界来显示利用多源域的有效性。在几个典型数据集上的实验表明了我们提出的CAiDA模型的优越性。该代码可在https://github.com/Learning-group123/CAiDA。