摘要

由于视觉识别模型是跨不同应用程序开发的，我们需要能够在各种环境中可靠地部署我们的系统。与此同时，视觉模型往往是在一组静态的精心策划和注释的数据上进行训练和评估的，这些数据只代表世界的一个子集。在本次演讲中，我将讨论数据集和模型偏差的范围，从无意中的视觉变化到敌对操作的图像。然后，我将介绍消除偏见的技术，包括领域对抗性学习，它促进了不同视觉环境之间和不同语义任务之间的信息传递，从而使识别模型能够推广到以前看不到的世界，例如从模拟到实际驾驶图像。最后，我将谈到数据集偏见的普遍性，以及这种偏见如何对代表性不足的子群体产生负面影响。

 

传记

朱迪·霍夫曼博士是交互计算学院在乔治亚理工学院和的成员机器学习中心她的研究是计算机视觉和机器学习的交叉点，专门研究领域自适应、转移学习、对抗性鲁棒性和算法公平性。她曾于2020年荣获NVIDIA计算机视觉奖女性领导者、AIMiner机器学习领域最具影响力的100位学者（2020年）、2015年荣获麻省理工学院EECS新星，并获得NSF研究生奖学金。除了她的研究之外，她还与他人共同创建了“计算机视觉中的女性”组织，并继续为该组织提供咨询服务，该组织为计算机视觉社区中的早期职业女性提供指导和旅行支持。在加入佐治亚理工大学之前，她是脸书人工智能研究她获得了电气工程和计算机科学博士学位加州大学伯克利分校2016年，她在斯坦福大学（2017）和加州大学伯克利分校（2018）。