DARPA在程序中注册工具包以检测伪造的媒体

2021年1月12日

语义取证(SemaFor)计划旨在创建一个革命性的系统来检测新闻文章、社交媒体和技术文档中的伪造信息


纽约克利夫顿公园(2020年1月12日)——Kitware Inc.因其在人工智能(AI)和科学计算研发解决方案方面的全球领先地位而闻名,作为其语义取证(SemaFor)项目的一部分,国防部高级研究计划署(DARPA)已授予其一份合同。随着利用虚假新闻文章、社交媒体和其他媒体的大规模虚假信息攻击日益成为威胁,SemaFor旨在创建一套基于联合分析文本、图像、视频和音频的综合语义不一致检测器。这些复杂的探测器旨在使识别伪造媒体更快、更容易,同时大大增加那些试图操纵媒体的人的负担。  

DARPA表示,虽然媒体生成和操作技术发展迅速,但有一个明显的弱点:现有的自动媒体生成和处理算法严重依赖于纯粹的数据驱动方法,并且容易产生语义错误。这些语义错误为捍卫者提供了机会——开发一个检测语义不一致的系统意味着伪造媒体的创建者需要在每个语义细节上都是正确的,而捍卫者只需要找到一个或极少数关键的不一致,就可以将媒体识别为伪造的。 

在该计划下,Kitware领导的团队正在开发一个名为语义信息卫士(SID)的系统,该系统旨在提供一个高度先进、可扩展、完全自动化的系统,以接收和评估跨多种文化的媒体类型。它将优先考虑含有恶意虚假信息的媒体项目,并为分析师提供易于理解的算法评估解释;核实或反驳声称的信息来源;以及虚假信息背后意图的细微差别。

“SID将成为分析员的革命性能力,例如情报界的分析员,包括国防情报局(DIA)、美国特种作战司令部(USSOCOM)、国土安全部(DHS)、联邦调查局(FBI)Kitware计算机视觉副主任Arslan Basharat博士说。“我们开展SemaFor项目工作的一个关键因素不仅是开发一种工具来帮助分析师识别伪造的媒体,还将在短时间内为他们提供尖端的研究成果,并定期提供算法更新,以便他们能够跟上对抗性发展的步伐。我们很自豪能够利用我们的专业知识将高度先进的破坏性能力迅速过渡到运营中,以应对这一重大挑战。” 

Kitware组建了一支由七名在所有相关领域具有国际公认资质的分包商组成的世界级团队来开发SID:哥伦比亚大学、伊利诺伊大学乌尔班纳·香槟分校、亚利桑那州立大学、奥尔巴尼大学、布法罗大学、密歇根大学和Eduworks。Kitware的计算机视觉团队将领导这项工作,并在类似的DARPA项目(如媒体取证、可解释人工智能和Squad-X核心技术)上拥有经证实的领导能力和大学合作记录。

有关Kitware的计算机视觉专业知识以及如何利用它为您的研究造福的更多信息,请发送电子邮件至kitware@kitware.com或访问厨具.com/cv.

本材料基于DARPA根据合同号HR001120C0123支持的工作。本材料中表达的任何意见、调查结果和结论或建议均为作者的意见,并不一定反映DARPA的观点。


关于Kitware Inc。

自1998年以来,Kitware Inc.一直致力于通过开发创新的开放源码软件平台并将其集成到研究、过程和产品中来推进理解的前沿。凭借广泛的功能,Kitware为计算机视觉、数据和分析、科学计算、医疗计算和软件流程实施/管理提供了强大的支持。Kitware通过定制服务、支持、协作研发、培训和书籍提供这些领域的专业知识。有关Kitware的更多信息,请访问kitware.com网站.

留下回复