Facebook发布AI换脸检测竞赛- 专知

Facebook发布AI换脸检测竞赛

【导读】前段时间的换脸应用ZAO在朋友圈刷屏了，而现在的AI换脸技术几乎都开源自DeepFakes，利用DeepFakes, 你只要一个GPU和一些训练数据，就能够制作出以假乱真的换脸视频。然而无节制的换脸是会违背道德甚至法律的。FaceBook将在12月NeurIPS 会议上公布一个DeepFakes 的数据集，并组织相关竞赛，检测视频中何时出现了AI换脸。

作者： Mike Schroepfer

数据集和相关竞赛已成为加速AI发展的最有效工具之一。我们目前在深度学习方面的复兴部分得益于ImageNet。而GLUE和SuperGLUE基准加速了自然语言处理的最新进展。

“Deepfake”技术可以呈现逼真的人工智能生成的真实人物视频和虚构事物。然而，在这方面没有很好的数据集或基准来检测它们。我们希望在这一领域促进更多的研究和开发，并确保有更好的开源工具来检测深层伪造。这是Facebook，康奈尔，麻省理工学院，牛津大学，加州大学伯克利分校，马里兰大学，大学园区和奥尔巴尼 - 纽约州立大学的人工智能，微软和学术界的合作伙伴关系正在共同构建Deepfake检测挑战赛（DFDC）的原因。

挑战的目标是制作每个人都可以使用的技术，以便更好地检测AI何时被用来改变视频以误导观众。 Deepfake检测挑战赛将包括一个数据集和排行榜，以及奖金，以刺激行业创建检测和防止通过AI操纵的图片视频等用于误导他人的新方法。

重要的是拥有数据集。这就是为什么Facebook正在构建一个现实的数据集，该数据集有偿招募参与者，在参与者同意的情况下，使用其数据构建了数据集。

为了确保数据集和挑战参数的质量，它们最初将在今年10月的国际计算机视觉会议（ICCV）上通过有针对性的技术工作会议进行测试。完整的数据集发布和DFDC发布将于今年12月召开的神经信息处理系统会议（NeurIPS）上发布。 Facebook也将参与挑战，但不接受任何财务奖励。

这是一个不断变化的问题，就像垃圾邮件或其他对抗性挑战一样，我们希望通过帮助行业和人工智能社区走到一起，我们可以取得更快的进展。

我们已经请外部专家分享他们对这个项目的看法，我们在下面列出他们的回答。

“为了从信息时代走向知识时代，我们必须更好地区分真实与虚假，奖励可信内容而不是不受信任的内容，并教育下一代成为更好的数字公民。这需要全面投资，包括工业/大学/非政府组织的研究工作，以开发和实施能够快速准确地确定哪些内容是真实的技术。“ - Hany Farid教授，加州大学伯克利分校信息学院电气工程与计算机科学系教授

“只要摄影存在，人们就会操纵图像。但现在几乎所有人都可以创造并将假货传递给大众。本次比赛的目标是建立人工智能系统，可以检测篡改图像中的轻微瑕疵，揭露其对现实的欺诈性表现。“ - 安东尼奥·托拉尔巴，麻省理工学院智力探索总监，电气工程与计算机科学教授，

“当我们生活在多媒体时代时，拥有真实信息对我们的生活至关重要。鉴于最近能够大规模生成操纵信息（文本，图像，视频和音频）的发展，我们需要研究界充分参与开放环境，以开发能够检测和减轻不良影响的方法和系统。被操纵的多媒体。通过提供大量真实和受操纵的媒体，拟议的挑战将激发并使研究界能够集体解决这一迫在眉睫的危机。“ - Rama Chellappa教授，马里兰大学杰出大学教授和Minta Martin工程教授

“为了有效推动变革并解决问题，我们认为学术界和行业在开放和协作的环境中走到一起至关重要。在Cornell Tech，我们的研究主要围绕弥合差距和解决技术在数字时代的社会影响，而Deepfake Detection Challenge就是一个很好的例子。通过与技术行业领导者和学术同事合作，我们正在开发一个全面的数据源，使我们能够识别虚假媒体，并最终导致构建工具和解决方案来对抗它。我们很自豪能成为这个小组的一员，并与公众分享数据来源，允许任何人学习和扩展这项研究。“ - Serge Belongie，康奈尔科技副院长和教授。

“操纵互联网，制造伪造阴谋理论和操纵人民谋取政治利益的媒体正在成为一个具有全球重要性的问题，因为它是对民主和自由的根本威胁。我相信我们迫切需要新工具来检测和描述这些错误信息，所以我很高兴成为一项旨在围绕这些目标动员研究团体的倡议的一部分 - 既要在推动科学前沿的同时保持真理。“ - Philip HS Torr教授，牛津大学工程科学系

“虽然深度伪装可能看起来很逼真，但它们是由算法生成而不是由摄像机捕获的真实事件产生的，这意味着它们仍然可以被检测到并且它们的出处得到验证。一些有前景的新方法可以发现和减轻深度有害物质的有害影响，包括在视频素材中添加“数字指纹”以帮助验证其真实性的程序。与任何复杂问题一样，它需要技术社区，政府机构，媒体，平台公司和每个在线用户共同努力，以消除其负面影响。“ - 奥尔巴尼大学工程与应用科学学院的Siwei Lyu教授

“操纵图像的技术比我们从伪造的东西中分辨出什么是真实的能力要快得多。像这样大的问题不会仅由一个人解决。像这样的公开竞赛通过将世界的集体智慧集中在一个看似不可能的目标上来刺激创新。“ - Phillip Isola，Bonnie＆Marty（1964）Tenenbaum，麻省理工学院电气工程与计算机科学助理教授

原文链接：

https://ai.facebook.com/blog/deepfake-detection-challenge/

-END-

专 · 知

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎登录www.zhuanzhi.ai，注册登录专知，获取更多AI知识资料！