Facebook发起Deepfakes检测挑战赛！悬赏1000万美元，打假AI换脸...

---

   新智元报道   

来源 / Facebook,  编辑 / 张佳&小芹

近日，Facebook宣布启动一项“Deepfake视频检测挑战赛”，壕掷1000万美元，悬赏能够最好地检测出利用Deepfake技术制造的假视频，包括微软、MIT、牛津大学，加州大学伯克利分校等业界学界联合支持。

Facebook宣布了一项名为 Deepfake Detection Challenge（DFDC） 的挑战赛，壕掷 1000万美元 ， 悬赏能够最好地检测出利用Deepfake技术制造的假视频。

该项竞赛合作伙伴包括微软、康奈尔理工，麻省理工学院，牛津大学，加州大学伯克利分校，马里兰大学等，Facebook还将针对挑战赛发布一个新数据集。

 

Deepfake检测挑战赛将包括一个数据集和排行榜，以及拨款和奖励，以刺激行业创造新的方式来检测和防止通过AI操纵的媒体被用来误导他人。

悬赏1000万美元，挑战赛获学界支持

Yann LeCun 曾在 Twitter 上提问：『 讲真，要是当初知道卷积神经网络 (CNN) 会催生 DeepFake，我们还要不要发表 CNN？ 』

既然已经开源，并且已经导致了负面影响，思考如何阻止和对抗这些负面影响更有价值。

这次，Facebook投入了 超过1000万美元 来资助这项全行业的努力。

 

为了确保数据集和挑战参数的质量，这些参数最初将在今年10月的国际计算机视觉会议（ICCV）上通过有针对性的技术工作会议进行测试。 完整的数据集发布和DFDC发布将于今年12月召开的神经信息处理系统会议（NeurIPS）上发布。Facebook也将参与挑战，但不接受任何经济奖励。

 

Facebook的这项挑战赛得到了学术界的支持， 合作伙伴包括微软、康奈尔理工，麻省理工学院，牛津大学，加州大学伯克利分校，马里兰大学等。

Deepfake盛行

扎克伯格、美国众议院议长纷纷躺枪

DFDC并非Facebook第一次与Deepfake打交道。今年5月，艺术家Bill Posters做了一个马克·扎克伯格的Deepfake视频，以回应Facebook关于操纵图像和数据使用的政策。

 

 

视频中的“扎克伯格”，无论从相貌声音，还是穿着打扮，都跟真的扎克伯格几乎没有差别。他能眨眼，会做手势，口型和画外音高度吻合。乍看之下，几乎找不到破绽，只是声音有些奇怪。

 

而在此之前，Facebook决定对一则关于美国众议院议长Nancy Pelosi的虚假视频暂时搁置不处理。在这段剪辑过的视频里，Pelosi听起来像醉酒后说话，视频很快在Instagram平台上疯狂传播。

 

随着换脸APP“ZAO”的火爆，人们无需技术背景便可创造假视频，一方面带来了娱乐，而更多的是带来了风险。

换脸APP“ZAO”

最坏的情况是，有人担心，如果不加以控制，Deepfake系统可能会被恶意用来欺骗政府和人民，甚至引发国际冲突。 我们现在处在一个真假难辨的时代，如果不用技术手段对Deepfake视频进行检测、管制，后果将不堪设想，这也是为什么我们需要像DFDC这样的挑战赛来推动技术向善、AI向善。

以 AI 攻 AI

DAPRA、伯克利开发反换脸刑侦工具

有“换脸”就有“反换脸”，越来越多的研究人员在努力寻找准确识别 Deepfake 的假视频的方法。

最迫切希望攻破Deepfake的是美国国防部 DAPRA ，他们发起Media Forensics项目(简称MediFor)，资助研发一系列自动化工具来辨识被ps的图片、Deepfake伪造的视频、等等。

他们的第一个成果是一款 “反换脸”AI刑侦工具 ， 主要由纽约州立大学奥尔巴尼分校的研究人员开发技术，通过有效地预测眼睛的状态，准确率达到 99%。

研究人员发现，Deepfake假视频里的人物极少眨眼，甚至不会眨眼，因为它们都是使用睁眼的照片进行训练的。利用这些细微的线索，可以检测出图像或视频中的脸是真实的还是 AI 生成的。

早期的 Deepfake 生成的假视频缺陷明显，比如人物说话时从不眨眼，现在这个缺陷已被修复

最近，来自 加州大学伯克利分校和南加州大学 的研究人员在“以AI攻AI”的这场战斗中开发了出了新的武器，可以更加准确地识别伪造的视频。研究人员利用前总统奥巴马的现有视频，使用类似的过程来创建假视频，训练 AI 来寻找每个人的 “软性生物识别” 标签。

图 2. 从上到下依次是原始视频，嘴唇同步 Deepfake 假视频、喜剧模仿视频、换脸 Deepfake 和木偶大师 deepfake 的 10 秒视频剪辑的五个示例帧。

 

这听起来很复杂，其实并不陌生。每当我们开口说话时，都会以微妙但独特的方式来移动身体，我们的头、手、眼睛甚至嘴唇都会产生这样的运动。这一切都是在潜意识里完成的，你没有意识到你的身体正在做这件事，大脑也没有立刻意识到身体其他部位的运动发生在何时，但从结果上看，这是目前 Deepfake 在创造假视频时的时候没有考虑到的因素。

 

在实验中， 这款新的 AI 准确发现伪造视频的几率达到了 92% ，实验对象包括使用多种技术创建的假视频，以及由于视频文件被过度压缩导致图像质量下降的视频。

现在，Facebook、微软、MIT、UC伯克利等业界和学校联合发起的这项Deepfake 检测挑战赛，无疑将进一步推进“反换脸”的进步，有兴趣的同学快去参与。

推荐阅读

清华学AI要考700+！别慌，全国各家AI高校大盘点！

抢票神器成GitHub热榜第一，支持候补抢票，Python跑起来 | 标星8400

10种Git技巧，让你省时省力又省心！

【文档】PyTorch中文版官方教程来了...

【热点】获利上亿！一程序员主犯非法挖矿被抓