成为VIP会员查看完整内容
VIP会员码认证
首页
主题
发现
会员
服务
注册
·
登录
0
窥探神秘的Deepfake“军备竞赛”
2019 年 10 月 12 日
新智元
新智元报道
来源:thedailybeast
编辑:鹏飞
【新智元导读】
本文
梳理了deepfake的来龙去脉,以及发展趋势,并给出了防御Deepfake假视频可行的方法。
>
>>
人工智能改变中国,我们还要跨越这三座大山 | 献礼 70 周年
去年下半年,西非加蓬总统阿里·邦戈(Ali Bongo)被报道中风,消息一出,Ali几个月没露面。
但是今年元旦网上突然出现一个官方的视频,人们惊讶的发现视频中Ali向加蓬人民讲话,虽然看起来有点眼神有点迷幻。
竞争对手站出来,宣称该视频使用“deepfake”伪造的,因此他们断言Ali肯定是死了,或者丧失了行动能力。于是在1月7日,军队领导人发动了一次政变。
政变失败了,因为Ali还没死。而这段视频也并非捏造的,只是一段怪诞的录像,记录了一个身体不适的人,努力使他自己表现的比实际他更健康而已。
但是政变策划者起码说对了一件事:deepfake完全有可能伪造令人信服的世界领导者或其他人的视频。
Deepfake是社交媒体的一项相当新的功能,已经在全国范围内加剧了暴力和不稳定,专家认为,问题只会越来越糟糕。
最早的Deepfake出现在2017年底的Reddit上。一个匿名用户称自己为“deepfakes”(人工智慧“深度学习”和“虚假”的写照),将名人的面孔加在色情内容上。
Reddit最终禁止了deepfakes,但是这只猫已经脱颖而出。斯坦福大学的研究人员Tom Van de Weghe在5月的一篇文章中写道:“一波模仿者在其他平台上取代了他。”
Deepfake视频,静止图像或音频记录是称为“生成对抗网络”或GAN的巧妙编码的产物。
在Facebook的搜索栏中输入“ deepfake”,你可以观看汤姆·克鲁斯(Tom Cruise)主演的漫威超级英雄电影,或者巴拉克·奥巴马(Barack Obama)出演漫威超级英雄电影。
不难想象,政党、情报机构,激进组织和在线巨魔会部署deepfakes来抹黑、陷害或使对手感到尴尬。这种风险使得计算机科学家已经在争先恐后地设计出深层的对策。乔治亚理工大学计算机科学副教授马克·里德尔(Mark Riedl)对《The Daily Beast》说:“这简直就是军备竞赛。”
也就是说,部署GAN容易但做起来难。底层代码并不难找到,但不仅需要代码。对于初学者来说,需要大量可靠的媒体作为生成器的核心。
要伪造某人的照片或视频,需要大量清晰的人脸图像。要伪造该人的声音,需要大量清晰记录他们的真实讲话。
Van de Weghe指出,社交媒体可以更轻松地找到良好的内容作为起点。但是收集所有原材料仍然需要时间和精力。
佐治亚理工学院计算机科学家Polo Chau对《The Daily Beast》说:“一个恶意实体可能需要不止一个图像、音频或视频来有效地大规模地影响舆论。”
单一的造假视频不会造成多大的声浪,只有当你制作了一堆不错的造假视频,它们都以相同的方式针对同一个人,并且假设你的视频没有被人识破,才会产生足够大的效果。
当然,GAN一直都在进步。但是目前来说识别假货比造假要更容易一些。Riedl解释说,当今的GAN擅长于人脸。但是它们在复杂,移动的材料周围变得不可信。在Deepfake视频中仔细观察对象的头发,你应该能够发现明显的失真。
可以自动进行这项检查。社交媒体公司和用户可以部署区分器,以筛选网络上的媒体,寻找GAN生产的假冒产品的像素化和其他数字指纹。
谷歌在9月份发布了3000个旧的deepfake作品,所有这些都是为了加强识别新假货的努力。
另外,还有一些不仅仅依靠代码来应对Deepfake的方法。Chau解释说,Deepfake的供应商需要社交媒体帐户和不道德的媒体来帮助传播恶意内容。
Riedl说,这会导致骗子暴露于社交媒体分析中。“你可以对其进行分析,找出这些事物的来源,查看此人周围的网络,并确定这些事物是人为的实体还是与已知团体相关联。”
“你可以对此进行反编程,” Reidl补充说。方法可能包括阻止或报告正在推动深deepfake的帐户。“这是不直接与技术打交道的非常有前途的方式。”
专家说,归根结底,抵御GAN及其制造的deepfake品的最佳防御方法是受过良好教育和持怀疑态度的公众,可以在知情的情况下查看媒体,并考虑其来源,支持者和反对者以及武器化的潜力。
奥巴马闲聊着一些Marvel的反派角色?对于渴望将前总统描述为愚蠢的边缘媒体而言,这无疑是有用的,因此很可能是假的。聪明的社交媒体用户应该知道这一点。
怀疑是关键。但是在一个多党派的媒体环境中,每个人都在为确认自己现有的偏见而努力,怀疑主义可能会供不应求。
这不仅使GAN变得更加虚假,而且使一些专家感到担忧。里德尔说:“deepfake假冒如此威胁的原因并不是技术如此出色,而是人们想被愚弄。”
参考链接:
https://www.thedaily
beast.com/inside-the-deepfake-arms-race?ref=scroll
登录查看更多
点赞并收藏
0
暂时没有读者
7
权益说明
本文档仅做收录索引使用,若发现您的权益受到侵害,请立即联系客服(微信: zhuanzhi02,邮箱:bd@zhuanzhi.ai),我们会尽快为您处理
相关内容
DeepFake
关注
7
最新《生成式对抗网络》技术综述课程,70页ppt带你学习GAN进展
专知会员服务
212+阅读 · 2020年6月20日
机器学习隐私综述论文,An Overview of Privacy in Machine Learning
专知会员服务
80+阅读 · 2020年5月20日
最新《Deepfakes:创造与检测》2020综述论文,36页pdf
专知会员服务
62+阅读 · 2020年5月15日
【中科院自动化所】视觉对抗样本生成技术概述
专知会员服务
35+阅读 · 2020年4月15日
国科大UCAS胡包钢教授《信息论与机器学习》课程第六讲:信息指标与拒识分类评价
专知会员服务
61+阅读 · 2020年3月23日
熵与其它信息量估计—国科大UCAS胡包钢教授《信息论与机器学习》课程第四讲
专知会员服务
52+阅读 · 2020年3月9日
【Google-普林斯顿】从学习速率中解开自适应梯度法,Disentangling Adaptive Gradient
专知会员服务
18+阅读 · 2020年3月5日
30篇「CVPR2020」高赞论文抢先看!看计算机视觉2020在研究什么?
专知会员服务
49+阅读 · 2020年2月28日
纽约大学AI Now研究所发布《AI Now 2019 年度人工智能报告》, 100页pdf
专知会员服务
34+阅读 · 2019年12月18日
南洋理工大学,深度学习推荐系统综述
专知会员服务
174+阅读 · 2019年10月14日
吓人!普京最新Deepfake视频来了,MIT现场伪造实时采访
新智元
10+阅读 · 2019年9月21日
换脸算什么?现在AI都能一键“脱衣”了
腾讯科技
10+阅读 · 2019年6月30日
30秒让图片变裸照,使用无门槛,这个软件比Deepfake杀伤力更大
AI100
23+阅读 · 2019年6月28日
顶风作案:这款使用Deepfake技术的APP,上线几小时即告下架
机器之心
4+阅读 · 2019年6月28日
那些竞相将DeepFakes商业化的AI初创公司
AI前线
10+阅读 · 2019年5月4日
AI换脸朱茵变杨幂,技术背后细思极恐
大数据技术
7+阅读 · 2019年3月1日
最强GAN修图魔术师:美颜生发摘眼镜、草绘秒变真人脸
极市平台
6+阅读 · 2019年2月28日
当你的头出现在A片演员的身体上
PingWest品玩
6+阅读 · 2019年1月6日
【学界】惊了,DeepFakes不仅骗过人,还能骗过人脸识别系统?!
GAN生成式对抗网络
8+阅读 · 2018年12月29日
Adobe用机器学习“反PS”,修没修图一眼就看出来
论智
3+阅读 · 2018年6月25日
Deep Learning for Deepfakes Creation and Detection
Arxiv
6+阅读 · 2019年9月25日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT
Arxiv
3+阅读 · 2019年9月12日
DeepFakes: a New Threat to Face Recognition? Assessment and Detection
Arxiv
6+阅读 · 2018年12月20日
Stacked Spatio-Temporal Graph Convolutional Networks for Action Segmentation
Arxiv
5+阅读 · 2018年12月6日
ClusterGAN : Latent Space Clustering in Generative Adversarial Networks
Arxiv
10+阅读 · 2018年9月10日
Geometry-Based Multiple Camera Head Detection in Dense Crowds
Arxiv
3+阅读 · 2018年8月2日
Incorporating Glosses into Neural Word Sense Disambiguation
Arxiv
4+阅读 · 2018年5月21日
Fusion of Head and Full-Body Detectors for Multi-Object Tracking
Arxiv
4+阅读 · 2018年4月24日
Cellular-Connected UAVs over 5G: Deep Reinforcement Learning for Interference Management
Arxiv
4+阅读 · 2018年1月16日
VIP会员
自助开通(推荐)
客服开通
详情
相关主题
DeepFake
GAN
社交媒体
可行
社交
计算机科学
相关VIP内容
最新《生成式对抗网络》技术综述课程,70页ppt带你学习GAN进展
专知会员服务
212+阅读 · 2020年6月20日
机器学习隐私综述论文,An Overview of Privacy in Machine Learning
专知会员服务
80+阅读 · 2020年5月20日
最新《Deepfakes:创造与检测》2020综述论文,36页pdf
专知会员服务
62+阅读 · 2020年5月15日
【中科院自动化所】视觉对抗样本生成技术概述
专知会员服务
35+阅读 · 2020年4月15日
国科大UCAS胡包钢教授《信息论与机器学习》课程第六讲:信息指标与拒识分类评价
专知会员服务
61+阅读 · 2020年3月23日
熵与其它信息量估计—国科大UCAS胡包钢教授《信息论与机器学习》课程第四讲
专知会员服务
52+阅读 · 2020年3月9日
【Google-普林斯顿】从学习速率中解开自适应梯度法,Disentangling Adaptive Gradient
专知会员服务
18+阅读 · 2020年3月5日
30篇「CVPR2020」高赞论文抢先看!看计算机视觉2020在研究什么?
专知会员服务
49+阅读 · 2020年2月28日
纽约大学AI Now研究所发布《AI Now 2019 年度人工智能报告》, 100页pdf
专知会员服务
34+阅读 · 2019年12月18日
南洋理工大学,深度学习推荐系统综述
专知会员服务
174+阅读 · 2019年10月14日
热门VIP内容
开通专知VIP会员 享更多权益服务
军用数据链:武器装备神经,联合作战基石,31页pdf
【ETHZ博士论文】超越像素深度:通过深度学习增强超分辨率技术,198页pdf
2018∼2023年国家自然科学基金人工智能学科人才项目申请及资助综述
【NeurIPS2024】《AmoebaLLM:构建任意形状的大型语言模型以实现高效和即时部署》
相关资讯
吓人!普京最新Deepfake视频来了,MIT现场伪造实时采访
新智元
10+阅读 · 2019年9月21日
换脸算什么?现在AI都能一键“脱衣”了
腾讯科技
10+阅读 · 2019年6月30日
30秒让图片变裸照,使用无门槛,这个软件比Deepfake杀伤力更大
AI100
23+阅读 · 2019年6月28日
顶风作案:这款使用Deepfake技术的APP,上线几小时即告下架
机器之心
4+阅读 · 2019年6月28日
那些竞相将DeepFakes商业化的AI初创公司
AI前线
10+阅读 · 2019年5月4日
AI换脸朱茵变杨幂,技术背后细思极恐
大数据技术
7+阅读 · 2019年3月1日
最强GAN修图魔术师:美颜生发摘眼镜、草绘秒变真人脸
极市平台
6+阅读 · 2019年2月28日
当你的头出现在A片演员的身体上
PingWest品玩
6+阅读 · 2019年1月6日
【学界】惊了,DeepFakes不仅骗过人,还能骗过人脸识别系统?!
GAN生成式对抗网络
8+阅读 · 2018年12月29日
Adobe用机器学习“反PS”,修没修图一眼就看出来
论智
3+阅读 · 2018年6月25日
相关论文
Deep Learning for Deepfakes Creation and Detection
Arxiv
6+阅读 · 2019年9月25日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT
Arxiv
3+阅读 · 2019年9月12日
DeepFakes: a New Threat to Face Recognition? Assessment and Detection
Arxiv
6+阅读 · 2018年12月20日
Stacked Spatio-Temporal Graph Convolutional Networks for Action Segmentation
Arxiv
5+阅读 · 2018年12月6日
ClusterGAN : Latent Space Clustering in Generative Adversarial Networks
Arxiv
10+阅读 · 2018年9月10日
Geometry-Based Multiple Camera Head Detection in Dense Crowds
Arxiv
3+阅读 · 2018年8月2日
Incorporating Glosses into Neural Word Sense Disambiguation
Arxiv
4+阅读 · 2018年5月21日
Fusion of Head and Full-Body Detectors for Multi-Object Tracking
Arxiv
4+阅读 · 2018年4月24日
Cellular-Connected UAVs over 5G: Deep Reinforcement Learning for Interference Management
Arxiv
4+阅读 · 2018年1月16日
大家都在搜
汽车智能化
大模型
大型语言模型
自主系统
时间序列
笛卡尔
壁画
无人艇
洛克菲勒
出海产品从 0 到 1 该怎么做
Top
提示
微信扫码
咨询专知VIP会员与技术项目合作
(加微信请备注: "专知")
微信扫码咨询专知VIP会员
Top