求职者可能是假货?冒名者用deepfake盗窃身份应聘远程工作,FBI:说话时能识别

2022 年 7 月 13 日 THU数据派


  
  
    
来源:大数据文摘

  本文为约2887字,建议阅读6分钟

本文介绍了冒名者用deepfake 盗窃身份应聘远程工作,以及识别deepfake骗局的方法。



在线工作正在逐渐正式进入我们的生活。


根据数据公司Emsi Burning Glass统计,2020年初纽约全市16万3000个招聘岗位中,只有6700个允许在线工作,占总岗位数量的4%;但到去年12月,全市24万3000个招聘岗位中,在线工作的岗位数量增至2万5800个,已占到总岗位数量的10.6%。


不过俗话说得好,人心隔肚皮,更何况现在还多隔了一层屏幕,谁也保不准Neso事件不会再次发生。


这不,最近根据美国联邦调查局调查,越来越多的人正在窃取别人的个人身份信息,以及利用deepfake来申请远程工作岗位。也正是由于deepfake技术使用人工智能或机器学习来生成图像、视频或音频等内容,其很难与真实材料区分开来。



比如,根据外媒报道,有位诈骗者一直远程工作的求职过程中借助了deepfake,以试图进入IT工作,访问他们的客户或财务数据,以及企业IT数据和专业信息等。


无独有偶,根据其他公司爆料,有些求职者的个人信息更是完全属于另外一个人。


视频语音都被deepfake

识破他们到底难不难?


6月28日,FBI网络犯罪投诉中心在一次公共咨询中表示,最近有关被冒充求职的投诉案件数量增加。诈骗者一直利用deepfake技术以及从受害者那里盗取的个人身份信息,骗过雇主雇佣他们进行远程或居家办公工作。


这些工作涉及到IT、计算机编程、数据库以及软件相关的职位。



deepfake实现的身份伪装往往难辨真伪,诈骗者也就能够从公司内部窃取有价值的详细信息,以及实施其他身份欺诈计划。


甚至根据联邦执法机构补,在调查过程中,他们还发现了在线面试中使用面试者的语音也经过了deepfake伪造。


目前尚不清楚有多少人利用这种方式成功入职,被举报的在其中占了多少。


要识别deepfake也并非完全不可能。联邦调查局表示,雇主可以通过某种方式来检测深度伪造。在日常工作中,员工们仍然需要时不时地与雇主进行视频以汇报工作进度等,当他们开口说话时,也就是缺陷显露之时。


“在镜头前,如果接受采访的人的动作和嘴唇运动与声音无法完全保持同步”,“比如突然的咳嗽、打喷嚏或其他听觉行为与视觉呈现的内容不一致”,那往往就是识破deepfake的关键



但是真正要去识破deepfake并没有那么容易,尤其是在你不特别去注意的情况下。根据卡内基梅隆大学研究人员最近的一份报告,旨在检测被篡改的视频的人工智能的准确率可能在30%到97%之间,人类有办法检测出假视频,特别是一旦他们被训练成能够观察到某些视觉故障,如影子不正常或皮肤纹理有问题等。


deepfake用得怎么样,还得看人


deepfake用得好不好,到底是不是用在了“刀刃”上,还得看人。


2021年,前披头士成员Paul McCartney就利用deepfake技术让自己“重返青春”。在与Beck合作的MV中,观众看到的是一个年轻的、灵活的、岁月没有在他身上留下任何痕迹的McCartney。



上个月马斯克也被deepfake了一把。


在TED主席“克里斯·安德森”采访马斯克的这段视频中,马斯克表示,一个名为BitVex的加密货币交易平台是他自己创建的,并承诺在三个月内,任何加密货币存款每天都有30%的回报率。



deepfake也有做好事的时候。


最近,在荷兰一项重启调查的案件中,为了找到13岁的Sedar Soares和朋友们一起扔雪球时被枪杀的真相,在Sedar Soares家人的允许下,警方利用deepfake制作了一个Sedar Soares的视频,以此向公众征集线索,寻找目击证人。在这一分钟长的视频中出现了Soares的生活图像,他向摄像机打招呼并捡起一个足球。就在视频发布的第二天,荷兰鹿特丹警方发言人Lillian van Duijvenbode说: “我们已经收到了数十条线索,这一事实非常积极。”



还是那句话,技术的价值取向取决于使用该技术的人。


锻炼自己的deepfake识别能力


作为一种AI深度学习工具,deepfake能够将一张图片中人的脸换到其他人的图片上的技术,从而创建一个非常逼真的“假”视频或图片,“换脸”因此得名。


研究人员使用自动编码器神经结构,使这一想法成为现实。基本思路非常简单:对于每张脸都训练一套编码器和相应的解码神经网络。编码时,使用的是第一个人的图片。而解码时,却是使用第二个人解码器。



为了帮助人们更好地识破deepfake骗局,研究人员也从Kaggle公开比赛中托管的100,000个deepfake视频和19,154个真视频中,训练了一系列神经网络来检测deepfake。


总的来说,没有完全绝对的方法来帮助识别,但在deepfake中有几个点是值得注意的:


  • 注意脸部:高端的DeepFake操纵几乎都是基于面部的;


  • 注意脸颊和额头:皮肤是否显得太光滑或太有皱纹?皮肤老化程度是否与头发和眼睛老化程度一致?deepfake在某些方面往往是不协调的;


  • 注意眼睛和眉毛:阴影的位置是否正确?deepfake通常无法完全正确地复制出自然物理学的场景;


  • 注意眼镜:是否存在任何眩光?是否存在太多眩光?当人移动时,眩光的角度是否改变?再一次,DeepFakes常常不能完全代表照明的自然物理学;


  • 注意面部毛发或缺乏毛发的情况:面部毛发看起来是否真实?deepfake可能会添加或去除胡子、鬓角或胡须,但这样的行为往往会带来违和感;


  • 注意面部的:痣看起来真实吗;


  • 注意眨眼:这个人的眨眼次数是否足够或过多;


  • 注意嘴唇的大小和颜色:大小和颜色是否与此人面部的其他部分相匹配。


这八个问题都能帮助人们检查并识别deepfake。


高质量的deepfake并不容易辨别,但通过练习,人们可以建立起一种基于deepfake的真假的直觉,相信直觉,并加以适当的辅助验证即可。


如果你还是不放心,也可以在这个网站上进行简单的测验:

https://detectfakes.media.mit.edu/


也欢迎在评论区留下你的识别心得~


相关报道:

https://www.bleepingcomputer.com/news/security/fbi-stolen-pii-and-deepfakes-used-to-apply-for-remote-tech-jobs/
https://gizmodo.com/deepfakes-remote-work-job-applications-fbi-1849118604
https://posts.careerengine.us/p/61e73b0cc7bc8e4465892b9d?from=latest-posts-panel&type=title
https://www.media.mit.edu/projects/detect-fakes/overview/#:~:text=High%2Dquality%20DeepFakes%20are%20not,detect%20DeepFakes%20at%20Detect%20Fakes.


——END——


登录查看更多
0

相关内容

人工智能在公安行业的落地应用
专知会员服务
38+阅读 · 2022年3月23日
专知会员服务
71+阅读 · 2020年12月12日
最新《Deepfakes:创造与检测》2020综述论文,36页pdf
专知会员服务
62+阅读 · 2020年5月15日
因为工资补贴邮件被划空银行卡?搜狐全体员工被诈骗始末
安全资讯早知道 | Conti勒索软件团队突然解散
CCF计算机安全专委会
0+阅读 · 2022年5月23日
疫情过后,打工人再也不想远程办公了!
人人都是产品经理
0+阅读 · 2022年3月20日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年9月8日
Arxiv
12+阅读 · 2021年8月19日
已删除
Arxiv
32+阅读 · 2020年3月23日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员