如何防止果照外泄？自己先上传就OK！扎克伯格这波操作给网友整不会了

杨净 梦晨 发自 凹非寺
量子位 报道 | 公众号 QbitAI

如何防止果照外泄？

自己先上传到网上就OK。

没错，这就是扎克伯格旗下Meta给出的最新解决方案。

技术角度出发，但细想又总觉得哪里不对……

结果这就直接让中外网友炸了锅，还有媒体标题直接是酱婶的~

Facebook再次让人上传果照。

还有网友调侃，这怕是空手套白狼啊~

所以这究竟是怎么一回事。

此上传非彼上传

Meta官宣的这项工具，专门是针对报复性私密内容的传播。

具体来说，如果你担心自己的果照或不雅视频被人po到网上，那就先自己提前上传到工具上。

这样别人想发到网上（Facebook或Instagram）时，图像就会被审核违规作删除处理。

这时工具会用算法匹配一个独特的“数字指纹”。

数字指纹，类似一种条形码，技术上来讲叫做哈希值，或者散列值，有把数据拆散后重新排列之意。

随后，Meta就拿着哈希值与Facebook或Instagram上传的图像进行匹配。

如果匹配成功，图像将会被删除。甚至有人试图上传一张匹配的图片，工具也将会审查是否违反了其政策，采取相应的行动。

官方强调，原始图像or视频仍然存储在本地，他们只是提取了哈希值，用于与科技公司共享。

据介绍，照片使用的哈希生成算法是PDQ，视频使用的的是MD5，均为该类应用程序的行业标准。

其中，PDQ是Facebook 2019年开源、受pHash启发的相似图片识别算法。

MD5则是一种广泛使用的哈希函数，全称叫做MD5信息摘要算法，可以产生128位/ 16字节哈希值。

对于用户端来说，不需要提供包括电子邮件在内的其他信息，只需要记住密码和项目的号码，以备在这之后编辑项目的状态，比如撤销。

不过这项技术有个很明显的bug——只能精准匹配。

换句话说，如果照片被p过、裁剪过，视频被剪辑过，就可能识别不了了。这时候就需要重建一个哈希值。

事实上，类似的技术已经被诸多科技企业广泛使用，用来检测已知的违规内容。

最具代表性的、也是最早提供相关技术的，当属2009年微软宣布的PhotoDNA技术，由微软与达特茅斯学院Hany Farid教授共同研发，以识别删除网络上流传的儿童受害的照片。

随后，微软向国家失踪与受虐儿童中心 (NCMEC) 捐赠了该技术，并陆续向更多企业免费开放。

早期PhotoDNA必须在本地部署，但2015年，微软提供了基于云的PhotoDNA服务。

随后在谷歌、Facebook、Reddit、Twitter上也都看到了相关的产品。今年8月，苹果甚至直接从源头做起——扫描用户的iPhone来获取儿童受害图像。

网友：直接禁止所有色情内容可好？

这次的工具由Meta联合英国色情报复热线（Revenge Porn Helpline）合作推出，为18岁以上的成年人而生。

色情报复，主要指分手后心怀不满的ex把对方果照传到网上的那种。

早在2017年，还未改名的Facebook公司就推出过类似的工具，并在澳大利亚展开试点运营。

据当时的统计，大约4%的美国网民是色情报复的受害者。只算30岁以下女性的话，每十人就有一人曾遭受色情报复。

据英国卫报报道，试点项目的流程是用户上传自己的果照，由“受过专门训练的代表”查看并提取照片的数字指纹。

之后原始图像会删除，只保留数字指纹，用于防止同一张果照在删除后再次被人上传。

可以说开发这个工具的初衷是好的，也收到了一些公益组织、律师以及最早参与PhotoDNA技术开发的科学家Hany Farid的认同。

不过上传果照到Facebook的服务器，并由技术人员手动处理这两个环节，让用户很不买账。

如何保证技术人员不会滥用职权？又如何保证存储果照的服务器不被黑客攻击？

以及，为什要这么麻烦呢？直接用图像识别技术不是更方便吗？

这都是当时大家最关心的问题。

这些对应在受害者身上，主要产生两种担心：一是害怕报复，所以不愿自己上传那些内容；二是不知道那些内容已经分享。

两年之后，Facebook推出了一款AI工具，可以主动检测在社交网络上分享的果照，并允许快速删除，还配备一名专门训练的成员来审查内容。

这样就保证了可以在其他人报告之前就已经处理这些照片。

而在原有工具的基础上，Facebook的新工具让用户不用上传内容，在本地完成就可以提取数字指纹的步骤，由独立的慈善组织StopNCII.org运营。

这一次，大家反应如何？

在Facebook频频曝出隐私安全问题、用户数据大规模泄露等事件之后，许多人还是不信任他们。

而且这种不信任的情绪针对扎克伯格本人。

不过也有人认为这个主意是好的，但具体能起到什么效果还要再观察。

一些批评者思考的角度是：

只需要稍微P图就能绕过的防护措施太脆弱了，就像是一个不投资更多人力审核的廉价借口。

最后还有一个灵魂发问：

直接禁止所有色情内容可好？

端到端加密宣布推迟

Meta旗下产品，尤其是社交应用Facebook，在用户隐私安全问题上频频出现大问题。

最著名的是“FB数据门”，8700万Facebook用户数据被不当泄露给英国剑桥分析公司，被用于操纵2016年美国大选和英国脱欧等政治议题。

今年与Meta公司相关的更是有“260万Instagram、Tiktok用户数据泄露”，“Facebook超5亿用户个人数据被泄露”、“38亿条Clubhouse、Facebook用户数据在暗网出售”等让人逐渐麻木。

自剑桥分析事件曝光后，扎克伯格于2019年宣布正在努力把端到端加密技术用到旗下所有服务。

端到端加密意味着只有发送方和接收方能解密并查看信息，在传输过程中都是加密状态，其他人无法查看。

目前Meta旗下只有WhatsApp一款应用声称已经实现端到端加密。

不过就这今年还被打脸了。

9月初，一份来自ProPublica的调查报道显示，WhatsApp在奥斯汀、德克萨斯、都柏林和新加坡雇佣了1000多名员工，专门负责检查“数百万私人消息、图片和视频”。

虽然这与他们提交给美国证券交易委员会的说法不一致，不过美国证交会当时没有对此采取行动。

一周后，WhatsApp终于宣布允许用户把云端备份聊天记录加密，在这之前用户只能用未加密格式把聊天记录上传到苹果iCloud或安卓的Google Drive。

今年早些时候，扎克伯格曾暗示会在2022年实现全产品端到端加密。不过这一计划最近又宣布推迟到2023年。

Meta全球安全主管Antigone Davis表示：

推迟的决定是为了确保端到端加密的同时，还保留向执法部门提供信息以协助儿童安全调查的能力。

参考链接：
[1]https://stopncii.org/faq/
[2]https://about.fb.com/news/2021/12/strengthening-efforts-against-spread-of-non-consensual-intimate-images/
[3]https://www.theguardian.com/technology/2017/nov/07/facebook-revenge-porn-nude-photos
[4]https://www.propublica.org/article/how-facebook-undermines-privacy-protections-for-its-2-billion-whatsapp-users

— 完 —

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。

2021人工智能年度评选结果揭晓

「2021年度人工智能创业领袖TOP30」榜单中，有人曾在学界声名鹊起，有人曾在商业战场上留下姓名。AI时代的变革里，他们都重新出发，以新生力量之姿，改变了中国AI的商业版图。

如今，在各个AI应用领域里，他们正以杰出的判断力、创造力和领导力，推动团队稳步成长，推动AI赋能千行百业：

p.s.点击图片/链接查看完整榜单：2021人工智能年度评选结果揭晓！AI落地最佳参考在此奉上

点这里👇关注我，记得标星哦～

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~