“数据门”让Facebook的名誉一落千丈，之后的一系列审查案件更是将其推上了舆论的风口浪尖。那么2020年了，它在数据保护方面又能做到什么程度？
“教皇支持唐纳德·特朗普总统”的假新闻已经过去三年半了，Facebook付出了大量努力来清理其上的新闻源。但成效如何？
去年10月，一则虚假新闻报道称，美众议院议长Nancy Pelosi挪用了社会保障局的24亿美元，用以支持对特朗普的弹劾。这则新闻下最热门的评论说：“够了！！！任何人都不应该动这笔钱！！！”还有评论说：“这是赤裸裸的背叛无底线。”如此一篇文章在Facebook上的分享超过了一百万次。
这类的报道是典型的人为捏造的政治宣传，通常被称为“虚假新闻”，然而在2016年美国大选前夕这类的虚假新闻却淹没了Facebook，而Facebook公司后来承诺一定会解决这个问题。如今Facebook已与事实核查员展开了合作，在被揭穿的报道上标记警告标签（后来Facebook删掉了这些标签，后来又再次加了上去）。此外，Facebook还对算法进行了调整，希望减少这些报道的传播，并惩罚了美国大选的干预者。然而，非营利组织Avaaz最新的研究发现，到2020年该社交网络的错误信息问题可能比2016年还要严重。这个令人震惊的结论登上了多家媒体的新闻头条，包括CNN、哥伦比亚新闻评论和Politico等。
然而，仔细观察这项研究，你就会发现这个令人震惊的结论实际上只是夸大其词：我们几乎可以肯定Facebook在公然制造虚假新闻的斗争中已经取得了一些进展。但是，这也揭示了Facebook系统中的漏洞和局限性，在2016年美国政治历史上关键的一年中，不法分子正是利用了这些漏洞和局限性。很明显，在与错误信息的斗争中（例如与内容审核的斗争），如果Facebook不从根本上修改平台，就不可能真正获胜。
2016年，Facebook几乎没有采取任何措施来应对错误的政治信息，尽管公司高管已经获得了足够的证据表明背后有俄罗斯特工的支持。在特朗普获胜后不久，首席执行官马克·扎克伯格口无遮拦地打趣说，“认为虚假新闻影响了选举”是无稽之谈。2017年的时候，扎克伯格表示，他很后悔当初说出这样的话，而且Facebook在大量修改补丁程序。那么，问题就来了：这些修补程序有用吗？
两年后，Facebook表示为自己取得的进步感到自豪，尽管他们承认还有很多工作要做。“多项独立研究发现，自2016年大选以来，我们已将Facebook上的虚假新闻数量减少了一半以上。”Facebook在一份声明中说，“但这也意味着还有很多人仍然会看到虚假新闻，这就是为什么我们希望通过更多警告标签来标记这类的内容，如果有人尝试分享这类内容时，就会发出显眼的通知。”
的确，先前的几项研究似乎都体现出了明显的进步。2018年的一项研究发现，自2016年以来，Facebook上来自已知虚假新闻网站的文章数量急剧下降，尽管这类文章在Twitter上的数量持续在上升。另一份2018年的白皮书发现，2018年访问虚假新闻网站的美国人比例远低于2016年。然而，这些研究的作者承认他们的研究成果不具有权威性。此外，研究人员还努力就虚假新闻的界定达成共识，因为不同的界定方法可能导致不同的问题。如果虚假信息确实减少了一半，那肯定是可喜可贺的进展，随着2020年美国大选的临近，我们希望Facebook能够就其社交网络对公众话语造成的影响，负起相应的责任。
![]()
一个病毒式的虚假新闻，声称美众议院议长Nancy Pelosi挪用了社会保障局的24亿美元，用以支持对特朗普的弹劾。这则新闻绕过了Facebook系统，部分原因是发布该新闻的网站自称是“讽刺文学”。
于11月5日发布的Avaaz研究则表明，Facebook的这些进展令人怀疑。Avaaz通过Facebook于2016年收购并于2019年1月向研究人员开放的社交分析平台CrowdTangle的数据，收集了2019年以来排名前100的病毒性政治帖子，虽然这些帖子经过了知名事实检查人员的核实和揭露，但在研究期间这些帖子并没有从Facebook平台上消失。（Facebook不会删除错误信息，除非认定这些信息存在煽动真实世界的暴力行为；Facebook的政策是提醒用户该新闻已被揭穿，并会通过新闻源算法来限制其传播。）Avaaz的研究对发布虚假新闻的个人进行了分析，并发现了来自各发布商的错误信息，由于这些错误信息以前未被发现，所以被其他研究忽略了。经过Avaaz检查的某些帖子已被Facebook的事实检查系统做了标记，而有些则因为某种原因没有被标记。
Avaaz统计了CrowdTangle的数字，发现这100条虚假新闻总共产生了890万次互动——即点赞、评论和分享。考虑到Facebook在美国拥有约2.2亿用户，这个数字虽然庞大但还不至于惊人。然而，与信息进行积极互动的用户数量只是在动态信息中看到该信息用户的一小部分，而且CrowdTangle只统计了视频的观看此数。因此，Avaaz想出了一个办法来粗略地估计看过这些虚假帖子的Facebook用户总数。具体来说，Avaaz计算了Facebook上视频的观看次数与互动次数的平均比例，然后依此推断帖子的比例。最后得出的总观看次数估计值则更高：1.589亿。尽管Avaaz称这是一个保守的估计，但有一位研究Facebook上错误信息的学者认为这一数字被夸大了。
之后，Avaaz将数据限制在了一定时间段内，并与BuzzFeed的Craig Silverman在2016年美国大选前期虚假新闻最猖獗时期的广泛引用分析进行了比较。Avaaz报告说，在2019年10月31日前的三个月中，其数据中的20个病毒性错误信息发布产生的互动超过了2016年7月31日之前三个月中BuzzFeed数据中20个病毒性错误信息发布的互动。Avaaz声称这项比较结果证明如今的虚假新闻比2016年更为猖獗。
但是，这项结论中存在一些问题。当我们请求审查Avaaz的调查结果时，Silverman指出，Avaaz的数据包含表情包以及文章链接，而他的数据只包含文章链接。“这两种数据在参与度上根本没有可比性，”他说，“链接收到的参与要低得多。”
即使将表情包算在内，Avaaz的结论在很大程度仍然依赖于比较的时间范围。尽管Avaaz发现2019年秋天虚假新闻的参与度高于BuzzFeed在2016年夏季发现的虚假新闻参与度，但仍远低于BuzzFeed发现的2016年秋季美国大选前的虚假新闻参与度。当然，随着2020年11月的临近，虚假新闻将继续在Facebook上激增，与2016年的趋势相仿。
当你尝试发布已由Facebook的事实检查合作伙伴判明的虚假新闻时，Facebook会发出警告，并提供事实检查的链接。图片来源：Screenshot / Facebook
Avaaz承认其研究并不完美，部分原因是Facebook的不透明。该非营利组织错误信息工作的负责人Fadi Quran为其方法论辩护说，他们只是尽可能地给出了保守的估计。但是他说，即使数字不准确，但很显然Facebook上错误信息的规模仍然很大。
2018年，普林斯顿大学的政治学家Andy Guess与他人合著了一篇有关Facebook和虚假新闻的论文，他表示Avaaz的研究对于强调虚假新闻的传播很有意义，但他怀疑其结论的真实性。“我感觉网络上最严重的错误信息问题已经得到了抑制，或者至少已有了基本的措施，”他说，“那些需要为很大一部分错误信息负责的不良发布商已被降级。”
错误信息专家兼非营利组织First Draft News的美国总监Claire Wardle表示同意。“与2016年相比，我们发现的虚假内容减少了，”她在电话中说，“在Facebook的努力下，像‘教皇支持唐纳德·特朗普总统’这类的虚假新闻大部分已经消失了。因此，无论是美国国内还是国外的虚假信息代理商，都应该清楚这意味着什么。与此同时，我们看到很多有关党派偏见、误导性的内容绕过了这些政策。”
好消息是至少Facebook的系统发挥了一定的作用，但坏消息是他们远非万无一失。此外，Facebook必须不断改进自己的系统，因为虚假新闻传播者总会找到办法绕过系统。
众议院议长Nancy Pelosi的新闻是一个很具启发性的例子。这则新闻早已被多方揭穿，包括两个Facebook的官方事实调查合作伙伴Politifact和FactCheck.org。但是，如果你将这则新闻的链接发布到Facebook时，平台不会发出警告，也不会提示这是虚假新闻。同样，当这则新闻出现在你的最新动态中时，也没有任何迹象表明它是虚假新闻。
Facebook没有明确地解释为什么这则最具病毒性的政治文章在其平台发布了几个月，甚至在Avaaz的研究引起人们注意的几周后，仍然没有事实核对的警告。其中可能包含两方面的原因。
首先，貌似Facebook的系统已经针对另一种版本的Nancy Pelosi新闻实施了Politifact的事实检查，这则声明的发表采用了照片上叠加文字的形式，而非文章链接。其次，该版本的文章躲过了事实检查，部分原因是其发布网站PotatriotsUnite.com已被打上了“讽刺文学”的标签，专家称该这类网站为热门错误信息贩卖商的遮羞布。如果你点击新闻中的链接，就会看到这样的标签，那么你就应该停止关注该站点的标语、URL或“关于我们”等页面，而不是只关心标题和新闻本文——尽管很多人都会这样做。（此外，这类新闻的图像上都带有水印，其中包含“讽刺”一词，尽管小到几乎看不清）。
讽刺文学是Facebook的事实检查人员面临的一个难题：在每个辛辣的故事上贴上警告标签，并禁止用户分享，实质上形同抑制平台上的政治幽默，同时冒犯了数以百万计喜欢辛辣幽默的粉丝。但是，自我标榜为“讽刺文学”网站的标题具有的误导性和煽动性似乎又超过了娱乐性，该怎么办呢？理想情况下，2020年各发布商不应该妄想像2016年那样，只需在文末附加免责声明就可以炮制出大量的虚假新闻。也就是说，目前尚不清楚如何客观地区分合法讽刺文学与伪装成讽刺作文学且带有操控性的宣传。顺便说一句，这不是一个新出现的问题：当年发布了臭名昭著的“教皇支持唐纳德·特朗普总统”新闻的网站也声称是讽刺文学。
Facebook的妥协方案是，事实检查人员有权将某个帖子标记为“讽刺文学”，其系统会区别对待讽刺文学和错误信息。当某人在动态信息中分享一则带有“讽刺文学”标签的帖子时，它会显示相关的文章列表，包括曝光的事实，但这种分享不会触发警告，也不会被算法删节。但是专家认为，而且Facebook也承认，公司的事实检查合作伙伴资源有限，而且他们更愿意与严重的虚假事实作斗争，而不是无害的笑话。
Avaaz的Quran认为，这无法阻止人们散布谎言。他说：“如果你只需打着讽刺文学的旗号写文章，就可以摆脱事实核对的过程，那么我们的麻烦就大了。”部分问题在于，动态消息会以相同的格式显示每一则新闻，重点突出标题和图像，而发布商的名字却用很小的字体显示，也就是说纽约时报的新闻看上去与PotatriotsUnite.com基本相同。当然，还有部分原因是因为Facebook沦陷为了虚假新闻和宣传的沃土，而事实检查系统对于这个根本性的问题也束手无策。
众议院议长Nancy Pelosi的新闻不是这个漏洞的特例，而且这个名字以土豆为主题的发布商发布的虚假新闻也不止这一篇。在Avaaz的数据中，该发布商散播的虚假新闻数量名列第二，引发了近140万次互动。分享次数排在第6位的虚假新闻名为“Ocasio-Cortez Proposes Nationwide Motorcycle Ban”（Ocasio Cortez提议在全美境内禁用摩托车），这则新闻来自一个名为TatersGonnaTate.com的网站，该网站与PotatriotsUnite.com属于同一个网络。这则新闻发布到了一个名为“ Southern War Cry”的Facebook小组中，这个小组拥有约113,000名成员，最热门的评论均未表明这则新闻只是一个讽刺作品。有人严肃地捍卫了摩托车对于社会的贡献，并质疑众议员Alexandria Ocasio-Cortez的智商。还有评论说这位女议员没有逻辑，还建议性侵这位女士。
Facebook不断推进小组的发展，作为主流新闻源的补充，甚至替代主流新闻源，这可能会加剧错误信息的问题，因为志趣相投的用户会组成圈子，这些圈子中缺少持不同政见或持怀疑态度的人来拨乱反正。（Facebook表示，它会采取行动来制裁“再三分享错误信息”的页面和小组，包括减少这类信息出现在搜索结果中等手段。但是，Facebook对付页面的手段比对付小组更多，因为这些页面需要依赖Facebook的广告来获利。）同理，相较于那些在美国大选中摇摆不定的选民而言，政治的错误信息更容易在有严重党派倾向的人中间泛滥。去年11月，一项关于俄罗斯干预在Twitter上造成的影响的研究发现，外国宣传造成的有限影响并未明显改变人们的政治态度，也许也是出于这个原因。这与2017年有关虚假新闻对Facebook用户影响的分析结果相呼应。
但是，如果Facebook无法处理明显的错误信息，那么我们也并不看好其在新闻动态改革中所做出的努力。除了讽刺文学这个漏洞之外，Avaaz的研究中揭发的一些帖子似乎还没有经过Facebook的检查，这只是因为Facebook的官方事实调查合作伙伴并非是揭发这些帖子的人。例如，Washington Free Beacon发布的一则报道引发了50多万次的Facebook互动，该报道称众议员Ilhan Omar“涉嫌组织与伊斯兰恐怖活动有关的秘密筹款活动”。这则新闻被Snopes网站曝光（该网站以揭发骗局而闻名）。然而，2月份Snopes与美联社一起退出了Facebook的事实检查程序，有报道称他们对Facebook在该项目上的态度感到失望。尽管这则有关Omar的新闻很有煽动性——因为其宣扬了美国穆斯林依然保持了对恐怖主义者的同情，但是Facebook的其余合作伙伴都没有对这则新闻进行事实核实。
Nieman实验室的Laura Hazard Owen在她敏锐的研究报道中指出，Avaaz的数据还包含一些政客在更新自己的最新动态时发布的虚假信息，虽然没有照片或文章链接。其中包括特朗普总统的两次状态更新，其中一项指控民主党人于2018年写信给乌克兰，敦促该政府对他进行调查；另一项则声称民主党人不介意在婴儿出生后处决婴儿。后者被Facebook合作伙伴Politifact揭穿。但这并没有什么作用，因为Facebook的政策明确声明政治人物的讲话可以免却事实检查，包括他们的广告和状态更新。如果特朗普分享一个已被揭穿的文章链接或表情符，那么Facebook的系统会打上标记，但是由于这些谎言来自他自己的状态更新，因此得到了Facebook的首肯。
绕过Facebook事实检查系统的一种方法是，让政客们在状态更新中发布谎言，只要不在文章中使用链接就相安无事。Facebook制定了一项政策，禁止对政府官员候选人的广告或状态更新进行事实检查。
像先前的几项分析一样，Avaaz的研究发现，大多数虚假新闻都是亲特朗普或反民主的（79%）。但并非所有的虚假新闻皆如此。实际上，报告中最具病毒性的虚假新闻是2015年12月发布的一则已被揭穿的新闻，其声称“特朗普的祖父涉嫌皮条生意和偷税”，而他的父亲是三K党的成员。如果你尝试分享这则新闻，Facebook会发出警告，表面看起来这种措施合情合理。但是，根据Avaaz的CrowdTangle数据，这种措施并未能阻止该文章引发的160多万次互动。
这个Facebook系统中最明显的缺点也可能是最难修复的缺点。即使事实核查伙伴一切正常，与平台上的错误信息量相比，他们的人力编辑资源也显得微不足道，因为他们只能审查其中一小部分内容。这家英国的非营利组织和Facebook事实检查合作伙伴Full Fact在今年发表了有关该公司事实检查工作的深入报告，其首要建议之一便是缩短事实检查的响应时间。但是，聘请专业记者对可疑的新闻进行事实检查所付出的时间和金钱远远超过了在Facebook上分享或通过Facebook软件推送给数百万用户的代价。在大多数情况下，虚假新闻一旦传播开来，事实检查人员就会优先处理。然而，在事实检查过程中，虚假新闻还将继续传播。等到Facebook将其标记为“已揭穿”时，其影响范围可能已达到顶峰。
因此，Avaaz的Quran 建议Facebook在揭穿信息后，立即提醒所有看到错误信息的用户。但这反而会引起某些人关注虚假新闻，特别是那些原来并没有注意到这些新闻的人。
令人沮丧的现实是，无论Facebook的事实核查工作付出多么巨大的艰辛，似乎都会被其平台的活力给淹没。姗姗来迟的揭穿和警告标记远远无法减少动态消息中的误导信息源。Facebook需要改变网络的基本结构，尽管这些网络原本旨在迅速传播能够产生大量互动的帖子。此外，Facebook还需要区分信息源的可靠度，虽然Facebook做了部分这样的尝试，但最近扎克伯格表示他没有打算进一步推进该项措施。
从某些方面来看，在大规模检查用户发布内容的真实性方面，Facebook领先于其他主流社交平台。如今，Facebook拥有约55个事实检查合作伙伴，对45种语言的信息进行了核实，而且它还会继续开发新工具来检测可能包含错误信息的帖子。然而，Facebook的这位CEO将自己的平台视为言论自由的堡垒，却顾虑不到人权、民主和真理，在他的带领下，该平台的发展似乎也已达到了极限。上周，Facebook唯一的荷兰事实调查合作伙伴也因为抗议该公司拒绝针对政客实施事实调查，而退出了该计划。
在BuzzFeed的2016年分析中，随着美国大选的临近，虚假新闻的病毒式传播急剧增加。2019年Avaaz的报告中出现了相同的增长趋势——尽管距离2020年总统大选还有一年。令人发人深省的是，虽然如今的错误信息似乎没有三年前那么普遍，但在未来11个月的时间里情况有可能会进一步恶化。
原文：https://onezero.medium.com/how-fake-news-is-still-fooling-facebooks-fact-checking-systems-fa8b0e0255b8
![]()
热 文 推 荐
☞扎心！12 月全国程序员工资统计，半年工资仅涨 500 元！
☞扛住100亿次请求——如何做一个“有把握”的春晚红包系统
![]()
点击阅读原文，即刻参加调查！
点击阅读原文，即刻参加调查！
微信扫码咨询专知VIP会员