《从军事角度拓展社交媒体的欺骗检测技术》23页技术报告

自 2016 年以来，西方国家社交媒体（SM）上开展的影响力行动大幅增加。但其归因仍是一个问题，这使得人们难以清楚地了解其追求的目标并制定适当的应对措施。为了应对归因和意图方面的挑战，Forrester 和 Von Franke（2020 年）在 ICCRTS 25 上提出了一个欺骗检测框架，旨在指导 SM 内的欺骗研究。本论文将这一框架向前推进了一步。本文首先对文献进行了限定性回顾，然后提出了一种算法，可自动识别早期工作（Forrester 等人，2019 年）中发现的非真实行为者（通常称为 Bots）。本立场文件认为，自动行为者很快就能利用语言学习模型（LLM）和基础模型（FM）最新发展的破坏力，在目前非人类传播能力的基础上，允许人工智能（AI）生成虚假信息。这些发展令人担忧。我们不仅迫切需要自动识别非人类行为者，还需要了解这种欺骗活动的影响。事实上，欺骗意图的程度以及 Bot-led 叙事可能产生的危害程度，都需要自动检测和分析人员的理解框架。这种影响可以通过分析欺骗检测框架内的其他组件来确定，这将指导未来的研究和算法开发。

欺骗检测框架

Forrester 和 Von Francke（2020 年）提出的框架在很大程度上源于社交媒体分析研究文献与实践之间有意义的交叉。该框架由七个部分组成：

1.发起者 2.帖子形式 3.信息内容 4.媒介特点 5.传输手段 6.信息如何传播 7.目标受众

在寻找 SM 中的欺骗行为时，设想在两个或更多的组成部分中找到积极的指标或所谓的异常现象，将通过三角测量比任何单一组成部分更有可能发现欺骗行为。制定这一框架是为了指导对指标、方法和技术的研究。本文将集中讨论这种三角测量方法，以便提供一个未来的检测点，分析人员可在此点上确定内容（叙述）的重要性并决定下一步行动。

欺骗检测（DD）中的传统工艺与自动化相结合的研究，可通过图 1 了解这一功能。我们提出的算法原型和分析框架将与图 1 中的三角形相吻合，欺骗检测是名为 PRISM（社交媒体研究与调查项目）的研究项目的一个子项目。与上述 1. 至 7. 相关的自动化被认为是混合型的，因为它们既处理行为者信息和内容，也处理人类-人工智能团队中的技术和自动化。