《人工智能对抗认知战的基本风险​​》最新报告30页

本文剖析了拟议中用于探测、监控及对抗“认知战”的人工智能系统，批判性审视此类系统对基本权利与价值观的影响。在阐释当代公共安全话语中的“认知战”概念后，文章指出人工智能作为新兴工具，可能加剧针对社会在线信息生态系统的恶意活动。为应对此挑战，研究者与决策者提议利用人工智能制定反制措施——从基于人工智能的预警系统到政府主导的全网络内容审核工具。然而这些干预措施在不同程度上干预了隐私权、言论自由、信息自由与自决权等基本权利与价值观。所提出的人工智能系统缺乏充分考量当代在线信息生态系统的复杂性，尤其未能解决“认知战”活动与不良后果间因果关系的固有判定难题。其后果在于，利用人工智能对抗“认知战”反而可能损害本应受保护的基本权利与价值观。决策者应减少对看似立竿见影的技术解决方案的过度关注，转而投入构筑立足于保障基本权利的长效策略，以应对数字传播生态系统中的信息失序问题。