【AI与警务】人工智能在打击组织性犯罪方面的挑战

2022 年 7 月 1 日 专知

将人工智能（AI）用于警务工作是一个热门话题。这不仅是因为它被寄予了希望，而且还因为它受到了人权活动家、伦理学家和社会科学家的尖锐批评。特别是，所谓的预测性警务技术（PPT）的使用和实施正在被许多实体所不赞成。对这些系统的批评指的是它的一些众所周知的方面，如缺乏问责制、数据集中有问题的偏见、对个人权利的侵犯和表面性。尽管有这些批评，PPT现在经常被用于整个刑事司法和执法机构。法官、假释委员会、警察指挥官和巡逻人员根据这些技术进行日常评估、评价和分配。他们坚持认为，自动化数据分析使机构决策更加有效、一致、中立，最重要的是，它使警务工作更加智能。

在这种情况下，"智能警务"一词是什么意思？虽然大多数定义都集中在所涉及的技术工具上，但警察从业人员Nola Joyce、Charles Ramsey和James Stewart，以及信息科学家Walter Perry等人将 "智能警务 "定义为通过研究人员、从业人员和技术开发人员之间的密切合作，运用分析视角来解决犯罪的根本原因的调查。根据这些作者的观点，在这个意义上的 "智能警务"应该是指导创新和改革的目标。智能警务应关注其潜力，也关注其威胁和风险，以及其文化和历史背景。智能警务也不应依赖排斥、执法和划界，而是利用技术工具促进竞争群体的相互包容、对政府的信任和对社会的参与。

在这个概念中，使警务工作变得 "聪明"的不仅仅是算法的使用。相反，它是算法的嵌入，它的任务，它的应用，它的实用功能，以及它对个人和社会的（长期）影响，使之与众不同。我们今天所知的基于人工智能的预测性警务与这种广义上的 "智能警务"没有什么关系。目前的PPT没有设计，更不用说系统地部署，来分析关于犯罪的更复杂基本结构的数据。它们只能够执行相当简单的任务，例如指定街道巡逻的区域。它们的目的是预测并帮助预防公开的犯罪行为，如街头抢劫、入室盗窃、使用和销售非法药物或盗窃。但是，根据国际刑警组织的说法，有组织的犯罪仍然是对当代民主国家的最大威胁之一，因为它系统地破坏了小企业并腐蚀了对民主机构的信任，那么有组织的犯罪呢？这种形式的犯罪主要是基于腐败和勾结的策略，并避免一切形式的公开暴力。因此，它不可能被例如街头巡逻或热点警务所打击。模式识别和犯罪系列检测在这里不是很有用，因为到目前为止，这些方法只针对暴力或报告良好且容易检测的犯罪行为，而不是像腐败或洗钱这样微妙而复杂的犯罪行为。因此，迫切需要其他系统来减轻刑事调查员在理解、揭露和证明有组织犯罪的复杂结构方面的艰巨任务，在这些结构中，资金流动、政治、物流、国际关系、血缘关系和文化传统动态地交织在一起。

在我们拥有能够在打击有组织犯罪的斗争中取得重大进展的机器之前，还有很长的路要走。然而，最近，机器学习的步伐正在加快。随着更多数据的出现，异质海量数据的合并工作比以往更加顺利。此外，通过将机器语言转化为可理解的线索来降低复杂性的可视化技术正在使沟通变得更加容易，而且，旨在不仅检测模式和相关性，而且分析因果关系和结构更复杂的系统发展也即将到来。应用于警察领域，这种从模式到结构、从相关性到因果性的转变为打击关系和组织提供了可能。

利用自动化来协助打击有组织犯罪无疑是一个值得称赞的项目。然而，我们有理由认为，针对现有PPT提出的许多批评意见也可能适用于这种系统的扩展。这是因为，尽管它们基于不同的逻辑（而不是预测，它们依赖于检测和理解），但它们使用类似的统计模型，由相同的机构委托和建造，并被部署在相同的后殖民社会中。然而，对以有组织犯罪为导向的技术潜在问题后果进行批判性讨论和伦理评估是目前研究领域的一个盲点，它几乎只关注PPTs。这是因为更复杂的面向有组织犯罪的技术仍然是新生事物；它们还没有被使用，所以它们的实际影响还不能被经验性地评估。然而，我们不想等到它们成熟并投入使用后再进行评估--这不仅是因为先建立这些系统，然后再改变它们以符合道德标准是不经济的，而且还因为歧视性或侵入性的自动化带来的损害可能很难消除。因此，既然我们有理由相信，用于打击有组织犯罪的机器学习技术迟早会成熟并投入使用，那么它们已经值得更仔细地审查。这可以通过结合预测性伦理学领域内建议的不同方法来实现。

在这篇文章中，我们朝着这个方向迈出了第一步。在第二部分和第三部分中，我们首先讨论了固有的逻辑，也讨论了到目前为止对当前预测性警务技术（PPT）提出的批评。在第四部分中，我们继续深入研究 "正在开发"的技术，这些技术针对的是与打击有组织犯罪有关的更复杂的任务。在此背景下，我们探讨了以下问题。对PPT的批评在多大程度上适用于这些新系统？还有哪些可能影响更深远的伦理问题？可能会出现哪些新的挑战，新的方法有哪些潜力？简而言之，要使基于人工智能的警务工作在全面意义上真正 "智能"，需要什么？

专知便捷查看