斯坦福HAI：刑法中机器学习的新方向

报告主要结论

• 使用机器学习来分析刑事法律系统中的决策可能是一种有价值的方式，可以识别歧视，并促进重新考虑那些不公正的决定--但重新考虑仍然是一个决定，刑事法律程序中的利益相关者应该考虑机器学习是否以及如何在该决定中发挥作用。

• 我们提出了一个双管齐下的 "侦查方法（Recon Approach）"，以在刑法中使用机器学习：侦察，即机器学习识别人类决策过程中的模式，以及重新考虑，即机器学习然后专注于个别决策案例。

• 侦察方法是指人类做出自由裁量的决定，有描述决定因素的记录，并且这些记录可以被机器学习工具分析（例如，可以被语言处理算法阅读的听证会记录）的情况。

• 政策制定者应考虑实施更强大、更清晰的公共记录法，以确保研究人员能够获得必要的数据来进行这些审查。

美国的刑事法律系统充斥着不平等现象，并使其长期存在。这些跨越种族、社会经济和其他界限的歧视问题有据可查，但研究这个问题仍然是一个资源密集型的过程。梳理法庭记录的听证会，手工分类案件档案，以及其他调查技术需要数小时的时间，大量的手工劳动，以及许多公民和其他组织根本缺乏的研究资金。技术也许能够减轻一些负担。

毫无疑问，目前人工智能（AI）技术的许多应用使刑事法律制度中的歧视问题成为可能。例如，批评者认为，由于算法是在反映几个世纪以来的种族主义的数据集上训练的（例如，关于不同种族群体的逮捕率），它们往往高估有色人种被告与白人被告之间的累犯风险。人们有理由担心，在刑事法律系统中使用技术，以及它如何将重点放在刑事司法系统中广泛的社会和政治问题的 "技术修复 "上，而只会使问题变得更糟。

在我们的新论文中，我们建议使用机器学习（ML）来分析刑事法律系统中的决策。我们主张使用ML来分析当权者已经做出的决定，而不是用ML来评估那些被送进系统的人，从而增加这些决定的透明度，识别模式，并帮助人们看到潜在的不公正现象。其目的不是预测人类的行为或取代人类的决策，而是更好地理解导致过去决定的因素，希望能促进刑法应用的公平性和一致性的提高。我们称其为 "侦察方法"。

侦查方法（Recon Approach）

审查刑事法律系统内的决策是否存在偏见或其他不公正现象是一个复杂、密集的过程。根据审查的范围，研究人员可能需要阅读数以千计的听证会记录，每份记录可能长达数百页，需要大量时间和体力劳动。然而，这些分析可以使司法系统发生有意义的变化，就像对死刑案件的主要审查一样，这些审查发现了系统性的种族主义并导致了关键的改革。

我们的论文提出了一个降低审查成本的解决方案：机器学习。我们没有对那些通过司法系统的人进行预测，也没有试图做出对法官或假释委员会成员有帮助的评估，而是专注于分析司法系统的决定，在事后分析公平性和一致性问题。那些调查刑事司法系统决定和推动改革的人，而不是决策者本身，是Recon Approach的预期用户。

侦察方法的第一步是 "侦察"，包括在官员作出自由裁量决定的听证会记录中运行NLP和其他算法。随着算法对记录稿的阅读--比任何人类都要快得多--他们可以识别文本中的模式，例如在听证会上提出哪些因素（如年龄、以前的犯罪行为、情有可原的情况）。研究人员还可以使用算法来创建基于这些信息的 "决策树"，以模拟房间里人类决策者的决策逻辑（例如，在假释委员会）。

第二步是 "重新考虑"，即从侦察部分获得更高层次的分析，并将其应用于个别案件。侦察的重点是识别高层次的趋势，而重新考虑的重点是识别产生与整体模式不同的决定的异常案件。例如，如果侦察显示，有地区检察官出席的假释听证会通常会导致具有类似案件因素的候选人被拒绝假释，这可能是重新考虑有地区检察官出席的听证会的一个理由。这可以通过 "近邻 "算法等技术来实现，由审查员来定义比较的基础。例如，如果两个假释候选人在基本罪行、服刑时间和监狱不当行为历史方面相似，但一个是黑人，另一个是白人，我们可以使用Recon Approach来调查黑人在这种情况下的表现。

我们认为，重新审议应该与侦察同时进行。如果没有侦察，研究人员将缺乏对数以千计的听证会的广泛趋势的分析；如果没有复议，研究人员将难以缩小对具体事件的关注。使用复议，而不首先应用侦察，来分析一个单一的案件，意味着决定可能在一个案件中看起来是一致的，但被证明是类似案件中一贯不公平趋势的一部分。跳过侦查步骤有可能使决策中的系统性不公平长期存在。