【智慧农业的潜在风险】剑桥大学研究人员警告说，使用人工智能实施种植存在巨大风险（Nature Machine Intelligence）

来源| Cambridge
编辑| 专知翻译整理

人工智能 (AI) 正处于推动农业革命的风口浪尖，并帮助应对以可持续方式养活不断增长的全球人口的挑战。但研究人员警告说，大规模使用新的人工智能技术会带来巨大的风险（网络攻击，土壤侵蚀，性别、阶级和种族歧视等），而这些风险并未得到考虑

01 研究成果在【Nature Machine Intelligence】发表

标题

Responsible artificial intelligence in agriculture requires systemic understanding of risks and externalities

作者

Asaf Tzachor, Medha Devare, Brian King, Shahar Avin & Seán Ó hÉigeartaigh

摘要

农业有望从人工智能 (AI) 技术的快速发展和传播中受益。农业中的人工智能可以通过植物表型分析、植物病害的快速诊断、农用化学品的有效应用以及为种植者提供与位置相关的农艺建议来帮助改善作物管理和农业生产力。然而，机器学习 (ML) 模型、专家系统和自动机器对农场、农民和粮食安全的影响却知之甚少，也未得到充分重视。在这里，我们考虑了农业中人工智能的系统性风险因素。即，我们审查与农业数据的互操作性、可靠性和相关性有关的风险，以及针对产量优化的 ML 模型导致的意外社会生态后果，以及与大规模部署 ML 平台相关的安全问题。作为回应，我们建议采取降低风险的措施，包括邀请农村人类学家和应用生态学家参与技术设计过程，应用负责任和以人为本的创新框架，建立数据合作社以提高数据透明度和所有权，以及初步部署农业数字沙箱中的人工智能。

paper

https://www.nature.com/articles/s42256-022-00440-4.pdf

结论

• 人工智能在农业中的广泛部署既有价值又值得期待。尽管如此，农业技术现代化的历史强烈表明，专注于提高生产力会带来潜在风险，包括加剧不平等和生态退化。农业人工智能必须避免先前技术的陷阱，并通过实施全面的风险评估和预期治理协议来仔细导航和改善其困境。

• 从数据收集和管理到开发和部署，负责任和参与性人工智能的一般原则应针对当地和全球范围内农业面临的不同挑战进行调整。如果不这样做，可能会忽视营养不安全、劳动力剥削和环境资源枯竭的驱动因素，从而使这些驱动因素长期存在。

• 尽管之前的失误，农业技术现代化取得了很大成就。过去的成功也应该为农业专家系统和智能机器的使用提供信息和启发。因此，必须对创新采取平衡的方法，并且风险评估和负责任的研发程序不会扼杀对人类福祉如此重要的系统中的创新。

• 最后，这里讨论的新兴风险格局也适用于提供非食品产品的农业系统；因此，在纤维、燃料、纸浆、纸张、油、树脂、化妆品、橡胶和塑料的生产中应考虑采用类似的方法。

02 成果解读

想象一片延伸到地平线的麦田，正在种植面粉，面粉将被制成面包，为城市的人们提供食物。想象一下，耕种、种植、施肥、监测和收割这片土地的所有权力都被委托给了人工智能：控制滴灌系统、自动驾驶拖拉机和联合收割机的算法，足够聪明，可以对天气和确切需求做出反应的作物。然后想象一个黑客把事情搞砸了。

发表在《Nature Machine Intelligence》杂志上的一项新的风险分析警告说，未来在农业中使用人工智能会给农场、农民和粮食安全带来巨大的潜在风险，而这些风险却鲜为人知。 “智能机器经营农场的想法不是科幻小说。大公司已经在开创下一代自主农业机器人和决策支持系统，将在该领域取代人类，”剑桥大学存在风险研究中心 (CSER) 的 Asaf Tzachor 博士说，他是该研究的第一作者。

“但到目前为止，似乎没有人问过‘农业人工智能的快速部署是否存在任何风险？’”他补充道。

作者认为，尽管人工智能在改善作物管理和农业生产力方面有着巨大的前景，但必须负责任地解决潜在风险，并在实验环境中对新技术进行适当测试，以确保它们是安全的，并能防止意外故障、意外后果和网络攻击。

在他们的研究中，作者提出了在负责任地开发农业人工智能时必须考虑的风险目录以及解决这些风险的方法。在其中，他们警告网络攻击者可能会通过使用人工智能、毒化数据集或关闭喷雾器、自主无人机和机器人收割机来破坏商业农场。为了防止这种情况，他们建议“白帽黑客”帮助公司在开发阶段发现任何安全漏洞，从而保护系统免受真正的黑客攻击。

在与意外失败相关的情况下，作者建议，一个仅在短期内提供最佳作物产量的人工智能系统可能会忽略实现这一目标的环境后果，从而导致长期过度使用化肥和土壤侵蚀。为追求高产而过度使用杀虫剂可能会毒害生态系统；过量施用氮肥会污染土壤和周围的水道。作者建议让应用生态学家参与技术设计过程，以确保避免这些情况。

自动机器可以改善农民的工作条件，减轻他们的体力劳动。但如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等——包括性别、阶级和种族歧视——将依然存在。

“不考虑劳动力投入复杂性的专家人工智能农业系统将忽视并可能维持对弱势社区的剥削，”Tzachor 警告说。

各种农业机器人和先进机械，如无人机和传感器，已经用于收集作物信息并支持农民的决策：例如检测疾病或灌溉不足。自动驾驶联合收割机无需人工操作即可收割庄稼。这种自动化系统旨在提高农业生产效率、节省劳动力成本、优化生产并最大限度地减少损失和浪费。这导致农民收入增加以及对农业人工智能的更大依赖。

然而，在全球范围内种植大部分农场并为所谓的全球南方大片地区提供食物的小规模种植者可能会被排除在与人工智能相关的利益之外。边缘化、互联网普及率低和数字鸿沟可能会阻止小农使用先进技术，从而扩大商业农民和自给农民之间的差距。

估计有 20 亿人受到粮食不安全的困扰，其中包括约 6.9 亿营养不良和 3.4 亿儿童缺乏微量营养素，面对气候变化和全球人口不断增长，人工智能技术和精准农业有望为粮食和营养安全带来巨大好处。

“人工智能被誉为革新农业的方式。当我们大规模部署这项技术时，我们应该密切考虑潜在风险，并力求在技术设计的早期就减轻这些风险，”CSER 执行董事兼新研究的合著者 Seán Ó hÉigeartaigh 博士说。

这项研究由 Templeton World Charity Foundation, Inc. 资助。