美英等18国发布《安全人工智能系统开发指南》

2023年11月27日，由英国国家网络安全中心牵头，包括美国在内的18个国家共同参与制定了《安全人工智能系统开发指南（Guidelines for secure AI system development）》。该协议以人工智能安全峰会为基础，旨在提高人工智能的网络安全水平，确保设计和使用人工智能的公司在开发和部署人工智能时保护客户和广大公众的安全，以及建立人工智能领域的全球合作。 尽管这份由英国牵头制定的协议是全球范围内达成的首个此类指南，然而，该协议却不具有约束力，主要是一般性建议，如监控人工智能系统是否被滥用、保护数据不被篡改以及审查软件供应商等。 它将帮助任何使用人工智能系统的开发者在开发过程的每个阶段做出明智的网络安全决策。该指南帮助开发人员确保网络安全既是人工智能系统安全的基本前提，也是从一开始就贯穿整个开发过程，即所谓的**“安全设计”**方法。

该指南从四个关键领域提供了有助于提高人工智能系统安全性的建议，分别是：安全设计、安全开发、安全部署和安全****运维。

https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf