《军事人工智能网络代理对关键基础设施构成全球性威胁》

本文认为，自主人工智能网络武器——军事人工智能网络代理——为灾难性风险开辟了一条可信的途径。文章阐述了军事人工智能网络代理的技术可行性，解释了地缘政治和网络空间的性质为何使军事人工智能网络代理成为一种灾难性风险，并提出了政治、防御性人工智能和模拟韧性措施以削弱此威胁。

人工智能风险倡导者和军事人工智能伦理学家都未对军事人工智能网络代理所带来的失控风险给予足够关注。主权国家必须采取以下措施，以预防军事人工智能网络代理必然发展所伴随的风险：1. 采取反扩散措施，避免军事人工智能网络代理落入恶意行为体之手；2. 开展防御性研究，以发展削弱恶意军事人工智能网络代理所需的对抗人工智能能力；3. 投资于关键基础设施韧性和模拟冗余，以限制恶意军事人工智能网络代理可能造成的损害。