本白皮书讨论了鲁棒和安全的AI系统:即使在面临不确定性和危险或威胁时,AI系统也能在预期的性能水平上可靠地运行。
鲁棒和安全的AI系统是指能够在预期性能水平上可靠运行的AI系统,即使在面临不确定性和危险或威胁时也是如此。这些系统具有内置的结构、机制或缓解措施,以防止、避免来自特定威胁模式的危险,或提供抵御能力。我们确定了三个具体的重点领域,以推进用于国防和国家安全的鲁棒和安全的人工智能:
提高AI组件和系统的鲁棒性 * 为现代人工智能系统的安全挑战而设计 * 开发用于测试、评估和分析AI系统的流程和工具
对于每个领域,我们都有信心地确定在开发和部署AI系统方面正在进行的工作以及挑战和机遇。
https://resources.sei.cmu.edu/library/asset-view.cfm?assetid=735344