《人工智能作战决策辅助中的安全性》美国海军2022最新27页slides

计算思维和数据科学的进步导致了人工智能系统的新时代，这些系统被设计来适应复杂的情况并开发可操作的知识。这些学习系统旨在可靠地理解情况的本质，并构建关键的决策建议，以支持自主和人机团队的运作。

同时，数据的数量、速度、种类、真实性、价值和变异性的不断增加，使这些新系统的复杂性受到影响--在其开发和实施方面造成了挑战。对于支持具有较高后果的关键决策的人工系统来说，安全已经成为一个重要的问题。需要有方法来避免故障模式，并确保只允许期望的行为。

元认知是一种解决策略，它能促进人工智能系统内部的自我意识，以了解其外部和内部的运行环境，并利用这些知识来识别潜在的故障，实现自我修复和自我管理，以实现安全和理想的行为。

人工智能战争决策辅助工具通过增强战斗空间知识、解决不确定性、推荐战术行动方案、制定交战战略来支持作战人员决策。