2022.5最新白皮书《实现可审计的人工智能系统，从原则到实践 》26页PDF

作为一项关键技术，人工智能（AI），特别是以深度神经网络的形式，已经在许多数字化业务中成功应用，包括生物识别、医疗保健和汽车等领域的安全和安保相关应用。尽管人工智能有无可争议的好处，但它的使用也带来了质量和数量上的新风险和脆弱性。随着人工智能的不断传播，这就要求审计方法能够保证其可信度，并能够将新兴的人工智能标准和人工智能监管工作付诸实施，例如欧洲人工智能法案。审计人工智能系统是一项复杂的工作，因为在人工智能的生命周期中需要考虑多个方面，需要多学科的方法。人工智能审计方法和工具在许多情况下是研究的主题，还没有实际应用。为了在不同的使用情况下对人工智能系统的可审计性进行全面的盘点，并允许跟踪其随时间的进展，我们在此建议采用新开发的 "认证准备矩阵"（CRM），并提出初步概念。通过使用CRM概念作为框架来总结为期一天的人工智能系统审计研讨会的结果，其中包括基础研究、应用人工智能审计工作和标准化活动，我们证明了某些方面的审计方法已经发展成熟，而其他方面仍然需要更多的研究和开发新的审计技术和工具。