Frontier AI developers operate at the intersection of rapid technical progress, extreme risk exposure, and growing regulatory scrutiny. While a range of external evaluations and safety frameworks have emerged, comparatively little attention has been paid to how internal organizational assurance should be structured to provide sustained, evidence-based oversight of catastrophic and systemic risks. This paper examines how an internal audit function could be designed to provide meaningful assurance for frontier AI developers, and the practical trade-offs that shape its effectiveness. Drawing on professional internal auditing standards, risk-based assurance theory, and emerging frontier-AI governance literature, we analyze four core design dimensions: (i) audit scope across model-level, system-level, and governance-level controls; (ii) sourcing arrangements (in-house, co-sourced, and outsourced); (iii) audit frequency and cadence; and (iv) access to sensitive information required for credible assurance. For each dimension, we define the relevant option space, assess benefits and limitations, and identify key organizational and security trade-offs. Our findings suggest that internal audit, if deliberately designed for the frontier AI context, can play a central role in strengthening safety governance, complementing external evaluations, and providing boards and regulators with higher-confidence, system-wide assurance over catastrophic risk controls.


翻译:前沿人工智能开发者处于技术快速进步、极端风险敞口和日益增强的监管审查的交汇点。尽管已出现一系列外部评估与安全框架,但关于应如何构建内部组织保障机制以对灾难性与系统性风险提供持续、基于证据的监督,目前关注相对不足。本文探讨了如何设计内部审计职能,以为前沿人工智能开发者提供有效的保障,并分析了影响其效用的实际权衡。借鉴专业内部审计标准、基于风险的保障理论以及新兴的前沿人工智能治理文献,我们分析了四个核心设计维度:(i) 涵盖模型层面、系统层面和治理层面控制的审计范围;(ii) 资源配置安排(内部、联合外包与完全外包);(iii) 审计频率与节奏;(iv) 获取可信保障所需的敏感信息权限。针对每个维度,我们界定了相关选项空间,评估了优势与局限,并识别了关键的组织与安全权衡。我们的研究表明,若针对前沿人工智能情境进行审慎设计,内部审计可在强化安全治理、补充外部评估、以及为董事会和监管机构提供更高置信度的全系统灾难性风险控制保障方面发挥核心作用。

0
下载
关闭预览

相关内容

面向关系建模的合作多智能体深度强化学习综述
专知会员服务
39+阅读 · 4月18日
生成式人工智能在机器人操作中的应用:综述
专知会员服务
28+阅读 · 3月6日
有监督深度学习的优化方法研究综述
专知会员服务
40+阅读 · 2023年5月15日
基于深度学习的数据融合方法研究综述
专知会员服务
146+阅读 · 2020年12月10日
基于深度学习的数据融合方法研究综述
专知
36+阅读 · 2020年12月10日
自动驾驶技术解读——自动驾驶汽车决策控制系统
智能交通技术
30+阅读 · 2019年7月7日
综述 | 近年来深度学习的重要研究成果(附PDF)
数据派THU
14+阅读 · 2018年8月15日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 12月21日
VIP会员
相关VIP内容
相关资讯
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员