Ttraditional safety engineering is coming to a turning point moving from deterministic, non-evolving systems operating in well-defined contexts to increasingly autonomous and learning-enabled AI systems which are acting in largely unpredictable operating contexts. We outline some of underlying challenges of safe AI and suggest a rigorous engineering framework for minimizing uncertainty, thereby increasing confidence, up to tolerable levels, in the safe behavior of AI systems.
翻译：传统安全工程正在进入一个转折点,从在明确情况下运行的决定性、非演变的系统转向在基本无法预测的操作环境中运行的日益自主和学习驱动的AI系统。 我们概述了安全AI的一些潜在挑战,并建议建立一个严格的工程框架,以尽量减少不确定性,从而提高对AI系统安全行为的信心,达到可容忍的程度。
相关内容
《工程》是中国工程院（CAE）于2015年推出的国际开放存取期刊。其目的是提供一个高水平的平台，传播和分享工程研发的前沿进展、当前主要研究成果和关键成果；报告工程科学的进展，讨论工程发展的热点、兴趣领域、挑战和前景，在工程中考虑人与环境的福祉和伦理道德，鼓励具有深远经济和社会意义的工程突破和创新，使之达到国际先进水平，成为新的生产力，从而改变世界，造福人类，创造新的未来。
期刊链接：https://www.sciencedirect.com/journal/engineering
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月29日
相关主题
相关VIP内容
相关资讯
相关论文
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月30日
Arxiv
0+阅读 · 2022年6月29日
微信扫码咨询专知VIP会员