会员服务
AI · Continuity · 控制器 · 损失 · 论文 ·
2023 年 11 月 12 日
Managing AI Risks in an Era of Rapid Progress
翻译：暂无翻译
Yoshua Bengio,Geoffrey Hinton,Andrew Yao,Dawn Song,Pieter Abbeel,Yuval Noah Harari,Ya-Qin Zhang,Lan Xue,Shai Shalev-Shwartz,Gillian Hadfield,Jeff Clune,Tegan Maharaj,Frank Hutter,Atılım Güneş Baydin,Sheila McIlraith,Qiqi Gao,Ashwin Acharya,David Krueger,Anca Dragan,Philip Torr,Stuart Russell,Daniel Kahneman,Jan Brauner,Sören Mindermann
Yoshua Bengio,Geoffrey Hinton,Andrew Yao,Dawn Song,Pieter Abbeel,Yuval Noah Harari,Ya-Qin Zhang,Lan Xue,Shai Shalev-Shwartz,Gillian Hadfield,Jeff Clune,Tegan Maharaj,Frank Hutter,Atılım Güneş Baydin,Sheila McIlraith,Qiqi Gao,Ashwin Acharya,David Krueger,Anca Dragan,Philip Torr,Stuart Russell,Daniel Kahneman,Jan Brauner,Sören Mindermann

In this short consensus paper, we outline risks from upcoming, advanced AI systems. We examine large-scale social harms and malicious uses, as well as an irreversible loss of human control over autonomous AI systems. In light of rapid and continuing AI progress, we propose urgent priorities for AI R&D and governance.


翻译：暂无翻译
0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文，这些论文构成了整个领域的进步，也欢迎介绍人工智能应用的论文，但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能，而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案，强调其新颖性，并对正在开发的人工智能技术进行深入的评估。 官网地址：http://dblp.uni-trier.de/db/journals/ai/
UCM《机器学习导论笔记》，80页pdf CSE176 Introduction to Machine Learning
专知会员服务
30+阅读 · 2021年9月29日
Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
78+阅读 · 2020年7月26日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
29+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
59+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
152+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
“Fishes-in-net” 酵母孢子微胶囊式近平滑假丝酵母SCRII酶有机相高效手性合成机制研究
国家自然科学基金
2+阅读 · 2016年12月31日
Musielak-Orlicz-Sobolev 空间中的迹嵌入及其应用
国家自然科学基金
1+阅读 · 2015年12月31日
复多项式的核拓扑熵
国家自然科学基金
0+阅读 · 2015年12月31日
基于自主学习的Ad hoc Agent序贯决策研究
国家自然科学基金
38+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
PPP项目争端谈判及其治理机制研究
国家自然科学基金
2+阅读 · 2015年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
海量Web用户生成内容物化关键技术
国家自然科学基金
1+阅读 · 2014年12月31日
概率抽样设计及其统计推断方法
国家自然科学基金
4+阅读 · 2014年12月31日
Optimal Synthesis of Finite State Machines with Universal Gates using Evolutionary Algorithm
Arxiv
0+阅读 · 1月2日
Tensor Ranks and the Fine-Grained Complexity of Dynamic Programming
Tensor Ranks and the Fine-Grained Complexity of Dynamic Programming
Arxiv
0+阅读 · 1月2日
Fourier Analysis on Robustness of Graph Convolutional Neural Networks for Skeleton-based Action Recognition
Arxiv
0+阅读 · 2023年12月30日
Quantifying Policy Administration Cost in an Active Learning Framework
Arxiv
0+阅读 · 2023年12月29日
Grasping, Part Identification, and Pose Refinement in One Shot with a Tactile Gripper
Arxiv
0+阅读 · 2023年12月29日
A Survey on Evaluation of Large Language Models
Arxiv
0+阅读 · 2023年12月29日
A Survey of Knowledge-Enhanced Pre-trained Language Models
Arxiv
18+阅读 · 2022年11月17日
Learning Neural Models for Natural Language Processing in the Face of Distributional Shift
Arxiv
11+阅读 · 2021年9月3日
Informed Machine Learning -- A Taxonomy and Survey of Integrating Knowledge into Learning Systems
Arxiv
37+阅读 · 2021年5月28日
A Review of Graph Neural Networks and Their Applications in Power Systems
A Review of Graph Neural Networks and Their Applications in Power Systems
Arxiv
27+阅读 · 2021年1月25日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
AI
Continuity
控制器
损失
论文
相关VIP内容
UCM《机器学习导论笔记》，80页pdf CSE176 Introduction to Machine Learning
专知会员服务
30+阅读 · 2021年9月29日
Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
78+阅读 · 2020年7月26日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
29+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
59+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
152+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
热门VIP内容
相关资讯
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
相关论文
Optimal Synthesis of Finite State Machines with Universal Gates using Evolutionary Algorithm
Arxiv
0+阅读 · 1月2日
Tensor Ranks and the Fine-Grained Complexity of Dynamic Programming
Tensor Ranks and the Fine-Grained Complexity of Dynamic Programming
Arxiv
0+阅读 · 1月2日
Fourier Analysis on Robustness of Graph Convolutional Neural Networks for Skeleton-based Action Recognition
Arxiv
0+阅读 · 2023年12月30日
Quantifying Policy Administration Cost in an Active Learning Framework
Arxiv
0+阅读 · 2023年12月29日
Grasping, Part Identification, and Pose Refinement in One Shot with a Tactile Gripper
Arxiv
0+阅读 · 2023年12月29日
A Survey on Evaluation of Large Language Models
Arxiv
0+阅读 · 2023年12月29日
A Survey of Knowledge-Enhanced Pre-trained Language Models
Arxiv
18+阅读 · 2022年11月17日
Learning Neural Models for Natural Language Processing in the Face of Distributional Shift
Arxiv
11+阅读 · 2021年9月3日
Informed Machine Learning -- A Taxonomy and Survey of Integrating Knowledge into Learning Systems
Arxiv
37+阅读 · 2021年5月28日
A Review of Graph Neural Networks and Their Applications in Power Systems
A Review of Graph Neural Networks and Their Applications in Power Systems
Arxiv
27+阅读 · 2021年1月25日
相关基金
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
“Fishes-in-net” 酵母孢子微胶囊式近平滑假丝酵母SCRII酶有机相高效手性合成机制研究
国家自然科学基金
2+阅读 · 2016年12月31日
Musielak-Orlicz-Sobolev 空间中的迹嵌入及其应用
国家自然科学基金
1+阅读 · 2015年12月31日
复多项式的核拓扑熵
国家自然科学基金
0+阅读 · 2015年12月31日
基于自主学习的Ad hoc Agent序贯决策研究
国家自然科学基金
38+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
PPP项目争端谈判及其治理机制研究
国家自然科学基金
2+阅读 · 2015年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
海量Web用户生成内容物化关键技术
国家自然科学基金
1+阅读 · 2014年12月31日
概率抽样设计及其统计推断方法
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员
Top