In this paper, we argue that current AI research operates on a spectrum between two different underlying conceptions of intelligence: Intelligence Realism, which holds that intelligence represents a single, universal capacity measurable across all systems, and Intelligence Pluralism, which views intelligence as diverse, context-dependent capacities that cannot be reduced to a single universal measure. Through an analysis of current debates in AI research, we demonstrate how the conceptions remain largely implicit yet fundamentally shape how empirical evidence gets interpreted across a wide range of areas. These underlying views generate fundamentally different research approaches across three areas. Methodologically, they produce different approaches to model selection, benchmark design, and experimental validation. Interpretively, they lead to contradictory readings of the same empirical phenomena, from capability emergence to system limitations. Regarding AI risk, they generate categorically different assessments: realists view superintelligence as the primary risk and search for unified alignment solutions, while pluralists see diverse threats across different domains requiring context-specific solutions. We argue that making explicit these underlying assumptions can contribute to a clearer understanding of disagreements in AI research.


翻译:本文认为,当前人工智能研究在两种不同的智能基础观念之间展开:智能现实主义主张智能代表一种单一的、普适的、可在所有系统中度量的能力;智能多元主义则认为智能是多样化的、情境依赖的能力集合,无法被简化为单一的普适度量标准。通过对当前人工智能研究争论的分析,我们论证了这些观念虽大多隐而不显,却从根本上塑造了跨广泛领域的经验证据解读方式。这两种基础观念在三个研究领域催生了根本不同的研究路径。在方法论层面,它们导致了模型选择、基准测试设计和实验验证的不同取向。在解释层面,它们对同一经验现象——从能力涌现到系统局限性——产生了相互矛盾的解读。在人工智能风险层面,它们形成了截然不同的评估框架:现实主义者将超级智能视为主要风险,并寻求统一的对齐解决方案;而多元主义者则认为威胁存在于不同领域,需要针对具体情境的解决方案。我们主张,将这些潜在假设显式化有助于更清晰地理解人工智能研究中的分歧。

0
下载
关闭预览

相关内容

【AI与军事】机器学习的军事应用
专知会员服务
212+阅读 · 2022年4月25日
【CPS】社会物理信息系统(CPSS)及其典型应用
产业智能官
16+阅读 · 2018年9月18日
读论文Discriminative Deep Metric Learning for Face and KV
统计学习与视觉计算组
12+阅读 · 2018年4月6日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
VIP会员
相关资讯
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员