华为邵洋：人均 1000 个智能终端并不可怕，AI还会指数级上行

---

  新智元报道  

编辑：张佳

【新智元导读】在新智元重磅发布的新书《智周万物：人工智能改变中国》中，针对“2049 年人工智能未来展望”这一主题，我们邀请了人工智能领域知名学术专家和产业领袖进行讨论，今天分享华为消费者BG首席战略官邵洋对这些问题的看法。快来新智元AI朋友圈与AI大咖讨论～

当前人类正处于这样一个节点：由于人工智能的出现及应用，我们第一次看到了构建“机器意识”的可能。近年来，“AI 落地与产业化”成为关键词，随着越来越多的智能应用出现，智慧机器将不再只是单纯的机械，而是能与人交互、对环境做出响应的机器，它将逐渐深入我们的生活。

虽然我们可能没有意识到，但我们在使用智能手机的时候，已经用到了许多项 AI 技术，包括计算机视觉、自然语言处理等技术。这些技术的发展，让机器能够“感知”世界，拥有了“看”、“听”、乃至“说”的能力。人工智能、5G、物联网......世界正朝着“万物互联，人机共生”的方向发展。在这个发展过程中，有一点是确定的：即“万物互联，人机共生”将带来美好的世界。

但是，我们仍有很多问题要问：人工智能发展到了什么程度？未来哪些工作将被人工智能取代？我们需要警惕人工智能吗？中国将在全球人工智能发展中处于什么位置？

2049 年，是中华人民共和国成立 100 周年，发展科技、提高自主创新能力是实现中华民族伟大复兴的关键，而人工智能更是其中的核心技术之一。未来 30 年，人工智能将面临无数突破点，也将给我国社会生活的方方面面带来翻天覆地的变化。

在《智周万物： 人工智能改变中国》这本书的最后一章，针对“2049 年人工智能未来展望”这一主题，新智元邀请了人工智能领域知名学术专家和产业领袖进行讨论，接下来分享华为消费者BG首席战略官邵洋对这些问题的看法。

华为消费者BG首席战略官邵洋

2049 年，人工智能将发展到什么程度？

“人工智能威胁论”是一个经久不衰的主题，人类受机器威胁、机器人统治世界等观点通过科幻小说、电影等面向大众的形式被广为传播。甚至包括霍金、马斯克等人在内的若干著名科学家和企业家也是人工智能威胁论的信奉者。

霍金认为，人类需警惕人工智能的发展威胁，因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类将无法与之竞争，从而被取代。霍金多次警告世人，人类需要关注人工智能的深远影响，当人工智能在程序设计领域变得比人类更优秀，以至于它可以在没有人类帮助的情况下递归地进行自我改进时，我们可能会面临一场智能爆炸，最终导致机器的智能远远超出人类。

那么，30 年后的人工智能将发展到什么程度？人工智能有可能取代人类占领未来的智能主权吗？我们需要警惕 AI 吗？在接受新智元采访时，邵洋表示：

“AI 是从仿人开始的，现在做的是增强人类、帮助人类的事。 但是大家有个担心， 会不会有一天 AI 以帮助人的名义取代人类？目前 AI 技术发展没有明确的规范，所以大家会基于自己想象中可能帮到人的方式去构筑 AI 的各种能力。构筑能力的过程不完全是基于大数据来完成的，因为人类的学习过程并不是基于大数据的。一个孩子可以在很有限的数据中也学习到同样的知识，它更多是通过抽象建模的方式学习。所以，我认为 AI 将会很快突破限制。但从另一个角度来说，现在更需要的是同步甚至提前限制。只有在把 AI 对人可能产生的危害尽早识别出来、并及时加以限制的情况下，AI 才有可能持续地良性发展。”

目前，智能的最高层是人类，那么未来会不会有一个临界点，超出这个临界点之后 AI 是否会占领智能主权，甚至对人类形成威胁？如果未来 AI 占领了智能主权，那么我们应该怎样保障人类的安全？

邵洋的回答是：“我们经常将人工智能跟人比较，有时候通过棋类来比较，有时候通过知识来比较，但是在很多领域其实人工智能已经超过了人类。比如人工智能现在听声音的能力可能比人听声音的能力要强，很多模糊的声音人听不到，人工智能能听到，人工智能写文章的效率，也能远超过人写文章的效率。”

人工智能超过哪个点之后，就会对人产生危害，这一点可能并不明确。邵洋认为这是需要有人去研究的，也许是从伦理学、社会学等领域及早地去研究。他举了其他一些技术的例子，如核武器。核武器很早就被研究出来了，也很早就被限制在特定的国家，以及限制相应的数量，而且发展出限制核武器的一些公约。

邵洋说： “我觉得大家可能对人工智能还是太低估了，认为它离对人产生危害还早。对于其他的危害，你预期到它发生危害之前，就可以把它限制住。因为它可能要么是一个突发性的局部灾难，比如广岛原子弹；要么是一个很漫长的过程。但 AI 不是漫长的事情，它是指数级地往前走的，所以这 10 年没有关系，不代表下一个 10 年没有关系。等发现它有问题，再来阻止这件事情可能就限制不住了。我觉得最需要去研究这个问题的就是中国，因为中国的人口最多，对 AI 产生的这种试错成本是最大的。”

 2049 年，人类社会伦理是否面临人工智能挑战

人工智能带来了一系列令人惊叹的技术创新，如生成足以以假乱真的人脸图像、驱动自动驾驶汽车、协助司法决策等，正如中国工程院院士郑南宁所说： “人工智能模糊了物理现实、数据和个体之间的界限，同时也带来了复杂的道德、法律、伦理和安全问题，而解决这些问题是一项全球性任务。”

近年来，全球各国都在试图面对人工智能可能带来的社会伦理挑战。2019 年 4 月，欧盟发布了《人工智能伦理准则》，列出了“可信赖人工智能”的 7 个关键条件——人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉和问责机制，以确保人工智能足够安全可靠。根据这些准则，算法做出的任何决定都必须经过验证和解释。

我国也没有回避这一挑战性问题，国家新一代人工智能治理专业委员会 2019 年 6 月发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八项原则。

那么，人工智能未来会带来哪些伦理挑战？我们怎样才能够实现可信赖、负责任的“善意 AI”(AI for Good)？

邵洋则提出，AI 向善的应该是普惠性的向善，而不是独特性的向善。这种向善应该是所有人都能够简单地、低成本地获取到，而不能是被少数人垄断的。如果人类开始出现两极化的趋势，比如未来有一批人可以独享 AI，另一批人不可以，那么这两类人就会撕裂。

所以 AI 首先应该能低成本获取，邵洋预测这样发展下去人类应用 AI 会有一个很甜蜜的过程。 在甜蜜期如果不能够把它约束住的话，可能就会进入一个痛苦期。

2049 年，万物互联能否构建 AI 新世界

近几年，算力等方面技术的爆发带动了边缘计算和物联网的应用，阿里巴巴、华为、小米、地平线等企业纷纷把 AIoT 作为下一个战略赛道，万物互联时代正在开启，传统制造业迎来智能改造升级的历史机遇。

华为 2018 年发布的《GIV2025 打开智能世界产业版图》白皮书中指出，基于 ICT 网络、以人工智能为引擎的第四次技术革命正将我们带入一个万物感知、万物互联、万物智能的智能世界。到 2025 年，全球接入物联网的器件总数量将达 1000 亿台，企业对 AI 的采用率将达 86%，可以创造 23 万亿美元数字经济。

那么，30 年后，万物互联的 AI 新世界会是怎样的？邵洋最认可的改变是交互：“我们认为交互这件事情是没有伤害的，它只会带来方便。现在，大多数有用的机器都是去延展人的身体，比如车、飞机，这都是去延展人的身体，使人的身体可以变得更强，但是它没有代替人的脑。 万物互联就是这样，我们可以把自己的身体延展，我离这个冰箱很远，我可以让冰箱工作，这就是延展。 ”

但是万物互联后有亿万台设备要联网，而这些数据是无法一下子传到人脑中的，我们的大脑也处理不了，势必要传到云上。

邵洋针对此场景构想了解决方案：“并非新增了亿万台设备出来，而是这些设备本来就在我们身边，人原来能够通过物理性操作来解决的问题，将来可以通过指令性的数据来解决。人均 1000 个连接并不可怕，人脑不一定无法处理。”

在专访中，我们还讨论了智慧城市和未来战争的场景：未来城市里有很多摄像头、自动驾驶的汽车、社区里的控制中心，这些是否会以机器智能为主控？未来战争场景中，如果 AI 不能及时针对特定场景去做决策，可能会有很大问题。

邵洋倾向于反对机器智能，在他看来：“所有的机器智能后面必须有人，如果有一台设备申请不经过人的指令而工作，那么这个终端一定要经过特殊的审批，原则上不允许出现没有人的指令就自己行动的设备。

AI 现在太脆弱了，其实这是在保护AI。现在 AI 第一步聚焦到交互上已经是很大的一个进步。先不要着急替代人脑。”

想“鬼”混万圣节？来新智元小程序，与AI圈的“万圣们”狂欢吧：