焦李成院士：从ChatGPT到GPT-4看下一代人工智能的挑战与机遇

ChatGPT聊天机器人成为全球热议的话题，而且它影响的范围这么广，又掀起的浪潮这么热，**实际上也从另外一个方面让大家看到了人工智能的力量。**简单的讲，聊天机器人是个程序，但是他背后的东西或者说他能够给我们带来的启示可不是这么简单。也就是说ChatGPT本身所具有的功能是怎么为我们服务的。或者说它在哪些方面跟我们互动，特别是ChatGPT为什么能够对市场有这么大的触动。而且它在短短的两个月之内就达到了一亿的用户。也成为2020年以来全球史上消费者增长最快的应用系统。我们搜了一个“陕西的美食有什么？”搜的是中文，应该说它至少库里这些东西都有，而且还比较准。其实多位产业界的各种领袖或多或少的对这一新的变革给出了肯定性的评价。马斯克说实际上ChatGPT向人们展示出人工智能有多么的先进。而比尔·盖茨也讲，ChatGPT像互联网发明一样的重要，它也将会改变世界。黄仁勋说的是ChatGPT是人工智能的iPhone，实际上ChatGPT是从量变到质变的长期积累的工作过程。同时ChatGPT的“狂飙”也将推动产业的变革与模式的更新。 这次“两会”也是引起了广泛的热议和关注。我们想说的是：不是说简简单单ChatGPT的技术本身，而是它的应用，如何应用人工智能，给市场、产学研的创新和应用注入新的活力。同时如何去捕捉到这个机遇，迎来新的一场变革。ChatGPT给人工智能商业化带来的契机是前所未有的。**这个契机一个方面是商业化的应用市场，另一方面是它会刺激许多领域的技术创新。**虽然说ChatGPT还很初步，还有许多有待完善的地方。但是它促使相关技术的产生或者变革的这种动力，怎么估计也不过分。欧亚科学院院士李世鹏谈到，它现在处在初步的阶段，部分能力也有待提高。加拿大工程院的外籍院士原京东副总裁，IEEE Fellow梅涛说道，其实它可能更会触动视觉生成技术。视觉生成技术已经处于应用爆发的前夜。当然一个方面说明了ChatGPT现在的缺陷，另外也说明了它的推动作用，以及将来发展的前景。其实人工智能或者ChatGPT成为现在投资的热点方向之一，也说明了这个问题。**尽管ChatGPT取了一定胜利，但是要仔细的去分析它，在趋势上、在技术上、在变革上、在机会和应用上，为什么会这样。**ChatGPT为人机交互注入了新的活力，也就是说我们能够做出类人的或者类脑的人工智能的应用系统。但是它的基础研究仍然需要加强。那么人工智能的创新，我们到底应该往哪里走？我们还需要去在哪方面去发力？这件事情值得我们大家去思考。我个人认为人工智能ChatGPT为什么能引起产业界市场这么大的反应，作为一个教育工作者，更应该从学术上去再思考，再认知，使得ChatGPT的发展更加健康，更加有序，而且底子更厚，基础更扎实，前行的步伐更稳。实际上，现在的ChatGPT远远还没有达到真正类人的那种程度，还不具备创造性工作的能力，同时它也不可能代替人类的思考。金耀初院士指出，ChatGPT的出世非一日之功，但是仍然尚不具备自主的心智，ChatGPT不是万能的，但是未来的各种突破是可能的。吴飞教授指出ChatGPT是一个现象级的产品，但本质上它仍然是以深度学习为代表的人工智能技术长期发展积累的结果。距离真正模拟人类的思维还非常的遥远。张军平教授也谈到ChatGPT只是看起来具有人的心智，但并不具有人的心智。所以说ChatGPT是技术上的进步，是技术上的变革，也是技术上的推动。但是它仍然处于初级阶段，目前它只能作为工具辅助人类工作，而不能代替业务。那言下之意就是说仍然有很大的发展空间，需要我们做长期的、艰苦的、扎实的、基础性的工作。ChatGPT作为人工智能颠覆性技术革命的一个引子和代表。王志刚部长更是讲到ChatGPT从源头看来是自然语言的理解、自然语言处理两个方向的技术，而不是人工智能的全部。它是一个大模型，对大数据和算法依赖性很强。但是对更多更复杂的场景任务，怎么样通过场景驱动技术迁移，去实现产学研的相结合，做出颠覆性的工作？

大家比较关注的，第一个就是以ChatGPT发展的这个契机，人工智能技术到底发展到什么程度？它的出现应用是不是代表着通用人工智能时代的到来？要模仿人类的理解我们还要做什么样的工作，我们的路还有多长？另外一个是未来的哪些职业可能会被人工智能取代？这个担心大家是有，但是做人工智能的，我们能清楚的认识到。部分职业可能被替代，但是完全替代是不可能的，也是没有必要的。其实我们更关注ChatGPT对教育有什么样的影响。当然它可以作为辅助的工具帮助学习，但是我们的创新不能完全依赖于ChatGPT。我们要做0到1的工作，要做颠覆性的工作，也不能仅仅依靠ChatGPT。那我们国家自己的ChatGPT进展如何？其实现在大家都知道，华为、腾讯、阿里、商汤、百度、京东等等都在做着这方面的工作。当然他们最擅长的是有算力的支撑，有场景的应用。所以说发展类似于ChatGPT这样的系统和工作是有基础的，也是有前景的。另外一个大家关注的就是人工智能技术的发展，它可能引起的伦理道德等方面的问题。如果人工智能有这样的问题，那其实任何技术的发展都会有道德伦理的问题。就看掌握这个技术的人怎么去利用它，是以什么样的内心和初心去使用这样的技术。

ChatGPT的成功实际上源于自然语言处理领域七十年的长期的发展和积累。经过了符号自然语言处理统计、自然语言处理、以及到现在的以深度学习为代表的自然语言处理技术，应该说发展的时间非常长。LeCun也说到ChatGPT本质上是一个大语言的模型。它也说到大语言模型其实是一条邪路，那就说明它还有不同的看法。但是我们要客观的认识到，实际上有今天这样的发展更多的是基础理论的支撑，包括符号的人工智能，统计学习的理论和深度学习理论发展，才促成了ChatGPT的诞生，才使得自然语言处理有今天的这样的场景和应用。ChatGPT的本质为大语言模型，其实更重要的是表征、学习和优化，就是深度学习技术或者深度神经网络所具有的三件法宝或者三个核心。Transformer是全局的表征能力强和高度的并行性，使得它的解的质量高，同时也比较快速，而Transformer的架构和无监督学习的结合，使得GPT的系列模型不需要针对特定的任务从头开始训练网络。能够在NLP任务中有非常好的性能，它的发展也是经过了这样长长的一个过程。ChatGPT是在海量的文本数据上进行的预训练。对自然语言输入产生类似于人类的回答。回过头来，如果是图像，视频的数据会怎么样？其他的数据会怎么样？这些工作ChatGPT无法给出这样的好的答案。ChatGPT有三个关键词，生成，预训练， Transformer。应该说这些核心的基础，从结构到一系列的微调，以及到对小样本的处理和并行的优化。特别是采用了强化学习，也就是人类反馈的强化学习，使得整个的效率有了很大的提高。ChatGPT的成功离不开Transformer，当然更离不开基于人类反馈的强化学习。有三点，第一在收集数据的基础之上，对模型进行自监督的训练。第二个就是能够在数据的基础之上生成奖励的模型，第三是用强化学习和奖励的模型进行策略的优化。这三个核心技术是它取得成功的非常关键技术。ChatGPT仍然处于发展的初期，同时它具有以下的技术的特点，训练时间长、资源消耗高、准确性有待提高、容易误导、结果一致性问题，同时它也有一些随机性和不确定性。同时，跨模态的性能还不突出，对话历史长度也受到限制，而且目前主要支持的是英语，而对其他语言的支持还不够，或者说风格和语气也受到控制，所受到所政治因素、种族因素等的影响。而且创新能力还有待提高，甚至说他还不太具备创造新知识的能力。这些我觉得都是可以理解的。任何技术的发展都有这样一个不断完善的过程。我们应该用正面的态度去拥抱它，去发展它，去努力做好将来的工作。ChatGPT认为认知智能分为五个阶段，也就是知觉与感知、表示与推理、自主学习、创造性思维以及自然交互五个阶段。实际上到现在为止，ChatGPT自我评分认为达到了第三个阶段，也就是自主学习的阶段。虽然说只具有一定的自主学习的能力，但是距离真正的人还有很长的距离。对于知识的感知、表征、推理、决策等，技术本身需要完善，基础理论更待加强。自然语言处理技术只是人工智能许多方面中间的一个核心的技术。人工智能基础理论的范围是很宽阔的，是很广大的，而且它的应用要更广。从这个意义上来讲，无论是基础理论、软硬件系统、核心技术，还是它的场景应用，我们还有很长的路要走，还有许多的领域需要我们像对待ChatGPT那样去努力工作，去进行核心算法和基础理论的。深入基础理论的研究，核心算法的革新，以创造性的思维拥抱ChatGPT，那样才能有一个良好的人工智能，这样才能使我们整个科学技术和社会的发展有一个良好的伦理道德。

目前ChatGPT的数学基础、数理逻辑都有待提高。ChatGPT给我们带来的挑战是前所未有的，变革也是前所未有的。如果回到人工智能的源头，我们对数据和知识的协同学习、推理、联想记忆、情景感知怎么做？ChatGPT能有多少是我们得到满意的结果？而这些恰恰是人工智能的基础和本质所在。唐朝诗人杜牧的千古名作《清明》，实际上给我们很大的启示。这首诗它蕴含的意义ChatGPT能理解多少，这首诗的内涵和意义能理解多少。“清明时节雨纷纷，路上行人欲断魂。借问酒家何处有，牧童遥指杏花村”。这个就表现出了现在ChatGPT有多少对情感内涵的理解能力。我们对先验知识，对环境的感知能力，有多少能够去像人们要求的那样，非常舒适的去应用和理解。ChatGPT的训练数据主要是互联网上的对话文本，那这个时候对文本可能存在偏见，例如性别、种族、地理。其实所有的知识，那怎么去处理、实际应用系统中怎么样去减少、或者说弱化这些偏见的影响，如何进行数据和知识的协同学习，如何做个更好的、合理的、符合实际情景的决策，依然是人工智能本质性的问题和基础性的问题。大家知道语音识别的难题也是这个。这里有一首写的非常好的文章，赵元任先生的《施氏食狮史》所有的词都是一个音。那语音识别怎么去听，或者说语音识别对这一类问题应该和什么技术结合起来进行解释。

对视觉环境的感知，相对波士顿动力的机器人，ChatGPT是具有一定的推理能力。但是对环境的感知、认知、推理和决策还是比较缺乏的。波士顿动力同样也经过了四十年的历程，才有今天的发展。这四十年的发展是对环境的感知、认知、推理和决策的深度研究。微软公开的Visual ChatGPT，它在ChatGPT的基础上集成了多种视觉的模型来实现模态交互的功能。怎么对复杂的场景，通过视觉的感知去做，或者说怎么样在视觉感知的基础之上，建立相应的Visual ChatGPT，或者说它的功能更加和人类实际场景靠近，还需要许多工作去做。同时，微软也将GPT 4接入Office全家桶，GPT-4在技术层面建立了预测扩展的深度学习栈，设计了正确和错误解决方案、弱推理和强推理、自相矛盾和一致的陈述，以及各种各样的意识形态和想法。此外，商汤科技的多模态多任务通用大模型“书生”（INTERN）2.5，在图文跨模态领域卓越的性能表现来自于视觉、语音及多任务建模三大模型能力的有效融合。百度发布文心一言，包括五大能力——“文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成”。阿里的M6是跨模态预训练模型，具有强大的多模态表征能力，为各个行业场景提供语言理解、图像处理、知识表征等智能服务。华为的盘古大模型由NLP大模型、CV大模型、多模态大模型、科学计算大模型等多个大模型构成，通过模型泛化，解决传统AI作坊式开发模式下不能解决的AI规模化、产业化难题。清华大学朱军团队开源首个基于Transformer的多模态扩散大模型，称为UniDiffuser。它可以实现文生图，图生文、图文联合生成、无条件图文生成、图文改写等多种功能。西电遥感脑大模型在团队大规模GPU高性能计算平台的支持下，集成了地物分割、港口检测、变化检测、异常检测、实时跟踪等主流任务。武汉大学发布的LuoJiaNET提供了一套新的深度学习框架和包括遥感场景分类、目标检测、地物分类、变化检测、多视角三维重建等五大类基础遥感应用模型。探知图灵公司研发的教育版****ChatGPT，主要围绕教育场景，为本科、高职、中学以及高校提供高效且精准的解决方案。当然国内也有一大批的优秀的预训练大模型，并未一一列出。ChatGPT对教育的推动更是巨大的，也会引发教育的新的变革。他可能对学生更好的学习起到很大的帮助，也触及了教育的改革和进步，引发了教育目标、教学方式、学习的方式、学习知识等深入的思考。但并不等于能够去创新。所以说以知识传递为核心的教育的模式受到挑战的同时，尤其是创新能力的培养，又摆在了我们的面前，这是真正做创新性教育、变革性教育的基础。

我们知道，从图灵测试到人工智能，实际上走过了一个很长的道路。感知、认知、学习、推理和决策，始终是人工智能发展的核心力。从计算智能到感知智能，能听会说，能认会看，能理解、会思考、会决策。每个阶段我觉得都有工作需要去做。回过头来，ChatGPT，能有那么大的发展，并不简单。人工智能获得图灵奖的这些成果，应该说也有近半个世纪的时间。那它是一直在思考机器如何进行推理。而在脑科学领域，百年的诺奖是在启示人是如何思考，在生物进化领域的诺奖揭示生物领域是如何进行进化和优化，而物理学领域的诺奖也证明，人工智能的物理本质是什么？关于人工智在各个方面、领域的研究经过了长期的积累，世界各国、包括我们我们国家也制定了一系列的方案和政策来推动人工智能的发展。

工信部十七部门提出了“机器人+”的这个应用实现的方案，同样也说明了场景应用的重要性。六个部委提出的《关于加快场景创新及人工智能高水平应用的意见》也说明了这一点。教育部出台的2020到2030高等学校人工智能的创新计划，也是从创新体系和学科体系的布局，人才培养综合考虑。同时教育部出台人工智能领域研究生的指导方案，也说明国家对这是非常重视的。而且这些培养方案更要求我们对人工智能领域要有一个全面的认识。ChatGPT所涉及的自然语言处理领域也是必不可少的一部分。经过三十余年的积累，我们团队在教育、科技等方面做了一些我们自己的工作。西电是全国三所人工智能+教育的标杆大学之一，我们希望能够在这个领域对人工智能教育做一些探索。面向国家的战略需求，在遥感领域和医疗领域，研制了类似于ChatGPT这样的应用。从感知人工智能到认知人工智能是一个重大的转变，还有很长的路要走，也涉及到各个方面。**因此，关于****ChatGPT给我们的启发，更需要从源头去创新，从生物机理、物化原理，数学建模、算法设计与优化、硬件设计与实现、开放的环境感知、重大的应用场景等角度，杜绝短板，去全面探索，建立我国全栈式的人工智能生态环境。**谢谢大家！

嘉宾简介

焦李成，欧洲科学院外籍院士，俄罗斯自然科学院外籍院士，IEEE Fellow。现任西安电子科技大学计算机科学与技术学部主任、人工智能研究院院长、智能感知与图像理解教育部重点实验室主任、教育部科技委学部委员、教育部人工智能科技创新专家组专家、首批入选国家百千万人才工程（第一二层次）、教育部创新团队负责人、“一带一路”人工智能创新联盟理事长，陕西省人工智能产业技术创新战略联盟理事长，中国人工智能学会第六-七届副理事长，IEEE/IET/CAAI/CAA/CIE/CCF Fellow，连续七年入选爱思唯尔高被引学者榜单。 焦院士主要研究方向为智能感知与量子计算、图像理解与类脑计算、深度学习与进化优化。曾获国家自然科学奖二等奖、吴文俊人工智能杰出贡献奖、霍英东青年教师奖、全国模范教师称号、中国青年科技奖、及省部级一等奖以上科技奖励十余项。

欢迎关注

图文：邵奕霖,黄钟键,刘旭 排版：马梦茹