发展负责任的生成式人工智能研究报告及共识文件（2023）

来源：世界互联网大会 　　近日，在乌镇召开的人工智能赋能产业发展论坛上，来自企业、研究机构、国际组织等各方的代表，共同发布了《发展负责任的生成式人工智能研究报告及共识文件》。 　　回顾人工智能60余年的发展历程，技术突破不仅会创造发展机遇，也会带来相应的挑战。统筹人工智能发展和治理逐渐成为全球共识，自2016年以来，全球多个国际组织、国家、地区及产业界，积极探索人工智能发展与治理路径，已经形成了系列共识原则、治理要求、实践范式等。考虑到人工智能尚处在快速发展的过程中，相关工作仍需要持续推进。 　　信息技术革命在进入人工智能阶段之后，以生成式人工智能为代表的技术，又取得了长足的进步和发展。如《研究报告及共识文件》中所明确指出的那样： 　　其一，在“模型、数据、算力”等三大要素持续迭代和高速演进的推动下，人工智能不断在工程维度的发展和应用中，实现快速突破。就全球范围的发展情况来看，Transformer为主的基础模型依托相关研究主体的长期持续投入，通过ChatGPT、Stabel Diffusion、BLIP-2等，在大语言模型、视觉生成模型、多模态模型等细分领域，持续实现模型能力的跃升。这种跃升的主要体现，是参数规模进入1000亿量级，处理复杂自然语言能力因此呈现显著发展；在数据领域，多场景的大模型预训练数据集不断涌现，研究机构形成了通过发布微调数据集方式，提升预训练用数据集的效能；合成数据解决训练数据资源可持续性的探索也取得了较为显著的成效；算力芯片和架构的持续迭代，在训练效能、云边端算力效能优化等方面，对生成式人工智能的发展提供了有效的支撑。 　　其二，应用前景催生了开源开放驱动生成式人工智能生态的迅速发展，整体趋向繁荣发展。从应用场景看，开源生态与开放驱动成为当下推动人工智能生态发展的主基调，模型迭代优化、研发门槛降低、缩短初创成本等，成为各方广泛认知的主要优势。与此相应的，在ChatGPT的刺激下，生成式人工智能的开发者社区迅速涌现，成为支撑和推动相关技术与应用发展的主渠道。Hugging Face、华为云AI Gallery、阿里巴巴、FlagOpen飞智、百度的飞桨星河等社区凭借各自比较优势，在其中发挥了至关重要的作用。 　　其三，生成式人工智能的阶段性高速发展再度激发了人们对于发展通用式人工智能的勇敢想象与积极探索。如《研究报告及共识文件》指出的那样，由于生成式人工智能的这一轮突破，尤其是其中与多模态方向发展相一致的发展，催生了人们新的想象与探索：人们预期，伴随着多模态生成模型技术的突破，能够更好地理解和处理复杂的现实场景，或许将带来更多的想象空间，比如可以探索将多模态生成模型与机器人技术结合等方式，继而以某种形式尽可能趋近模仿人类感知复杂世界能力的呈现。 　　很自然的，生成式人工智能带来的机遇和挑战，同步存在： 　　从积极的角度看，生成式人工智能可能带来的经济增长前景，日趋明朗。根据麦肯锡2023年6月的乐观预测，生成式人工智能每年可能为全球经济增加2.6万亿至4.4万亿美元的价值。根据高盛研究，在满足增长条件的情况下，生成式人工智能的突破将在10年内推动全球GDP增长7%。对生成式人工智能以及通用式人工智能未来发展前景的合理展望，有助于人们确信人类的生产活动和满足特定要求的服务行业，未来均可能面临显著的增长前景，有理由保持乐观预期。 　　从生成式人工智能的可能应用场景来看，现代社会的基础服务体系可能获得有效赋能，预期城市运营管理、灾害救助与事故分析、实时预警与风险管理、定制化个性化的新型教育体系、新型就业岗位与就业机会、以及迫切需要得到实质性赋能的医疗和养老行业，均可能从人工智能的负责任发展中获得实质性的收益。此外公益事业中的无障碍数字环境建设、全球文化成果保护和传播，以及全球环境治理和可持续发展，也有希望从生成式人工智能的喷薄发展中得到全新的赋能与助力。作为高质量的“聪明”助手，生成式人工智能在助力科学研究中所具有的广阔前景，也同时日趋清晰地呈现。 　　客观而谨慎地看，生成式人工智能带来的风险挑战也是显而易见的，预先训练大模型时投喂的数据不可避免地存在缺陷，价值偏见、隐私泄露、数据污染等，如《研究报告及共识文件》所指出的那样，是已经被广泛察觉到的主要风险；算法模型的“幻觉”，虚假信息干扰，指向模型的网络攻击等，均揭示了人工智能发展带来的新型安全隐患和风险；此外，高速技术迭代带来的科技伦理失范以及人类社会发展失衡等问题，也日趋明显地成为各方必须共同关注，并探究治理方案的关键所在；在更广义的政治经济学分析框架中，生成式人工智能对数字劳动和能源损耗等领域的重大影响，也已经到了必须早日提上议事日程的时候，其后带来的发展，值得我们各方高度关注。 　　具体内容如下：