中国信通院发布《大模型落地路线图研究报告（2024年）》

近年来，以大模型为代表的新一代人工智能技术加速迭代，向着更为智能化、通用化、普惠化的方向迈进，成为新一轮科技和产业变革的重要驱动力。然而，当前大模型发展仍存在工程实践复杂、技术选型困难、能力评估不全面等问题，在应用落地过程中面临多重挑战。深入开展大模型技术能力和产业应用研究，积极探索大模型最佳落地路线，有助于加速各行业借助大模型实现智能化改造和数字化转型进程，有力推动“人工智能+”高质量发展。

近日，中国信息通信研究院（简称“中国信通院”）发布《大模型落地路线图研究报告（2024年）》。

报告的前期研究和框架设计过程遵循“需求拉动、问题驱动、创新推动、技术带动”四大原则，充分梳理当前大模型技术能力和产业应用的现状以及落地过程中面临的挑战。报告从现状诊断、能力建设、应用部署、运营管理四个阶段着手，围绕基础设施、数据资源、算法模型、应用服务、安全可信五个层面全方位分析大模型在落地过程中的关键问题与解决思路，探索适合大模型的最佳落地路线。

报告主要内容

1. 现状诊断：剖析大模型发展现状

**剖析大模型发展现状是明晰业务需求、促进企业数字化转型的必要前提。**在能力分析阶段，报告梳理了基础资源、人才团队、战略规划等大模型建设要素，给出了大模型应用能力就绪度的评估框架。在需求分析阶段，报告全面分析了基础设施、数据资源、算法模型、应用服务、安全可信等大模型发展需求。通过统筹规划大模型所需各类资源，总结出需求分析的关键维度和要素。

2. 能力建设：筑牢大模型技术底座

**夯实大模型技术底座是建设技术能力、构建生态要素的重中之重。**在方案设计阶段，报告重点分析了基础软硬件选型、数据集构建、模型选型和设计、应用服务、风险控制等方案设计原则，总结出模型生态、模型优化、模型部署、模型规模等主要选型方案。在研发测试阶段，报告梳理了模型研发、功能验证和性能测试等关键过程，并给出了构建大模型训练推理平台、高质量数据集、算法模型资产、应用服务平台以及风险控制体系的核心思路。

3. 应用部署：革新大模型应用范式

**革新大模型应用范式是打造原生应用、融合业务场景的关键所在。**在应用开发阶段，报告给出了面向业务场景需求定制开发基于大模型原生应用的主要思路。在效能评估阶段，报告构建出了覆盖基础设施、数据资源、算法模型、应用服务、安全可信等层面的大模型应用成熟度评估体系，形成了诊断、建设、应用和评估的有效闭环。

4. 运营管理：构建大模型管理体系

**构建大模型管理体系是监控业务风险、优化管理能力的核心任务。**在运行监测阶段，报告给出了监测基础设施运行状态、数据链路和漂移、算法模型运行情况以及应用服务运行状态的解决思路。在运维管理阶段，报告持续构建并完善了基础设施运营管理体系、数据治理体系、算法模型治理体系、应用服务运营管理体系以及安全可信体系，最终形成五位一体的大模型运营管理体系。

报告目录

一、大模型发展情况概述

（一）全面提升多模态感知能力，推进认知智能走深向实 （二）大模型场景落地百花齐放，擘画智能应用生态蓝图 （三）技术选型与工程实践掣肘，亟需开展落地路线研究

二、诊断大模型能力基础

（一）评估大模型能力发展现状，深入挖掘业务转型需求 （二）梳理人财物要素就绪情况，系统评估人工智能基础 （三）挖掘各类软硬件资源需求，统筹规划业务发展目标

三、筑牢大模型技术底座

（一）剖析大模型关键落地路线，科学确立技术选型原则 （二）设计大模型智能系统架构，制定科学有效解决方案 （三）系统研发大模型技术底座，全面开展功能性能测试

四、革新大模型应用范式

（一）参照业务场景个性化需求，定制化调优专用大模型 （二）开发大模型原生智能应用，实现大小模型协同赋能 （三）构建全链路效能评估体系，形成诊建用评有效闭环

五、构建大模型管理体系

（一）梳理国内外模型治理要点，明晰运营管理体系价值 （二）实时监测大模型运行过程，确保高效稳定提供服务 （三）建立健全大模型管理体系，保障业务高效稳定开展

六、大模型发展趋势展望

（一）探索大模型架构优化方案，带动技术应用双重涌现 （二）紧抓行业数字化转型机遇，全方位打造新质生产力 （三）加强引导大模型可信发展，对齐人类偏好及价值观

主要专家简介

中国信通院人工智能研究所所长，正高级工程师

**魏凯 **

中国人工智能产业发展联盟总体组组长、国际电信联盟SG16国内对口组组长。研究方向为人工智能技术，发表论文20余篇，牵头完成40多项国内国际标准，参与多项人工智能相关国家重大政策文件起草。

中国信通院人工智能研究所平台与工程化部副主任，工程师

董晓飞

长期跟踪人工智能技术发展，牵头多项国际和国内人工智能标准制定，参与多篇人工智能相关标准、研究报告编制工作。

中国信通院南京新一代人工智能研究院副总工程师，工程师

**张学强 **

主要研究方向为人工智能、自然语言处理，参与大模型、智能体、智能客服等标准制定和报告编制，申请发表学术论文、专利、软著20余项。

中国信通院人工智能研究所平台与工程化部主任，高级工程师

曹峰

中国通信标准化协会TC1 WG1（互联网应用总体及人工智能工作组）组长，人工智能关键技术和应用评测工业和信息化部重点实验室副主任。目前主要牵头可信AI人工智能评测标准体系和能力建设，牵头工程化能力等相关评估规范制定与评测等。

版权声明：本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。

撰写团队联系方式：

中国信通院 人工智能研究所 张学强 15722924458 zhangxueqiang@caict.ac.cn