大模型技术发展及治理实践报告

大模型产业应用日益广泛，生态愈发成熟，其背后是逐渐清晰的角色划分和更加复杂的应用模式。在大模型研发应用的全生命周期中，基础供应者、技术支持者、服务提供者、服务使用者、内容传播者等相关角色在产业发展和安全保障方面承担着不同的使命和责任。在大模型落地应用时，还有更多的工具/插件、文档及环境信息、知识库等被开发和利用，帮助提升大模型的能力。在这种复杂多元的产业现状下，新风险和新挑战与日俱增。如何沉淀多方安全实践，明确全链路、多角色的技术与应用控制措施，促进协同治理，有效防范化解人工智能的风险，保障大模型技术及应用的持续稳定发展，是本书阐述的重点。

《报告》深入分析大模型技术及其应用面临的安全风险，总结提炼当前的产业最佳实践，形成了以公共云基础设施、开源生态数据供给为发展引擎，以一套覆盖全生态链的安全架构为保障的指南，为人工智能行业的安全治理提供了可借鉴的方法和路径。《报告》认为，公有云是大模型技术发展和应用落地的优选路径，开源生态促进大模型算法发展与安全，高质量数据供给生态是具备持续竞争力的基础，体系化的安全治理能力是稳定发展的保障。   中国电子技术标准化研究院副院长范科峰表示，在人工智能时代，发展与安全从来都不是对立的，而是相辅相成。人工智能安全标准化工作，既是人工智能安全治理的重要支撑，也是推动技术健康发展的基本保证。展望未来，人工智能技术的发展与治理必然需要更加广泛、更加紧密的协作与配合。   据了解，这是阿里巴巴连续第三年发布人工智能治理相关报告。从聚焦伦理与治理、隐私保护、消费者权益等重要领域，到提出敏捷治理与协同共治的理念，本次新发布的报告聚焦大模型技术发展面临的机遇与挑战，探索技术应用与安全治理的平衡，贯穿三年的主线是“负责任的技术”。   阿里巴巴集团副总裁钱磊介绍说，“负责任的技术”有两层含义：一是“守己”，负责任地坚守科技伦理和安全底线；二是“利他”，作为大型科技公司，阿里有责任发展先进技术，促进行业发展，推动新技术走进千行百业。阿里巴巴坚持云和AI协同发展，过去一年高强度投入人工智能基础设施建设，推动算力成本持续降低，“通义千问”API调用价格一年间下降了97%。与此同时，阿里巴巴努力提高自研基础模型“通义”系列的能力，坚持全尺寸、全模态开源，促进技术创新，与广大生态伙伴一起，推动把AI能力真正转化成为千行百业的生产力。   本次研讨会由北京市互联网信息办公室指导，阿里巴巴集团和中国电子技术标准化研究院联合主办。   北京市互联网信息办公室副主任潘锋表示，将建立健全大模型研发、上线、运行等全生命周期管理体系，统筹推进算力、数据等基础要素供给，协同各方夯实人工智能发展的基础。   会上，来自中国社会科学院、北京大学、同济大学、中央财经大学等高校院所的专家，围绕人工智能基础模型安全风险的平台治理、开源与可控、中外人工智能治理政策和大模型数据训练中的侵权风险等话题探讨人工智能的发展与治理之道。