《LLMOps:大语言模型的生产环境管理》
书籍简介(中文翻译)
关于大语言模型,有一件事必须明确:它们已经不再遵循传统规则。面对生成式人工智能(GenAI),传统的 MLOps 系统彻底崩溃——模型会幻觉,原有的安全假设不再成立,监控机制失灵,智能体系统无法运行……你会突然发现自己身处未知领域。而这正是 LLMOps(大语言模型运维)作为一门全新学科诞生的原因。 《LLMOps:大语言模型的生产环境管理》 是一本实战指南,帮助你应对现实世界中真正的用户和商业场景下的 LLM 系统运行问题。本书并不聚焦于构建炫酷的演示程序,而是聚焦于如何让大语言模型系统在真实环境中稳定运行。 你将学习如何: * 应对 LLM 运维所需的新角色与新流程 * 在传统指标不再适用的情况下,构建有效的性能监控机制 * 建立真正适用于 GenAI 的评估体系、治理结构与安全审计流程 * 管理复杂的智能体系统、RAG 系统以及不断演化的提示词(prompts) * 扩展系统基础设施,同时控制计算资源成本
作者简介(中文翻译)
Abi Aryan 是 Abide AI(www.abideai.com)的创始人,也是一位具有近十年工业经验的机器学习研究工程师,专注于构建生产级机器学习系统。她拥有数学背景,曾在加州大学洛杉矶分校(UCLA)认知系统实验室担任访问研究学者,师从著名因果推理专家 Judea Pearl 博士,研究方向为智能体系统开发。 Abi 在 AutoML、多智能体系统与大语言模型领域发表多篇研究论文,并长期担任 NeurIPS、ACL、EMNLP、AABI 等顶级会议的审稿人。她当前的研究方向包括:AI 智能体的反思性智能(reflective intelligence)、多智能体系统的分布式自愈协议,以及大规模 AI 系统的 GPU 工程优化。