《LLMOps:大语言模型的生产环境管理》

书籍简介(中文翻译)

关于大语言模型,有一件事必须明确:它们已经不再遵循传统规则。面对生成式人工智能(GenAI),传统的 MLOps 系统彻底崩溃——模型会幻觉,原有的安全假设不再成立,监控机制失灵,智能体系统无法运行……你会突然发现自己身处未知领域。而这正是 LLMOps(大语言模型运维)作为一门全新学科诞生的原因。 《LLMOps:大语言模型的生产环境管理》 是一本实战指南,帮助你应对现实世界中真正的用户和商业场景下的 LLM 系统运行问题。本书并不聚焦于构建炫酷的演示程序,而是聚焦于如何让大语言模型系统在真实环境中稳定运行。 你将学习如何: * 应对 LLM 运维所需的新角色与新流程 * 在传统指标不再适用的情况下,构建有效的性能监控机制 * 建立真正适用于 GenAI 的评估体系、治理结构与安全审计流程 * 管理复杂的智能体系统、RAG 系统以及不断演化的提示词(prompts) * 扩展系统基础设施,同时控制计算资源成本


作者简介(中文翻译)

Abi Aryan 是 Abide AI(www.abideai.com)的创始人,也是一位具有近十年工业经验的机器学习研究工程师,专注于构建生产级机器学习系统。她拥有数学背景,曾在加州大学洛杉矶分校(UCLA)认知系统实验室担任访问研究学者,师从著名因果推理专家 Judea Pearl 博士,研究方向为智能体系统开发。 Abi 在 AutoML、多智能体系统与大语言模型领域发表多篇研究论文,并长期担任 NeurIPS、ACL、EMNLP、AABI 等顶级会议的审稿人。她当前的研究方向包括:AI 智能体的反思性智能(reflective intelligence)多智能体系统的分布式自愈协议,以及大规模 AI 系统的 GPU 工程优化

成为VIP会员查看完整内容
37

相关内容

书籍在狭义上的理解是带有文字和图像的纸张的集合。广义的书则是一切传播信息的媒体。
【斯坦福博士论文】在复杂环境中决策学习内容
专知会员服务
33+阅读 · 4月14日
模仿、探索与自我提升:慢思考推理系统的复现之路
专知会员服务
29+阅读 · 2024年12月14日
AI何以涌现:复杂适应系统视角的ChatGPT和大语言模型
专知会员服务
59+阅读 · 2024年2月10日
基于模型的强化学习综述
专知会员服务
148+阅读 · 2022年7月13日
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
VAE、GAN、Info-GAN:全解深度学习三大生成模型
数据派THU
20+阅读 · 2017年9月23日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
A Survey of Large Language Models
Arxiv
494+阅读 · 2023年3月31日
Arxiv
81+阅读 · 2023年3月26日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【斯坦福博士论文】在复杂环境中决策学习内容
专知会员服务
33+阅读 · 4月14日
模仿、探索与自我提升:慢思考推理系统的复现之路
专知会员服务
29+阅读 · 2024年12月14日
AI何以涌现:复杂适应系统视角的ChatGPT和大语言模型
专知会员服务
59+阅读 · 2024年2月10日
基于模型的强化学习综述
专知会员服务
148+阅读 · 2022年7月13日
相关资讯
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
VAE、GAN、Info-GAN:全解深度学习三大生成模型
数据派THU
20+阅读 · 2017年9月23日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员