大型语言模型(LLMs)不仅在塑造人工智能的未来发展轨迹,也揭示了全新的安全挑战时代。这本实用书籍直击这些威胁的核心。作者史蒂夫·威尔逊(Steve Wilson),Exabeam 的首席产品官,专注于 LLMs 的独特特性和内在漏洞,抛弃了对通用 AI 安全性的泛泛讨论。结合了超过400位行业专家共同创建的“OWASP LLMs 十大安全威胁列表”所积累的集体智慧,本指南为开发者和安全团队提供了应对 LLM 应用现实挑战的实用策略。无论你是在构建新的应用程序,还是为现有应用增加 AI 功能,本书都是你掌握 AI 安全领域新前沿的首选资源。你将学到:

  • 为什么 LLMs 带来了独特的安全挑战
  • 如何应对与使用 LLM 技术相关的多种风险条件
  • LLM 相关的威胁格局及其必须维护的重要信任边界
  • 如何识别与 LLM 相关的主要风险和漏洞
  • 部署防御措施以保护免受顶级漏洞攻击的方法
  • 如何主动管理系统中的关键信任边界,以确保安全执行并最大限度降低风险

关于作者

史蒂夫·威尔逊(Steve Wilson)是大型语言模型(LLM)安全领域的公认领袖。在他担任 Open Web Application Security Project (OWASP) 基金会 “LLM 应用程序十大安全威胁列表” 项目负责人期间,史蒂夫带领了一支由400多位专家组成的团队,共同编写了行业首个针对 LLM 技术应用的综合性安全威胁标准。在担任 Contrast Security 的首席产品官期间,史蒂夫负责为世界上最注重安全的组织开发广受认可的代码安全技术。史蒂夫拥有在数十亿美元级技术公司(如 Citrix、Oracle 和 Sun Microsystems)超过 25 年的软件平台构建经验。他还撰写了《Java 平台性能:策略与战术》和《父女加密货币挖矿指南》系列书籍。作为未来工作和人工智能主题的热门演讲者,史蒂夫近期在 RSA、丘吉尔俱乐部、硅谷领导力集团、DLA Piper 全球技术峰会、IDG 议程、SAP TechEd 和华尔街日报科技峰会上发表了演讲。

成为VIP会员查看完整内容
29

相关内容

大语言模型是基于海量文本数据训练的深度学习模型。它不仅能够生成自然语言文本,还能够深入理解文本含义,处理各种自然语言任务,如文本摘要、问答、翻译等。2023年,大语言模型及其在人工智能领域的应用已成为全球科技研究的热点,其在规模上的增长尤为引人注目,参数量已从最初的十几亿跃升到如今的一万亿。参数量的提升使得模型能够更加精细地捕捉人类语言微妙之处,更加深入地理解人类语言的复杂性。在过去的一年里,大语言模型在吸纳新知识、分解复杂任务以及图文对齐等多方面都有显著提升。随着技术的不断成熟,它将不断拓展其应用范围,为人类提供更加智能化和个性化的服务,进一步改善人们的生活和生产方式。
关于用于算法设计的大型语言模型的系统性综述
专知会员服务
38+阅读 · 10月26日
大型语言模型代理的安全与隐私综述
专知会员服务
23+阅读 · 8月5日
大型语言模型网络安全综述
专知会员服务
59+阅读 · 5月12日
开发者的生成式AI工具:实用指南
专知会员服务
46+阅读 · 1月13日
KnowledGPT:基于知识库的检索和存储访问增强大型语言模型
【新书】用Python和JAX构建推荐系统
专知会员服务
27+阅读 · 2022年12月26日
【干货书】机器学习导论第四版,903页pdf
专知
26+阅读 · 2022年11月26日
NLP命名实体识别开源实战教程 | 深度应用
AI100
15+阅读 · 2019年8月18日
R语言机器学习:xgboost的使用及其模型解释
R语言中文社区
11+阅读 · 2019年5月6日
使用 Bert 预训练模型文本分类(内附源码)
数据库开发
102+阅读 · 2019年3月12日
Caffe 深度学习框架上手教程
黑龙江大学自然语言处理实验室
14+阅读 · 2016年6月12日
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
26+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Arxiv
158+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
405+阅读 · 2023年3月31日
Arxiv
21+阅读 · 2023年3月17日
Augmentation for small object detection
Arxiv
11+阅读 · 2019年2月19日
VIP会员
相关VIP内容
关于用于算法设计的大型语言模型的系统性综述
专知会员服务
38+阅读 · 10月26日
大型语言模型代理的安全与隐私综述
专知会员服务
23+阅读 · 8月5日
大型语言模型网络安全综述
专知会员服务
59+阅读 · 5月12日
开发者的生成式AI工具:实用指南
专知会员服务
46+阅读 · 1月13日
KnowledGPT:基于知识库的检索和存储访问增强大型语言模型
【新书】用Python和JAX构建推荐系统
专知会员服务
27+阅读 · 2022年12月26日
相关基金
国家自然科学基金
7+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
26+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员