大语言模型（LLMs）通过实现类人文本生成和自然语言理解，彻底改变了人工智能（AI）领域。然而，它们对静态训练数据的依赖限制了它们对动态实时查询的响应能力，导致输出结果过时或不准确。检索增强生成（RAG）作为一种解决方案，通过集成实时数据检索来增强LLM，提供上下文相关且最新的响应。尽管如此，传统的RAG系统仍受到静态工作流的限制，缺乏应对多步骤推理和复杂任务管理所需的适应能力。智能体检索增强生成（智能体RAG）通过将自主AI智能体嵌入到RAG管道中，超越了这些局限性。这些智能体利用智能体设计模式——反思、规划、工具使用和多智能体协作——动态管理检索策略、迭代优化上下文理解，并调整工作流以满足复杂的任务需求。这种集成使智能体RAG系统能够在各种应用中提供无与伦比的灵活性、可扩展性和上下文感知能力。本综述全面探讨了智能体RAG，从其基础原理及RAG范式的演变开始，呈现了智能体RAG架构的详细分类法，突出了医疗、金融和教育等行业中的关键应用，并考察了实际实施策略。此外，本文还讨论了扩展这些系统、确保伦理决策和优化实际应用性能的挑战，同时提供了有关实施智能体RAG框架和工具的详细见解。
关键词: 大语言模型（LLMs） · 人工智能（AI） · 自然语言理解 · 检索增强生成（RAG） · 智能体RAG · 自主AI智能体 · 反思 · 规划 · 工具使用 · 多智能体协作 · 智能体设计模式 · 上下文理解 · 动态适应性 · 可扩展性 · 实时数据检索 · 智能体RAG的分类法 · 医疗应用 · 金融应用 · 教育应用 · 伦理AI决策 · 性能优化 · 多步骤推理
1 引言
大语言模型（LLMs）[1, 2] [3]，如OpenAI的GPT-4、Google的PaLM和Meta的LLaMA，凭借其生成类人文本和执行复杂自然语言处理任务的能力，已显著改变了人工智能（AI）领域。这些模型推动了各个领域的创新，包括对话代理[4]、自动内容创作和实时翻译。最近的进展已将它们的能力扩展到多模态任务，如文本到图像和文本到视频生成[5]，使得从详细提示生成和编辑视频和图像成为可能[6]，从而拓宽了生成式AI的潜在应用范围。尽管取得了这些进展，大语言模型仍面临显著的局限性，主要源于它们依赖于静态的预训练数据。这种依赖通常导致信息过时、产生幻觉响应[7]，并且无法适应动态的现实世界场景。这些挑战突显了需要集成实时数据、动态调整响应以保持上下文相关性和准确性的系统。检索增强生成（RAG）[8, 9]作为应对这些挑战的一个有前景的解决方案应运而生。通过将大语言模型的生成能力与外部检索机制[10]结合，RAG系统增强了响应的相关性和时效性。这些系统从知识库[11]、API或网络等来源检索实时信息，有效弥合了静态训练数据与动态应用需求之间的鸿沟。然而，传统的RAG工作流仍然受限于其线性和静态的设计，限制了它们执行复杂多步骤推理、整合深层次上下文理解以及迭代优化响应的能力。智能体[12]的演进进一步增强了AI系统的能力。现代智能体，包括大语言模型驱动的和移动智能体[13]，是能够感知、推理并自主执行任务的智能实体。这些智能体利用智能体工作流模式，如反思[14]、规划[15]、工具使用和多智能体协作[16]，使其能够管理动态工作流并解决复杂问题。检索增强生成与智能体智能的融合催生了智能体检索增强生成（智能体RAG）[17]，这一范式将智能体集成到RAG管道中。智能体RAG通过动态检索策略、上下文理解和迭代优化[18]，实现了信息处理的自适应和高效性。与传统的RAG不同，智能体RAG通过自主智能体来协调检索、筛选相关信息并优化响应，在需要精确性和适应性的场景中表现出色。本综述探讨了智能体RAG的基础原理、分类法和应用。它全面回顾了RAG范式，如朴素RAG、模块化RAG和图结构RAG[19]，以及它们向智能体RAG系统演变的过程。主要贡献包括详细的智能体RAG框架分类法、在医疗[20, 21]、金融和教育[22]等领域的应用，并提供了实施策略、基准测试和伦理考虑的见解。
本文的结构如下：第2节介绍RAG及其演变，强调传统方法的局限性。第3节详细阐述智能体智能及智能体模式的原理。第4节提供智能体RAG系统的分类法，包括单智能体、多智能体和基于图的框架。第5节探讨智能体RAG的应用，第6节讨论实施工具和框架。第7节聚焦于基准测试和数据集，第8节总结并展望智能体RAG系统的未来发展方向。
2. 检索增强生成（RAG）的基础
2.1 RAG概述
检索增强生成（RAG）是人工智能领域的一项重要进展，它将大型语言模型（LLMs）的生成能力与实时数据检索相结合。尽管LLMs在自然语言处理任务中表现出色，但其依赖静态预训练数据的特性导致其生成的响应往往过时或不完整。RAG通过从外部数据源动态检索相关信息并将其整合到生成过程中，提供了更具上下文准确性和时效性的输出。
2.2 RAG的核心组件RAG系统的架构通常包括三个主要组件：检索器（Retriever）：负责从外部数据源（如知识库、API或向量数据库）中查询相关信息。先进的检索器利用密集向量搜索和基于Transformer的模型来提高检索精度和语义相关性。增强器（Augmentation）：处理检索到的数据，提取并总结与查询上下文最相关的信息。生成器（Generation）：将检索到的信息与LLMs的预训练知识相结合，生成连贯且上下文相关的响应。
2.3 RAG范式的演进RAG范式经历了从简单到复杂的演进过程，逐步适应了现实世界应用中对上下文准确性、可扩展性和多步推理的需求。以下是RAG范式的主要演进阶段： 2.3.1 Naive RAGNaive RAG是RAG的最基础实现，依赖于简单的关键词检索技术（如TF-IDF和BM25）从静态数据集中获取文档。尽管Naive RAG易于实现，但其缺乏上下文意识，生成的响应往往过于碎片化或泛化。
2.3.3 Modular RAGModular RAG将检索和生成流程分解为独立的、可重用的组件，允许根据特定任务进行优化和定制。这种模块化设计使得Modular RAG能够灵活应对多领域任务，同时保持高精度和可扩展性。
2.3.4 Graph RAGGraph RAG通过引入图数据结构，增强了多跳推理和上下文丰富性。图RAG系统能够捕捉实体之间的关系和层次结构，从而生成更准确和丰富的输出，尤其是在需要结构化关系推理的领域（如医疗诊断和法律研究）中表现出色。
2.3.5 Agentic RAGAgentic RAG通过引入自主智能体，实现了动态决策和工作流优化。与静态系统不同，Agentic RAG能够根据查询的复杂性动态调整检索策略，并通过迭代优化提升响应质量。Agentic RAG在客户支持、金融分析和自适应学习平台等需要动态适应性和上下文精确性的领域中表现出色。
3. Agentic RAG的核心原则与背景
Agentic RAG的核心在于其集成了自主智能体，能够进行动态决策、迭代推理和协作工作流。这些智能体通过以下设计模式来增强系统的适应性和精确性： 
4. Agentic RAG系统的分类
Agentic RAG系统可以根据其架构的复杂性和设计原则进行分类，主要包括单智能体架构、多智能体系统和分层智能体架构。每种架构都针对特定的挑战进行了优化，并在不同的应用中表现出色。4.1 单智能体Agentic RAG：路由器单智能体Agentic RAG系统采用集中式决策机制，由单个智能体负责检索、路由和信息的整合。这种架构简化了系统设计，特别适用于工具或数据源数量有限的场景。工作流程查询提交与评估：用户提交查询，协调智能体接收并分析查询，确定最合适的信息源。知识源选择：根据查询类型，协调智能体选择不同的检索选项，如结构化数据库、语义搜索、网络搜索或推荐系统。数据整合与LLM合成：检索到的数据传递给大型语言模型（LLM），LLM将来自多个源的信息整合成连贯且上下文相关的响应。输出生成：系统生成综合性的用户响应，并以简洁、可操作的格式呈现。关键特性与优势集中化简化：单个智能体处理所有检索和路由任务，简化了系统设计和维护。效率与资源优化：由于智能体数量较少，系统对计算资源的需求较低，能够快速处理查询。动态路由：智能体实时评估每个查询，选择最合适的知识源。跨工具的多功能性：支持多种数据源和外部API，适用于结构化和非结构化工作流。 
RAG系统分层智能体RAG系统采用多层次的信息检索和处理方法，增强了系统的效率和战略决策能力。智能体按层次组织，高层智能体负责监督和指导低层智能体，确保查询由最合适的资源处理。工作流程查询接收：用户提交查询，由顶层智能体接收并进行初步评估。战略决策：顶层智能体评估查询的复杂性，并决定优先使用哪些子智能体或数据源。任务分配：顶层智能体将任务分配给低层智能体，低层智能体执行其分配的任务。数据整合与合成：低层智能体的结果由高层智能体整合，并生成连贯的响应。响应交付：最终的合成响应返回给用户，确保响应全面且上下文相关。关键特性与优势战略优先级：顶层智能体可以根据查询的复杂性、可靠性或上下文优先选择数据源或任务。可扩展性：通过将任务分配给多个层次的智能体，系统能够处理高度复杂或多方面的查询。增强的决策能力：高层智能体通过战略监督提高了响应的整体准确性和连贯性。
5. Agentic RAG的应用Agentic RAG系统在多个领域中展示了其变革潜力，尤其是在需要实时数据检索、生成能力和自主决策的场景中。以下是Agentic RAG在几个关键领域中的应用：
5.1 客户支持与虚拟助手Agentic RAG系统通过实时、上下文感知的查询解决，彻底改变了客户支持。传统的聊天机器人和虚拟助手通常依赖于静态知识库，导致生成通用或过时的响应。相比之下，Agentic RAG系统能够动态检索最相关的信息，适应用户的上下文，并生成个性化的响应。用例：Twitch广告销售增强Twitch利用Agentic RAG系统动态检索广告商数据、历史活动表现和受众 demographics，生成详细的广告提案，显著提升了运营效率。
5.2 医疗与个性化医疗在医疗领域，Agentic RAG系统通过整合患者特定数据和最新的医学研究，帮助临床医生进行诊断和治疗规划。用例：患者病例摘要Agentic RAG系统通过整合电子健康记录（EHR）和最新的医学文献，生成全面的患者病例摘要，帮助临床医生更快地做出决策。
5.3 法律与合同分析Agentic RAG系统通过快速文档分析和决策支持工具，重新定义了法律工作流程。用例：合同审查Agentic RAG系统可以分析合同，提取关键条款并识别潜在风险，自动化合同审查过程，确保合规性并降低风险。
5.4 金融与风险分析Agentic RAG系统通过提供实时洞察，彻底改变了金融行业，支持投资决策、市场分析和风险管理。用例：汽车保险理赔处理Agentic RAG系统可以自动化理赔处理，通过检索保单详情并结合事故数据，生成理赔建议，同时确保符合监管要求。
5.5 教育与个性化学习Agentic RAG系统在教育领域也取得了显著进展，通过生成解释、学习材料和反馈，支持个性化学习。用例：研究论文生成Agentic RAG系统通过从多个来源综合关键发现，帮助研究人员生成研究论文摘要，提升研究效率。
5.6 图增强的多模态工作流图增强的Agentic RAG（GEAR）结合了图结构和检索机制，特别适用于需要多模态数据的工作流。用例：市场调查生成GEAR能够生成包含文本、图像和视频的详细市场调查报告，帮助营销团队分析市场趋势和客户偏好。
6. Agentic RAG的工具与框架
Agentic RAG系统的开发依赖于多种工具和框架，这些工具和框架提供了强大的支持，帮助开发者构建复杂的Agentic RAG系统。以下是一些关键的工具和框架：
6.1 LangChain与LangGraphLangChain提供了模块化组件，用于构建RAG管道，无缝集成检索器、生成器和外部工具。LangGraph则通过引入基于图的工作流，支持循环、状态持久化和人机交互，增强了Agentic RAG系统的复杂性和自校正能力。
6.2 LlamaIndexLlamaIndex的Agentic Document Workflows（ADW）支持端到端的文档处理、检索和结构化推理。它引入了元智能体架构，子智能体管理较小的文档集，顶层智能体负责协调任务，如合规性分析和上下文理解。
6.3 Hugging Face Transformers与QdrantHugging Face提供了预训练模型，用于嵌入和生成任务，而Qdrant则通过自适应向量搜索能力增强了检索工作流，允许智能体动态切换稀疏和密集向量方法。
6.4 CrewAI与AutoGen这些框架强调多智能体架构。CrewAI支持分层和顺序流程、强大的记忆系统和工具集成。AutoGen则通过多智能体协作，支持代码生成、工具执行和决策制定。
6.5 OpenAI Swarm框架OpenAI Swarm框架是一个轻量级的多智能体编排框架，强调智能体的自主性和结构化协作。
6.6 Agentic RAG与Vertex AIGoogle的Vertex AI平台与Agentic RAG无缝集成，提供了构建、部署和扩展机器学习模型的平台，支持强大的上下文感知检索和决策工作流。
6.7 Amazon Bedrock for Agentic RAGAmazon Bedrock提供了一个强大的平台，用于实现Agentic RAG工作流。
6.8 IBM Watson与Agentic RAGIBM的watsonx.ai支持构建Agentic RAG系统，通过集成外部信息和增强响应准确性，回答复杂查询。
6.9 Neo4j与向量数据库Neo4j是一个开源的图数据库，擅长处理复杂的关系和语义查询。与Neo4j一起，向量数据库如Weaviate、Pinecone、Milvus和Qdrant提供了高效的相似性搜索和检索能力，构成了高性能Agentic RAG工作流的基础。
7. 基准测试与数据集
当前的基准测试和数据集为评估Agentic RAG系统提供了宝贵的见解。以下是一些关键的基准测试和数据集：
7.1 BEIR（信息检索基准测试）BEIR是一个多功能的基准测试，用于评估嵌入模型在各种信息检索任务中的表现，涵盖了生物信息学、金融和问答等多个领域的17个数据集。
7.2 MS MARCO（微软机器阅读理解）MS MARCO专注于段落排序和问答任务，广泛用于RAG系统中的密集检索任务。
7.3 TREC（文本检索会议，深度学习赛道）TREC提供了段落和文档检索的数据集，强调检索管道中排序模型的质量。
7.4 MuSiQue（多跳顺序问答）MuSiQue是一个多跳推理基准测试，强调从断开连接的上下文中检索和综合信息的重要性。
7.5 2WikiMultihopQA2WikiMultihopQA是一个多跳问答数据集，专注于跨多个来源连接知识的能力。7.6 AgentG（Agentic RAG知识融合）AgentG专为Agentic RAG任务设计，评估跨多个知识库的动态信息综合能力。
7.7 HotpotQAHotpotQA是一个多跳问答基准测试，要求对互连的上下文进行检索和推理，适用于评估复杂的RAG工作流。
7.8 RAGBenchRAGBench是一个大规模、可解释的基准测试，包含10万个跨行业领域的示例，提供了可操作的RAG指标。
7.9 BERGEN（检索增强生成基准测试）BERGEN是一个用于系统化基准测试RAG系统的库，支持标准化实验。7.10 FlashRAG工具包FlashRAG工具包实现了12种RAG方法，并包含32个基准测试数据集，支持高效和标准化的RAG评估。
7.11 GNN-RAGGNN-RAG评估图基RAG系统在节点级和边级预测任务中的表现，重点关注知识图谱问答（KGQA）中的检索质量和推理性能。
8. 结论
Agentic Retrieval-Augmented Generation (Agentic RAG) 代表了人工智能领域的一项重大进步，通过集成自主智能体，克服了传统RAG系统的局限性。Agentic RAG系统通过动态决策、迭代推理和协作工作流，显著提升了系统的适应性和精确性，使其能够应对复杂的现实世界任务。尽管Agentic RAG系统展示了巨大的潜力，但仍面临一些挑战，如多智能体架构的协调复杂性、可扩展性和延迟问题，以及伦理决策的确保。未来的研究需要进一步探索这些挑战，并开发专门的基准测试和数据集，以评估Agentic RAG系统的独特能力。随着人工智能系统的不断发展，Agentic RAG将成为创建自适应、上下文感知和具有影响力的解决方案的基石，满足快速变化的世界需求。通过解决这些挑战并探索未来的方向，研究人员和从业者可以充分发挥Agentic RAG系统的潜力，推动跨行业和领域的变革性应用。
Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG
相关内容
微信扫码咨询专知VIP会员