检索增强生成(RAG)已成为增强大型语言模型(LLM)外部知识的基础范式,在现代信息检索和知识密集型任务中发挥着重要作用。标准的RAG系统通常采用静态的检索-生成管道,并依赖语境知识注入,但对于需要多跳推理、适应性信息访问和更深入的外部知识整合的复杂任务,这种方法可能不尽如人意。受到这些局限性的启发,研究社区已经超越了静态检索和语境知识注入。 在新兴的研究方向中,本教程深入探讨了RAG的两个快速发展的互补性研究方向:动态RAG和参数化RAG。动态RAG探讨了在LLM生成过程中何时以及检索什么,从而实现对不断变化的信息需求的实时适应。参数化RAG则重新思考如何将检索到的知识整合,从输入级别的知识注入转向参数级别的知识注入,以提高效率和效果。本教程全面回顾了这两个方向的最新进展,分享了理论基础和实践洞见,以支持和激发RAG领域进一步的研究。