AI Agent开发系统课，大模型底层到企业级智能体，含LangChain、CrewAI多Agent协作与RAG实战

这套 AI Agent 应用开发系统课从大模型底层知识讲到生产级智能体系统开发，目录覆盖大模型原理、提示词工程、Agent 架构、工具调用、RAG、框架选型、企业级系统设计、质量评估和安全防护

开篇先讲清楚 Agent 是什么，它和传统 AI、Chatbot、LLM 应用的区别在哪里，自主 Agent、目标驱动型 Agent、多步推理这几个概念分别指什么

大模型基础部分讲 LLM 是怎么训练的、Token 和下一个 Token 预测是什么意思、Transformer 和注意力机制如何工作、Temperature 与 Top-K 采样怎么影响输出、幻觉为什么会产生，以及开源模型和 API 模型该怎么选

提示词工程从 Zero-Shot、Few-Shot、思维链 CoT、自洽性讲到 ReAct 策略，重点落在怎么写出稳定可靠的 Prompt、怎么控制输出格式、怎么给多步骤任务设计 Prompt，还有 Prompt 注入的攻防

Agent 架构单独成章，拆解一个完整架构包含哪些组件、规划和任务分解怎么做、决策机制、执行循环、重试与错误恢复、记忆系统的设计模式、状态管理、自我反思，以及多 Agent 协作和任务优先级排序

工具使用一章讲工具选择的机制、Function Calling 的设计原则、如何调用数据库和搜索引擎、如何执行代码、多工具怎么协调、调用失败后怎么处理，还包括插件系统、MCP 协议和工具权限控制

RAG 检索增强涉及向量嵌入、文档分块、Chunk 大小选择、向量数据库、相似度搜索、召回率与精确率优化、Rerank 的作用，以及 RAG 和微调之间怎么选

框架部分对比 LangChain、LangGraph、AutoGPT、ReAct Agent、CrewAI 和 OpenAI Assistants API，讨论项目该用开源框架还是自研，多 Agent 编排的难点在哪里，以及工作流设计和可观测性怎么做

后半段偏向工程落地：企业级 Agent 系统设计、高并发扩展、并发控制、延迟和 Token 成本优化、缓存策略、日志设计、A/B 测试、高可用架构、优雅降级和多模型 Fallback

质量评估涵盖离线评估、在线评估、Benchmark 设计、AgentBench、推理能力和工具使用能力评估、幻觉检测、LLM-as-Judge，以及性能优化、反馈闭环和持续学习

安全部分讲 Prompt 注入攻击、数据泄露、权限提升、越狱、多用户数据隔离、审计日志、代码执行沙箱、隐私数据处理和内容安全过滤

最后是实战案例与方向讨论，包括报告撰写、智能客服、金融分析、代码生成、多 Agent 协作系统，以及多目标冲突时的决策、长期记忆、输出错误排查、成本和延迟问题的处理

适合开发人员和 AI 从业者，学完能自己动手搭建生产可用的智能体系统

课程目录

Agent 基础认知

• 什么是 AI Agent，它与传统 AI 有什么区别
• 什么是 Agentic AI
• LLM 与 Agent 有什么区别
• 为什么从 LLM 应用转向 Agent
• Agent 的核心组件有哪些
• Agent 和 Chatbot 的区别
• 什么是自主 Agent
• 什么是目标驱动型 Agent
• 什么是多步推理，Agent 如何实现
• 为什么 Agent 需要记忆
• 什么是推理引擎
• 工具使用在 Agent 中的作用
• 什么是环境交互
• 感知与行动在 Agent 中如何体现
• 单 Agent 与多 Agent 系统的区别
• Agent 的能力边界在哪里

大模型基础

• 什么是大语言模型 (LLM)
• LLM 是如何训练的
• 什么是 Token
• 什么是下一个 Token 预测
• Transformer 的核心机制是什么
• 注意力机制 (Attention) 是怎么工作的
• Temperature 参数对生成结果有什么影响
• Top-K 和 Top-p 采样是什么
• 什么是幻觉 (Hallucination)
• LLM 为什么会产生幻觉
• 如何评估 LLM 的质量
• 开源模型 vs API 模型，如何选择
• 如何为项目选择合适的 LLM
• Prompt 对 LLM 输出有什么影响
• 什么是指令微调 (Instruction Tuning)
• RLHF 在 LLM 中起什么作用

提示词工程

• 什么是提示词工程 (Prompt Engineering)
• Zero-Shot 和 Few-Shot 有什么区别
• 什么是思维链 (Chain of Thought)
• 为什么 CoT 能提升推理能力
• 什么是自洽性 (Self-Consistency)
• 什么是 ReAct 提示策略
• 如何设计稳定可靠的 Prompt
• 什么是 Prompt 注入攻击
• 如何防御 Prompt 注入
• 如何设计高质量的 Prompt 模板
• System Prompt 和 User Prompt 有什么区别
• 如何控制 LLM 的输出格式
• 如何提升 Prompt 的鲁棒性
• 如何为多步骤任务设计 Prompt
• Prompt 对 Agent 行为有什么影响

Agent 架构与核心机制

• 一个完整的 Agent 架构包含哪些部分
• Agent 的规划 (Planning) 机制是什么
• 什么是任务分解，Agent 如何做任务分解
• Agent 的决策机制是什么
• 工具调用和函数调用是什么，有什么区别
• Agent 如何调用外部 API
• 什么是执行循环 (Execution Loop)
• Agent 如何处理重试和错误恢复
• Agent 的记忆系统有哪些设计模式
• 短期记忆和长期记忆在 Agent 中如何实现
• Agent 如何管理状态 (State Management)
• 什么是 Agent 的自我反思 (Reflection)
• 多 Agent 如何协作
• Agent 如何进行任务优先级排序
• 如何设计一个通用 Agent 框架
• 如何设计一个垂直领域 Agent

RAG 检索增强

• 什么是 RAG (检索增强生成)
• RAG 的工作流程是什么
• 为什么 Agent 需要 RAG
• 什么是向量嵌入 (Embedding)
• 什么是文档分块 (Chunking)
• 如何选择合适的 Chunk Size
• 什么是向量数据库
• 常见向量数据库有哪些，如何选择
• 向量相似度搜索是如何实现的
• 如何优化 RAG 的召回率
• 如何优化 RAG 的精确率
• Rerank 在 RAG 中起什么作用
• RAG 如何解决长上下文问题
• RAG 如何减少幻觉
• RAG 和微调如何选择
• RAG 落地最难的问题是什么

工具使用

• 什么是工具使用 (Tool Use)
• Agent 如何进行工具选择
• 工具选择的底层机制是什么
• 如何设计好的工具 Schema
• Function Calling 的设计原则是什么
• Agent 如何调用数据库
• Agent 如何调用搜索引擎
• Agent 如何执行代码
• 如何协调多工具的调用
• 如何避免 Agent 错误地调用工具
• 工具调用失败后 Agent 如何处理
• 如何验证工具调用结果的可靠性
• 如何设计 Agent 的插件系统
• 什么是 MCP (Model Context Protocol)
• 如何控制工具的权限

Agent 框架

• 你用过哪些 Agent 框架，如何评价
• LangChain 的核心组件是什么
• LangGraph 和 LangChain 有什么区别
• AutoGPT 的核心思路是什么
• ReAct Agent 是如何工作的
• 什么是 CrewAI，它的设计理念是什么
• OpenAI Assistants API 有哪些核心功能
• 如何选择适合项目的 Agent 框架
• 用开源框架还是自研 Agent 框架
• 如何设计 Agent 的工作流
• DAG 和循环流在 Agent 工作流中如何选择
• 多 Agent 编排的核心挑战是什么
• 如何构建一个 Agent Pipeline
• 如何实现 Agent 的可观测性 (Observability)

企业级系统设计与性能优化

• 如何设计企业级 Agent 系统
• 如何设计一个 AI 助理产品
• 如何设计智能客服 Agent 系统
• 如何设计办公自动化 Agent
• 如何设计一个代码生成 Agent
• Agent 系统如何扩展 (Scale) 以支持高并发
• Agent 系统中如何做并发控制
• 如何降低 Agent 系统的响应延迟
• 如何控制 Agent 系统的 Token 成本
• Agent 系统如何设计缓存策略
• Agent 系统的日志系统如何设计
• Agent 系统中如何做 A/B 测试
• 如何设计 Agent 系统的高可用架构
• Agent 系统如何实现优雅降级
• 多模型 Fallback 策略如何设计

质量评估与优化

• 如何评估 Agent 的质量
• 什么是离线评估
• 什么是在线评估
• 如何设计 Agent 评估基准 (Benchmark)
• 什么是 AgentBench
• 如何评估 Agent 的推理能力
• 如何评估 Agent 的工具使用能力
• 如何评估 RAG 系统的质量
• 如何检测 Agent 的幻觉问题
• 什么是 LLM-as-Judge，如何使用
• 如何优化 Agent 的整体性能
• 如何系统地优化 Prompt
• 如何通过模型选择来优化性能
• Agent 系统中如何设计反馈闭环
• Agent 系统如何实现持续学习

安全与风险防护

• 什么是 Prompt 注入攻击
• Agent 系统中数据泄露的风险有哪些
• Agent 系统面临哪些安全风险
• 如何防止 Agent 的权限提升攻击
• 如何限制 Agent 的工具权限
• 多用户场景下如何隔离用户数据
• 如何防止 Agent 被越狱 (Jailbreak)
• Agent 系统的审计日志应该记录什么
• 如何设计安全的代码执行沙箱
• 如何防止恶意输入攻击 Agent
• 生产环境中如何加固 Agent 系统
• Agent 系统中如何处理用户隐私数据
• 内容安全过滤如何实现
• 如何防止 Agent 输出敏感信息
• 如何为 Agent 系统设计安全策略

行业实战案例

• 如何设计一个报告撰写 Agent
• 如何设计一个智能客服 Agent
• 如何设计一个金融分析 Agent
• 如何设计一个代码生成 Agent
• 如何设计一个多 Agent 协作系统
• Agent 在多目标冲突时如何决策
• 如何为 Agent 实现长期记忆
• Agent 输出错误时如何排查
• Agent 成本过高如何优化
• Agent 延迟过高如何处理
• RAG 效果不好如何排查改进
• 如何提高 Agent 系统的稳定性
• 如何提升 Agent 的任务成功率
• 如何让 Agent 具备自我纠错能力
• 如何设计生产级别的 Agent 系统

技术瓶颈与未来方向

• Agent 的未来发展方向是什么
• Agent 会取代人类工作吗
• 多 Agent 社会是什么概念，有什么潜力
• Agent 与 AGI 的关系
• 当前 Agent 技术的瓶颈在哪里
• 你做过最复杂的 Agent 项目是什么（参考性回答）
• 如何评价主流 Agent 框架
• Agent 和传统工作流有什么本质区别
• Agent 真的"智能"吗
• Agent 架构与传统软件架构的根本区别

配套的课程视频资源在本页获取