从原理到实践，一文读懂主流 AI 技术

# 目 录

**一、 AI 发展全景与技术演进**

**二、 大语言模型（LLM）**

**三、 检索增强生成（RAG）**

**四、 AI Agent（智能体）**

**五、 三者关系与技术选型**

**六、 落地场景与案例分析**

**七、 学习资源与工具推荐**

# 一、AI 发展全景与技术演进

## 1\.1 AI 发展的三次浪潮

| **浪潮** | **时间** | **核心特征** | **代表技术** |
| --- | --- | --- | --- |
| 第一次 | 1950s\-1970s | 规则驱动、符号主义 | 专家系统、逻辑推理 |
| 第二次 | 1980s\-2010s | 统计学习、数据驱动 | SVM、决策树、深度学习 |
| 第三次 | 2017s\-至今 | 大模型、通用能力 | Transformer、LLM、Agent |

**关键转折点：**

* 2017 年：Google 提出 Transformer 架构，Attention is All You Need 论文发表
* 2020 年：GPT\-3 发布，1750 亿参数，展示"涌现"能力
* 2022 年：ChatGPT 上线，AI 首次大规模进入公众视野
* 2023\-2024 年：RAG 和 Agent 成为落地标配
* 2025\-2026 年：多模态、Agentic Workflow 成为主流范式

## 1\.2 AI 技术栈全景图

当前 AI 应用的技术栈可以分为以下层次：

| **层次** | **核心技术** | **解决的问题** |
| --- | --- | --- |
| 基础设施层 | GPU/TPU、云计算、分布式训练 | 算力供给与模型训练 |
| 模型层 | 大语言模型、多模态模型、专用模型 | 通用理解与生成能力 |
| 增强层 | RAG、微调、Prompt Engineering | 领域适配与精度提升 |
| 应用层 | AI Agent、智能客服、代码助手 | 解决具体业务问题 |

# 二、大语言模型（LLM）

大语言模型（Large Language Model）是 AI 技术栈的核心引擎，是当前所有 AI 应用的基础。

## 2\.1 核心原理：Transformer 架构

Transformer 是现代大语言模型的基础架构，核心思想是"自注意力机制"。

**关键概念：**

* 自注意力（Self\-Attention）：模型在处理每个词时，会同时关注句子中的所有其他词，理解上下文关系
* 多头注意力（Multi\-Head Attention）：用多组"注意力头"从不同角度理解语义，如语法关系、语义关系、指代关系等
* 位置编码（Positional Encoding）：让模型理解词语的顺序，因为 Attention 本身不感知位置
* 前馈网络（Feed\-Forward Network）：对注意力输出做非线性变换，提取更深层特征

## 2\.2 模型训练三阶段

| **阶段** | **做什么** | **数据** | **目标** |
| --- | --- | --- | --- |
| 预训练（Pre\-training） | 学习通用知识 | 海量文本（万亿 token） | 预测下一个词的能力 |
| 指令微调（SFT） | 学习遵循指令 | 人工标注的问答对 | 听懂用户意图 |
| 对齐优化（RLHF/DPO） | 学习人类偏好 | 人类排序的回答对 | 回答更安全、更有用 |

***通俗理解：***

* 预训练 \= 读万卷书（学知识）
* 指令微调 \= 学会听话（懂指令）
* 对齐优化 \= 学会做人（合偏好）

## 2\.3 主流模型对比

| **模型** | **开发方** | **参数量** | **特点** |
| --- | --- | --- | --- |
| GPT\-4o | OpenAI | 未公开 | 最强综合能力，多模态支持 |
| Claude 4 | Anthropic | 未公开 | 长上下文、安全性和推理能力 |
| Qwen 3 | 阿里巴巴 | 235B(MoE) | 中文能力强，开源生态好 |
| DeepSeek\-V3 | 深度求索 | 671B(MoE) | 性价比高，开源 |
| Llama 4 | Meta | 未公开 | 开源生态最活跃 |
| Gemini 2\.5 Pro | Google | 未公开 | 多模态和超长上下文 |

## 2\.4 关键参数解读

| **参数** | **含义** | **建议值** |
| --- | --- | --- |
| Temperature | 输出的随机性/创造性 | 0\.2\-0\.4 严谨任务；0\.7\-1\.0 创意任务 |
| Top\-p | 采样概率阈值 | 0\.9 左右，平衡多样性和准确性 |
| Max Tokens | 最大输出长度 | 根据需求设置，通常 2048\-8192 |
| Context Window | 最大上下文长度 | 8K\-200K tokens，越大能处理越长的文档 |

# 三、检索增强生成（RAG）

RAG（Retrieval\-Augmented Generation）是让大模型"带着资料回答问题"的技术，有效减少幻觉、提高准确性。

## 3\.1 为什么需要 RAG？

**大模型的天然局限：**

* 知识截止：训练数据有截止日期，不知道最新信息
* 幻觉问题：模型会"自信地编造"不存在的事实
* 缺乏私有知识：没训练过企业内部文档
* 不可溯源：无法提供回答的来源和出处

**RAG 的解决方案：**

* 先检索：从知识库中找到相关文档片段
* 再回答：把检索到的内容作为上下文，让模型基于事实回答
* 可溯源：可以标注回答引用的文档来源

## 3\.2 RAG 工作原理

完整的 RAG 流程包含以下步骤：

1. 文档加载：读取 PDF、Word、网页、数据库等文档
2. 文档分块（Chunking）：将长文档切分为合适大小的片段（通常 500\-1000 字）
3. 向量化（Embedding）：用 Embedding 模型将文本转为向量，存入向量数据库
4. 用户提问：用户输入问题
5. 检索：将问题也转为向量，在向量数据库中找最相似的文档片段
6. 重排序（可选）：对检索结果做精细排序，提升相关性
7. 生成：将检索到的片段 \+ 用户问题一起送给大模型生成回答
8. 引用标注（可选）：在回答中标注引用来源

## 3\.3 RAG 的核心技术组件

| **组件** | **作用** | **常见工具** |
| --- | --- | --- |
| 文档加载器 | 读取各种格式文档 | LangChain Document Loaders, Unstructured |
| 分块器（Chunker） | 将文档切分为片段 | 递归分块、语义分块、Markdown 分块 |
| Embedding 模型 | 文本转为向量 | text\-embedding\-3, BGE, M3E |
| 向量数据库 | 存储和检索向量 | Chroma, FAISS, Milvus, Pinecone |
| 检索器 | 找到最相关的片段 | 相似度搜索、MMR、混合检索 |
| 重排序模型 | 提升检索精度 | Cohere Rerank, BGE\-Reranker |
| LLM | 基于检索结果生成回答 | GPT\-4, Qwen, Claude, Llama |

## 3\.4 RAG 的进阶优化

基础 RAG 只能做到"能用"，以下优化让 RAG 从"能用"变成"好用"：

* 混合检索：同时使用关键词检索（BM25）\+ 向量检索，覆盖精确匹配和语义匹配
* 多级 Chunking：小片段用于精准检索，大片段用于提供完整上下文
* Query 改写：将用户模糊的问题改写为多个精确的检索查询
* 文档摘要索引：为每份文档生成摘要，先搜摘要定位文档，再搜文档内容
* 多轮 RAG：根据第一轮回答的不足，自动发起第二轮检索
* Self\-RAG：模型先判断是否需要检索，再决定是否搜索

## 3\.5 RAG 适用场景

| **场景** | **RAG 的作用** | **典型应用** |
| --- | --- | --- |
| 企业内部知识库 | 让员工能问答式查询公司制度、流程 | HR 问答助手、IT 帮助台 |
| 产品说明书问答 | 基于产品文档回答客户问题 | 智能客服、售后支持 |
| 法规政策查询 | 准确回答法律法规条文 | 法务助手、合规检查 |
| 技术文档问答 | 基于代码文档、API 文档回答问题 | 开发助手、运维支持 |
| 学术研究辅助 | 基于论文库检索回答问题 | 文献综述、研究助手 |

# 四、AI Agent（智能体）

AI Agent 是让大模型"不仅能说，还能做"的技术。如果说 LLM 是大脑，RAG 是记忆，那 Agent 就是手和脚。

## 4\.1 Agent 的定义与核心要素

Agent \= 大模型 \+ 工具调用 \+ 记忆 \+ 规划

| **要素** | **含义** | **类比** |
| --- | --- | --- |
| 大脑（LLM） | 理解意图、制定计划、生成决策 | 人的思考能力 |
| 手（工具调用） | 调用搜索、计算、API、代码执行等外部工具 | 人的行动能力 |
| 记忆（Memory） | 短期记忆（对话历史）\+ 长期记忆（知识库/向量库） | 人的记忆系统 |
| 规划（Planning） | 将复杂任务分解为子任务，制定执行策略 | 人的计划能力 |
| 反思（Reflection） | 评估执行结果，自我纠错和优化 | 人的自我检查 |

## 4\.2 Agent 的工作模式

ReAct 模式（Reason \+ Act）—— Agent 的核心工作循环：

1. 思考（Thought）：分析用户请求，决定下一步
2. 行动（Action）：调用工具执行具体操作
3. 观察（Observation）：获取工具执行的结果
4. 重复循环：根据观察结果，继续思考 → 行动 → 观察
5. 最终回答：当信息充足时，生成最终回答给用户

通俗举例：用户问"帮我查一下明天北京的天气，如果有雨提醒我带伞"

* 思考：需要查询北京明天的天气 → 调用天气 API
* 行动：调用天气查询工具，获取"北京明天，小雨，15\-22°C"
* 观察：获取到天气信息，确实有雨
* 思考：需要提醒用户带伞，整合信息
* 回答："北京明天有小雨，气温 15\-22°C，记得带伞哦 ☂️"

## 4\.3 Agent 的工具调用能力

| **工具类型** | **示例** | **应用场景** |
| --- | --- | --- |
| 搜索引擎 | Google Search、百度搜索 | 查询最新信息、新闻 |
| 计算器 | 数学计算工具 | 精确数值计算 |
| 代码执行 | Python 解释器 | 数据处理、图表生成 |
| 数据库 | SQL 查询工具 | 查询业务数据 |
| API 调用 | 天气 API、翻译 API | 对接外部服务 |
| 文件操作 | 读写文件、搜索目录 | 文件处理 |
| 网页浏览 | 浏览器自动化 | 网页信息提取、填表 |

## 4\.4 多 Agent 协作

单个 Agent 能力有限，多个 Agent 协作可以完成更复杂的任务：

| **协作模式** | **工作方式** | **适用场景** |
| --- | --- | --- |
| 顺序链 | A 完成 → B → C，像流水线 | 固定流程的任务 |
| 并行协作 | 多个 Agent 同时工作，最后汇总 | 需要多角度分析 |
| 评审模式 | 执行者完成 → 评审者检查 → 修改 → 再审 | 代码生成、文档写作 |
| 投票模式 | 多个 Agent 给出方案，投票选出最佳 | 决策制定 |
| 辩论模式 | 正反方 Agent 辩论，得出结论 | 复杂问题分析 |

## 4\.5 Agent 开发框架

| **框架** | **开发者** | **特点** | **适合场景** |
| --- | --- | --- | --- |
| LangGraph | LangChain | 基于图的 Agent 框架，状态管理灵活 | 复杂工作流 |
| CrewAI | CrewAI 团队 | 角色分工清晰，上手简单 | 多 Agent 协作 |
| AutoGen | 微软 | 对话式多 Agent 框架，研究友好 | 研究和实验 |
| OpenAI Agent SDK | OpenAI | 原生支持 Function Calling | OpenAI 生态 |
| Google ADK | Google | Google 官方 Agent 框架 | Gemini 生态 |

# 五、三者关系与技术选型

## 5\.1 LLM、RAG、Agent 的关系

三者不是替代关系，而是互补关系：

* LLM 是大脑 —— 提供理解和生成能力，是基础
* RAG 是记忆 —— 让模型能访问最新和最准确的外部知识
* Agent 是手脚 —— 让模型不仅能回答，还能行动

**组合公式：**

* LLM \= 一个博学但知识过时的顾问
* LLM \+ RAG \= 一个能查阅资料的顾问（减少幻觉）
* LLM \+ Agent \= 一个能帮你干活的顾问（能行动）
* LLM \+ RAG \+ Agent \= 一个能查资料、能干活的全能顾问（终极形态）

## 5\.2 技术选型决策树

| **需求场景** | **推荐方案** | **理由** |
| --- | --- | --- |
| 简单问答、聊天 | 纯 LLM | 无需外部知识，直接使用 |
| 基于文档问答 | LLM \+ RAG | 需要准确引用内部知识 |
| 实时信息查询 | LLM \+ RAG / Agent \+ 搜索 | 需要最新数据 |
| 自动化任务执行 | LLM \+ Agent | 需要调用工具、执行操作 |
| 复杂多步任务 | LLM \+ RAG \+ Agent | 既需要准确知识，又需要行动能力 |

## 5\.3 企业落地建议

**循序渐进，不要一步到位：**

1. 第一步：用 LLM 做基础对话能力（1\-2 周）
* 选一个合适的模型（开源 or API），搭建基础对话界面
1. 第二步：加入 RAG 提升准确率（2\-4 周）
* 整理企业知识库，搭建 RAG 管线，让回答有依据
1. 第三步：加入 Agent 能力实现自动化（4\-8 周）
* 对接业务系统 API，让 AI 能执行查询、创建等操作
1. 第四步：多 Agent 协作处理复杂流程（8\+ 周）
* 设计多角色 Agent 系统，自动化复杂业务流程

# 六、落地场景与案例分析

## 6\.1 智能客服

技术方案：LLM \+ RAG（产品知识库）\+ Agent（订单查询 API）

* 客户提问 → RAG 从产品文档中找答案 → 模型生成准确回答
* 客户查询订单 → Agent 调用订单 API → 返回订单状态
* 复杂问题 → Agent 转人工客服

## 6\.2 代码助手

技术方案：LLM \+ Agent（代码执行 \+ 文件操作 \+ Git）

* 描述需求 → Agent 生成代码 → 执行测试 → 修复错误 → 提交 PR
* 代码审查 → Agent 读取代码 → 指出潜在问题 → 给出修改建议

## 6\.3 数据分析助手

技术方案：LLM \+ Agent（Python 代码执行 \+ 图表生成）

* 上传数据 → Agent 分析数据结构 → 生成统计报告 → 可视化图表
* 追问 → Agent 执行新的分析代码 → 更新报告

## 6\.4 知识管理助手

技术方案：LLM \+ RAG（企业文档库）\+ Agent（文档操作）

* 搜索知识 → RAG 检索相关文档 → 生成摘要回答
* 整理知识 → Agent 归类文档 → 生成知识图谱
* 撰写文档 → 基于检索到的知识，生成报告/文档

## 6\.5 智能研发平台

技术方案：LLM \+ RAG（技术文档 \+ 代码库）\+ Agent（CI/CD \+ 部署）

* 需求分析 → RAG 检索相关需求文档和 API 文档
* 代码生成 → Agent 生成代码、写测试
* 部署运维 → Agent 执行部署脚本、监控日志

# 七、学习资源与工具推荐

## 7\.1 学习资源

**视频课程：**

* Andrew Ng 的"Generative AI for Everyone"（Coursera）
* DeepLearning.AI 的 LangChain 系列课程
* 李宏毅教授的 GPT / Transformer 课程（B 站）
* Andrej Karpathy 的技术视频（YouTube）

**官方文档：**

* OpenAI 文档：platform.openai.com/docs
* LangChain 文档：python.langchain.com
* LangGraph 文档：langchain\-ai.github.io/langgraph
* LlamaIndex 文档：docs.llamaindex.ai
* Ollama 文档：ollama.com/docs

**书籍推荐：**

* 《动手学深度学习》（张浩）—— 深度学习基础
* 《大型语言模型实战指南》—— LLM 工程实践
* 《Building LLM Applications》—— LangChain 实战

## 7\.2 实践工具

| **工具** | **用途** | **上手难度** |
| --- | --- | --- |
| Ollama | 本地运行开源大模型 | ⭐ 简单，一行命令启动 |
| OpenAI API | 使用 GPT 系列模型 | ⭐ 简单，注册即用 |
| LangChain | 构建 LLM 应用框架 | ⭐⭐ 中等 |
| LangGraph | 构建 Agent 工作流 | ⭐⭐⭐ 需要理解图概念 |
| ChromaDB | 轻量级向量数据库 | ⭐ 简单，5 分钟上手 |
| LlamaIndex | RAG 专用框架 | ⭐⭐ 中等 |
| Streamlit / Gradio | 快速搭建 AI 应用界面 | ⭐ 简单 |
| FastAPI | 构建 AI API 服务 | ⭐⭐ 中等 |

## 7\.3 动手练手项目

从简单到复杂，建议依次尝试：

1. 个人知识库问答：用 Ollama \+ ChromaDB 搭建本地 RAG，对自己的文档做问答
2. 智能搜索助手：用 LangChain \+ SerpAPI 搭建搜索增强对话
3. 数据分析 Agent：用 LangChain Agent \+ Python REPL 做数据分析和可视化
4. 多 Agent 协作：用 CrewAI 搭建研究员 \+ 写稿人 \+ 编辑的协作系统
5. 完整业务系统：对接真实 API，搭建能查数据、做分析、出报告的 Agent

# 总结

AI 技术正在从"玩具"走向"工具"，核心逻辑：

* LLM 提供了通用理解能力，是 AI 的"大脑"
* RAG 解决了知识更新和准确性问题，是 AI 的"记忆"
* Agent 让 AI 从"能说"到"能做"，是 AI 的"手脚"
* 三者结合，AI 才能从"聊天工具"变成"生产力工具"