AI 大模型行业概念一站式对比手册
整理时间：2026-07-30
目标：用中文清晰解释每个概念的本质、用途，并通过对比和串联场景帮助你记忆。
目录
- 快速定位表：按类别分组
- 核心概念详解
- 易混淆概念对比矩阵
- 综合应用场景：串联所有概念
- 一句话速记卡片
1. 快速定位表：按类别分组
| 类别 |
包含概念 |
一句话概括 |
| 基础概念 |
LLM、Agent、RAG、Prompt、Token、Embedding、Fine-tuning、Context Window |
入门 AI 必须懂的”基本词汇” |
| 框架与平台 |
LangChain、LangGraph、LlamaIndex、DeepAgents |
帮你”搭建”AI 应用的脚手架和引擎 |
| 开源模型 |
Hermes（及其他常见开源模型系列） |
可以本地跑的、有特定能力的 LLM |
| 可观测性 |
LangSmith、Langfuse |
AI 应用的”监控台”，追踪每次调用、耗时和成本 |
| 协议与标准 |
MCP、A2A、HTTP/HTTPS、SSE、WebSocket |
AI 系统之间、AI 与工具之间的”通信语言” |
| 核心机制 |
Tool / Function Calling、Skills、Workflow |
让 LLM 能干活的”手脚和流程” |
| 数据与向量 |
OCR、Milvus（向量数据库）、BGE（Embedding 模型） |
把非结构化数据”数字化”并”存进去查出来”的链路 |
| 训练与推理 |
LoRA / QLoRA、vLLM、harness（模型评估） |
让模型更小、更快、更可评估 |
| 开发范式 |
AI Coding、Vibe Coding、Agentic Engineering、SDD |
人怎么和 AI 协作写代码的”四种姿势” |
2. 核心概念详解
2.1 基础概念（入门必知）
| 概念 |
是什么 |
用来做什么 |
一句话理解 |
| LLM（Large Language Model） |
大语言模型，如 GPT-4、Claude、Llama、DeepSeek |
理解自然语言、生成文本、推理、翻译、写代码…… |
一个”什么都知道一点”的超级大脑 |
| Agent |
能自主决策、调用工具、多步推理的 AI 应用 |
代替人完成复杂任务（订机票 = 查航班 + 比价 + 填表单） |
LLM + 工具 + 记忆 + 规划 = 自动执行任务的”数字员工” |
| RAG（Retrieval-Augmented Generation） |
先检索知识库，再把结果塞进提示词让 LLM 回答 |
解决 LLM 知识过时/幻觉问题，让回答基于你自己的文档 |
开卷考试——先查资料再回答 |
| Prompt（提示词） |
你发给 LLM 的那段话 |
控制 LLM 输出什么、怎么输出、以什么角色输出 |
你和大模型说话的方式 |
| Token（令牌） |
LLM 处理文本的最小单位（≈0.75 个英文单词） |
计费单位 + 上下文长度单位 |
大模型的”字数”——按 Token 收费，有上限 |
| Embedding（向量嵌入） |
把文字/图片变成一串数字（向量） |
让计算机用数学方式衡量”语义相似度” |
把意思翻译成数字——意思越近，数字越像 |
| Fine-tuning（微调） |
在预训练模型上用特定数据继续训练 |
让通用模型学会你的特定领域知识、风格或格式 |
让一个”通才”变成你公司的”专才” |
| Context Window（上下文窗口） |
LLM 一次能”看到”的最大 Token 数量 |
决定了你能塞多少文档、聊天历史给模型 |
大模型的”记忆力上限”——超过就忘了 |
补充说明：
- LLM vs Agent：LLM 是引擎，Agent 是装了引擎的汽车。LLM 只回答问题，Agent 能执行任务。
- RAG vs Fine-tuning：RAG 是”临时翻书”，微调是”把知识记在脑子里”。RAG 灵活更新成本低，微调效果好但代价大。实际项目优先 RAG，必要时再微调。
2.2 框架与平台
| 概念 |
是什么 |
用来做什么 |
和谁像 |
关键区别 |
| LangChain |
LLM 应用开发框架（Python/JS） |
把 LLM、提示词、工具链组装成可执行的 pipeline |
像 Spring Boot 之于 Java |
通用编排，链式调用，社区最大，生态最丰富 |
| LangGraph |
基于图的工作流引擎（LangChain 生态核心项目） |
构建有状态、多步、带循环/分支的 Agent 流程 |
像工作流引擎（如 Temporal） |
用”图”代替”链”，支持环和条件跳转，Agent 首选 |
| LlamaIndex |
数据索引与检索框架 |
专门做 RAG：文档解析、分块、索引、检索一条龙 |
像 Elasticsearch 的 SDK + 索引层 |
专攻”数据侧”，检索能力开箱即用 |
| DeepAgents |
LangChain 推出的 Agent 开发工具包 |
简化复杂 Agent 的构建：内置规划、工具调用、记忆管理等能力 |
可以看作 LangGraph 的”高级封装” |
在 LangGraph 之上提供更高级的 Agent 抽象 |
DeepAgents 补充说明：DeepAgents 是 LangChain 生态中较新的项目，它在 LangGraph 的基础上封装了规划（planning）、工具调用、记忆管理等常用能力，让开发者用更少的代码构建更强的 Agent。和 LangGraph 的关系类似：LangGraph 给了你图（graph）这种原语让你自由搭建，DeepAgents 则提供了装配好的”Agent 套餐”。
对比总结：
- LangChain vs LangGraph：LangChain 最初以”线性链条（Chain）”为核心抽象，LangGraph 以”图（Graph）”为核心抽象。简单串行任务用 LangChain 就够了，复杂多步 Agent（有循环、条件判断）用 LangGraph。目前 LangChain 社区的重心已逐渐转向 LangGraph。
- LangGraph vs DeepAgents：LangGraph 提供底层图编排能力（精细控制），DeepAgents 提供高层 Agent 抽象（开箱即用）。
- LlamaIndex 的定位：它和 LangChain 不是替代关系——LlamaIndex 专精数据检索，LangChain 强在通用编排。实际项目中常两者一起用：LlamaIndex 做检索管道，LangChain/LangGraph 做流程编排。
2.3 开源模型
| 概念 |
是什么 |
用来做什么 |
关键特点 |
| Hermes |
Nous Research 基于 Llama 微调的开源模型系列 |
需要强大 function calling 和结构化输出能力的本地推理场景 |
强调 function calling 能力，JSON 输出格式严谨 |
为什么单独列 Hermes？ 在开源模型中，Hermes 的差异化在于function calling 能力极强——当你需要本地模型像 GPT-4 一样精准地调用工具、返回结构化 JSON 时，Hermes 是首选之一。同类模型还包括 Mistral、Qwen（通义千问）等。
2.4 可观测性
| 概念 |
是什么 |
用来做什么 |
和谁像 |
关键区别 |
| LangSmith |
LangChain 团队出品的 LLM 应用监控平台 |
追踪每次 LLM 调用、prompt 版本、输出质量、耗时、token 消耗 |
像 Datadog 但专为 LLM 设计 |
深度集成 LangChain，调试 prompt 方便 |
| Langfuse |
开源的 LLM 可观测性平台 |
功能与 LangSmith 高度重叠：追踪、评估、prompt 管理 |
像 LangSmith 的开源替代 |
开源可自托管，不绑定特定框架 |
选型建议：
- 用 LangChain 生态 → LangSmith（集成度最高）
- 需要自托管 / 开源 / 不绑定特定框架 → Langfuse
- 两者都支持 OpenTelemetry 追踪标准，可部分混用
2.5 协议与标准
| 概念 |
是什么 |
用来做什么 |
层级类比 |
| MCP（Model Context Protocol） |
Anthropic 提出的”AI 连接工具的协议” |
让 LLM 通过统一接口调用外部工具（文件系统、数据库、API 等） |
相当于 LLM 的 USB 协议——插上就能用 |
| A2A（Agent-to-Agent） |
Google 提出的”智能体间通信协议” |
让不同 Agent 互相发现、协商、传递任务 |
相当于 HTTP 之于 Web——Agent 之间沟通的语言 |
| HTTP / HTTPS |
请求-响应协议 |
常规 API 调用（如调 OpenAI API） |
像写信——一问一答，一问一回 |
| SSE（Server-Sent Events） |
服务器向客户端单向推送事件 |
LLM 流式输出文字（token 一个接一个推给前端） |
像收音机——服务器持续广播，客户端只收不发 |
| WebSocket |
全双工通信协议 |
需要双向实时通信的场景（如协同编辑、聊天应用） |
像打电话——双方随时可以说话 |
对比总结：
- MCP vs A2A：MCP 解决 Agent ↔ 工具 的通信，A2A 解决 Agent ↔ Agent 的通信。两者是互补关系，不是竞争对手。
- SSE vs WebSocket：LLM 流式输出通常用 SSE，不是 WebSocket。原因很简单——LLM 回复是单向的（服务器推文字给客户端），不需要客户端反向推流。SSE 比 WebSocket 更轻量、实现更简单。只有在需要双向实时通信时才用 WebSocket。
- SSE vs HTTP：都是基于 HTTP 协议。普通 HTTP 请求是一次性返回结果；SSE 是建立连接后服务器持续推送。ChatGPT/Claude 的”逐字输出”效果就是靠 SSE 实现的。
2.6 核心机制
| 概念 |
是什么 |
用来做什么 |
一句话理解 |
| Tool |
一个可被 LLM 调用的外部函数 |
让 LLM 能查天气、算数学、调 API、读文件 |
LLM 的”双手” |
| Function Calling |
LLM 输出结构化 JSON 来调用函数的能力（OpenAI 的叫法） |
LLM 不返回自然语言，而是返回 {"name":"get_weather","args":{"city":"北京"}} |
LLM 的”RPC 接口” |
| Tool Use |
同上，Anthropic（Claude）的叫法 |
和 Function Calling 完全一样的能力，只是名字不同 |
Function Calling = Tool Use |
| Skills |
一组相关 Tool 的集合，封装成特定能力 |
给 Agent 装配”专业技能包”（如”数据分析 Skill”含 SQL 查询 + 画图） |
LLM 的”职业技能证书” |
| Workflow |
预定义的执行步骤序列 |
把多个 LLM 调用 + 工具调用编排成固定流程 |
像”工厂流水线”——步骤固定 |
注意：Skills 和 Workflow 在 Claude Code 中有更具体的工程定义——Skills 是可复用的指令包，Workflow 是多 Agent 协作编排。这里按通用概念来解释。
对比总结：
- Tool 是最小单元，多个 Tool 按领域打包成 Skills，多个步骤编排成 Workflow。
- Function Calling = Tool Use，同一个能力，OpenAI 和 Anthropic 各起各的名字。
- Function Calling 是底层能力，Tool 是它的上层封装和使用单元。
- Workflow vs Agent：Workflow 是”固定路线”（按图索骥），Agent 是”自己找路”（自主规划）。简单场景用 Workflow 兜底，复杂决策交给 Agent。
2.7 数据与向量
| 概念 |
是什么 |
用来做什么 |
关键点 |
| OCR（Optical Character Recognition） |
从图片/PDF 中识别文字 |
把扫描件、截图转成可搜索的文本 |
RAG 的”前置步骤”——先 OCR 才能检索 |
| 向量数据库（Vector Database） |
专门存储和检索向量（embedding）的数据库 |
做语义搜索——找”意思最接近”的内容 |
RAG 的存储和检索基础设施 |
| Milvus（开源向量数据库） |
最流行的开源向量数据库之一 |
存储和检索 embedding，支持十亿级向量规模 |
性能强、生态好、支持 GPU 加速索引 |
| BGE（BAAI General Embedding） |
智源研究院（BAAI）开源的 embedding 模型 |
把中文文本转成向量，用于语义搜索/聚类 |
中文场景首选，效果优于 OpenAI ada-002 |
典型的 RAG 数据链路：
1
| 文档 → OCR（图片→文字） → 文本分块 → BGE 转向量 → 存入 Milvus → RAG 时检索
|
向量数据库不止 Milvus：其他常见选择还有 Pinecone（商业）、Qdrant（开源）、Weaviate（开源）、Chroma（轻量）等。选择取决于数据规模、部署方式和性能需求。
2.8 训练与推理
| 概念 |
是什么 |
用来做什么 |
关键区别 |
| LoRA（Low-Rank Adaptation） |
高效微调方法：冻结原模型，只训练极少参数 |
用少量显存就能把大模型适配到特定任务 |
全量微调 70B 需要 8×A100，LoRA 只需 2×A100 |
| QLoRA |
LoRA 的升级版：先量化到 4bit 再做 LoRA |
消费级显卡就能微调大模型 |
一张 24GB 显卡（如 RTX 4090）就能微调 70B 模型 |
| vLLM |
高性能 LLM 推理引擎 |
部署 LLM 推理服务，极致利用 GPU 显存 |
吞吐量是原生 Transformers 的 10-20 倍 |
| lm-evaluation-harness |
EleutherAI 的模型评估框架 |
在标准 benchmark（MMLU、GSM8K 等）上评测模型 |
给模型”考试打分”——量化它的真实能力 |
选型速查：
- 微调模型：显存充裕 → LoRA；显存不够 → QLoRA；数据和预算都充足 → 全量微调
- 部署推理：生产环境首选 vLLM（还有 SGLang、TensorRT-LLM 等竞品）
- 评估模型：lm-evaluation-harness
2.9 开发范式
| 概念 |
是什么 |
适用场景 |
一句话理解 |
| AI Coding |
开发者用 AI 辅助写代码（Cursor、Copilot） |
日常开发：补全、生成、重构 |
你写思路，AI 补实现 |
| Vibe Coding |
完全让 AI 写代码，人只描述需求 |
快速原型、个人工具、非核心系统 |
你说的它做——你就”跟着感觉走” |
| Agentic Engineering |
把 Agent 作为核心自主执行单元来构建系统 |
复杂 LLM 应用的工程方法论 |
设计 Agent”思考→行动→观察”的循环，而不是手写 if-else |
| SDD（Specification-Driven Development） |
先写需求规格说明书，再让 AI 按规约生成代码 |
有明确需求文档、追求可复现的项目 |
你写需求规约，AI 按规约编码 |
对比总结（按人参与度从高到低）：
| 范式 |
人写什么 |
AI 做什么 |
适合场景 |
| AI Coding |
写逻辑 + 调 AI 生成片段 |
补全、生成、重构代码片段 |
日常开发，中等复杂度 |
| SDD |
写 Spec（需求规格） |
按 Spec 生成完整实现 |
有明确需求文档的项目 |
| Agentic Engineering |
设计 Agent 行为 + 提供工具 |
自主推理、规划、执行多步任务 |
复杂、开放式的任务 |
| Vibe Coding |
只描述需求和目标 |
全权负责代码实现 |
原型、个人项目、简单工具 |
3. 易混淆概念对比矩阵
| 维度 |
MCP |
A2A |
Function Calling / Tool Use |
| 谁和谁通信 |
Agent ↔ 工具 / 数据源 |
Agent ↔ Agent |
LLM ↔ 宿主程序（你的代码） |
| 协议层级 |
应用层（工具发现 + 调用协议） |
应用层（任务协商 + 结果传递） |
API 层面的输出格式约定 |
| 提出方 |
Anthropic |
Google |
OpenAI（Function Calling）/ Anthropic（Tool Use） |
| 标准化程度 |
已成事实标准，生态快速扩张 |
提案阶段，生态建设中 |
事实标准，所有主流 LLM 都支持 |
| 类比 |
USB 协议——统一外设接口 |
HTTP 协议——系统间通信 |
JSON-RPC——远程过程调用 |
3.2 LangChain vs LangGraph vs LlamaIndex vs DeepAgents
| 维度 |
LangChain |
LangGraph |
LlamaIndex |
DeepAgents |
| 核心抽象 |
Chain（链） |
Graph（图） |
Index（索引） |
Agent（具备规划能力的智能体） |
| 擅长 |
提示词管理、简单工具调用 |
多步 Agent、循环、条件分支、状态管理 |
文档解析、检索、索引管理 |
快速构建具备规划和工具使用的 Agent |
| 不擅长 |
复杂状态管理、循环控制 |
非常简单场景反而是负担 |
通用流程编排 |
极度定制化的底层控制 |
| 抽象层级 |
中层 |
底层（提供原语） |
中层 |
高层（封装好的套餐） |
| 组合使用方式 |
管理提示词和基础 tool 定义 |
编排多步流程和 Agent 图结构 |
做 RAG 检索管道 |
在 LangGraph 之上快速构建 Agent |
3.3 LoRA vs QLoRA vs 全量微调
| 维度 |
全量微调（Full Fine-tuning） |
LoRA |
QLoRA |
| 训练参数量 |
100%（全部参数） |
0.1% - 1% 参数 |
0.1% - 1% 参数 |
| 基座模型精度 |
16bit / BF16 |
16bit / BF16 |
4bit（量化后） |
| 显存需求（以 70B 为例） |
~560GB（8×A100 80GB） |
~140GB（2×A100） |
~48GB（1×A100 / 1×RTX 4090） |
| 训练速度 |
慢 |
快 |
较快（量化有开销） |
| 推理速度影响 |
无 |
几乎无 |
略有下降 |
| 适用场景 |
大公司、效果要求极致 |
团队、效果和成本平衡 |
个人开发者、消费级硬件 |
3.4 Vibe Coding vs Agentic Engineering vs SDD vs AI Coding
| 维度 |
AI Coding |
SDD |
Agentic Engineering |
Vibe Coding |
| 控制权 |
人主导 |
人主导（Spec 定规则） |
人设计边界，AI 自主执行 |
AI 主导 |
| 可复现性 |
高（人把控细节） |
高（Spec 即契约） |
中（行为有边界，内部路径可变） |
低（换个 prompt 结果不同） |
| 适用规模 |
日常开发 |
有规范需求的商业项目 |
复杂系统 |
个人项目 / 原型 |
| 核心理念 |
“AI 是我的副驾驶” |
“Spec is the source of truth” |
“Design the agent, not the code” |
“Let the AI cook” |
4. 综合应用场景：串联所有概念
场景： 你是一家互联网公司的 AI 架构师，老板让你做一个”智能文档问答系统”——上传公司合同文件后，员工可以像聊天一样问合同内容。
第 1 步：数据准备
1
2
3
4
5
| 纸质合同扫描件
↓ 📄 OCR —— 把图片/PDF 转成文本
↓ 🔪 文本分割 —— 把长文档切成 Chunk
↓ 🧮 BGE Embedding —— 每个 Chunk 转成向量（一串数字）
↓ 💾 存入 Milvus 向量数据库
|
第 2 步：系统架构（问答流程）
1
2
3
4
5
6
7
8
9
10
11
12
| 用户提问："去年的采购合同付款条款是什么？"
↓
🌐 HTTP + SSE —— 前端发请求用 HTTP，后端流式返回用 SSE
↓
🧠 LLM（通过 vLLM 部署，或调云端 API：GPT-4 / Claude）
↓ 判断：需要查知识库 → 触发 RAG
↓
🔍 BGE 把问题转向量 → 在 Milvus 中搜语义最相关的 3 个 Chunk
↓
📎 LlamaIndex / LangChain —— 把检索结果拼进 Prompt
↓
🤖 LLM 基于检索内容生成回答，以 SSE 流式返回给前端（逐字出现效果）
|
第 3 步：Agent 化（引入 LangGraph + DeepAgents）
老板不满意，加了需求：”合同对比”、”条款合规检查”、”风险预警”。
1
2
3
4
5
6
7
8
9
| 用户："帮我检查新合同和模板有哪些差异"
↓
LangGraph 编排的 Agent 主控流程（或用 DeepAgents 快速搭建）
├── 1️⃣ 调用"合同检索" Tool → 查模板合同
├── 2️⃣ 调用"合同检索" Tool → 查新合同
├── 3️⃣ 调用"条款对比" Tool → 逐条 diff
├── 4️⃣ Function Calling → 调外部合规检查 API
├── 5️⃣ LoRA 微调过的"条款风险分类模型" → 判断风险等级
└── 6️⃣ 汇总生成：对比报告 + 风险清单
|
- 每个步骤就是一个 Tool；一组相关 Tool 打包成”合同分析” Skills。
- LangGraph 编排有分支/条件的 Workflow；DeepAgents 可以提供更高层的 Agent 抽象。
- 每一步调用都被 LangSmith / Langfuse 记录：花了多少 Token？哪个步骤慢？哪个 Tool 老失败？
第 4 步：评估与迭代
1
2
3
4
5
6
7
8
9
10
| 效果评估
↓
📊 lm-evaluation-harness —— 在公司自建的合同 QA 数据集上打分
↓ 发现准确率不够
↓
🔄 QLoRA —— 用 1000 条标注数据微调（一张 4090 就能跑）
↓
🚀 vLLM 部署微调后的模型
↓
🔄 再评估 → 满意 → 上线
|
第 5 步：跨系统协作（MCP + A2A）
1
2
3
4
5
| 公司的 CRM 系统也有 Agent
↓
A2A 协议 —— 文档 Agent 把"合同审核结果"发给 CRM Agent
↓
MCP 协议 —— 文档 Agent 通过 MCP Server 读取文件系统中的合同文件
|
第 6 步：团队开发方式分工
| 团队成员 |
用哪种范式 |
做什么 |
| 架构师（你） |
SDD |
写 Spec：定义 RAG 流程、接口规范、评估标准 |
| 高级工程师 |
Agentic Engineering |
设计 Agent 的 Tool 边界和思考-行动循环 |
| 中级工程师 |
AI Coding |
用 Cursor 配合 Spec 实现具体功能 |
| 实习生 |
Vibe Coding |
快速搭原型 Demo 给客户展示 |
5. 一句话速记卡片
基础概念
| 概念 |
一句话记住它 |
| LLM |
一个什么都知道一点的大脑 |
| Agent |
大脑 + 手脚 + 记忆 = 能办事的”数字员工” |
| RAG |
开卷考试——先查资料再回答 |
| Prompt |
你和大模型说话的方式 |
| Token |
次元 LLM 的”字数”——按它收费，也有数量上限 |
| Embedding |
向量化 把意思翻译成数字——意思越近，数字越像 |
| Fine-tuning |
微调 让通才变成你公司的专才 |
| Context Window |
LLM 的”记忆力上限”——超过就忘 |
框架与平台
| 概念 |
一句话记住它 |
| LangChain |
AI 应用的 快速搭建框架 ——搭积木式开发 |
| LangGraph |
用”图”代替”链”，Agent 的流程引擎 |
| LlamaIndex |
专做 RAG 的”文档处理专家” |
| DeepAgents |
LangGraph 之上封装的 “Agent 快速构建工具包” |
| Hermes |
开源模型里的”function calling 尖子生” |
可观测性
| 概念 |
一句话记住它 |
| LangSmith / Langfuse |
LLM 应用的”监控台”和”调试器” |
协议与通信
| 概念 |
一句话记住它 |
| MCP |
AI 的 USB 协议——统一连接外部工具 |
| A2A |
Agent 之间的 HTTP——互相聊天、派活 |
| HTTP |
写信——一来一回 |
| SSE |
收音机——服务器持续推送（LLM 流式输出靠它） |
| WebSocket |
打电话——双方随时说、双向实时 |
核心机制
| 概念 |
一句话记住它 |
| Function Calling |
让 LLM 说 JSON 而不是说人话（OpenAI 叫法） |
| Tool Use |
同上，Anthropic 的叫法 |
| Tool |
LLM 的”手”，能调 API、查数据库 |
| Skills |
一组 Tool 打包成的”职业技能” |
| Workflow |
固定的流水线流程 |
数据与向量
| 概念 |
一句话记住它 |
| OCR |
让电脑看懂图片里的字 |
| 向量数据库 |
存”意思”的数据库——找到语义最接近的内容 |
| Milvus |
最主流的开源向量数据库 |
| BGE |
中文最强的文本→向量转化器（智源出品） |
训练与推理
| 概念 |
一句话记住它 |
| LoRA |
只练 1% 参数也能学会新技能 |
| QLoRA |
更省钱的 LoRA——模型压到 4bit，一张显卡搞定 |
| vLLM |
LLM 推理加速器，生产部署首选 |
| lm-evaluation-harness |
AI 的”标准考试卷” |
开发范式
| 概念 |
一句话记住它 |
| AI Coding |
你写代码，AI 打辅助 |
| Vibe Coding |
你只管说话，AI 包办所有代码 |
| Agentic Engineering |
设计 Agent 的行为边界，而不是手写 if-else |
| SDD |
先写好需求规约，AI 再写代码 |
