AI 工程师能力地图与学习路线
目标读者：已有扎实工程能力、想在 12 个月内成为能独立交付 AI 应用的资深工程师。 结论先行：对资深 SWE 而言，AI 工程 ≈ 系统工程 + 概率直觉 + LLM 应用范式，不必先啃完深度学习理论。
能力地图（按优先级）
| 层级 | 能力 | 为什么重要 | 最小掌握标准 |
|---|---|---|---|
| 1. 基础直觉 | 概率、向量、梯度下降的直觉 | 看懂论文与调参 | 能解释 embedding / softmax / 过拟合 |
| 2. LLM 应用 | Prompt 工程、结构化输出、function calling | 90% 落地工作在这层 | 能写出稳定 JSON 输出的 prompt |
| 3. 检索 | Embedding、向量库、RAG、重排序 | 让模型用私有/最新知识 | 能搭一个可用的 RAG |
| 4. Agent | 工具调用、规划、多步循环、MCP | 复杂任务自动化 | 能写一个带工具的 agent 循环 |
| 5. 评估 | 离线评测、A/B、幻觉检测、回归 | 上线质量的护城河 | 有一套可复现的 eval 集 |
| 6. 部署/运维 | 推理服务、成本、缓存、限流、可观测 | 生产可靠性与成本 | 能算清单请求成本并优化 |
关键概念速查
- Token：模型处理文本的最小单位。成本、上下文长度都以 token 计。
- Embedding：把文本映射为向量 ，语义相近则向量相近（余弦相似度高）。
- 温度 (temperature)：控制采样随机性。结构化任务用低温（0–0.3），创意任务用高温。
- 上下文窗口：一次能塞入的最大 token。RAG 的本质是「在有限窗口里放对信息」。
- 幻觉 (hallucination)：模型自信地编造。用检索 + 引用 + 约束输出来缓解。
6 个月可执行路线
月 1–2：LLM 应用基础
- 用一个真实小需求（如「把邮件归类」）跑通 API 调用、结构化输出、错误重试。
- 学 prompt 模式：few-shot、chain-of-thought、输出 schema 约束。
- 产出：1 个能稳定输出 JSON 的小工具。
月 3–4：RAG
- 学切分、embedding、向量库（pgvector / Qdrant）、检索 + 重排序。
- 用自己的资料（如本知识库）搭一个问答。
- 产出：1 个可用的 RAG 问答，并写下它的失败案例。
月 5：Agent 与工具
- 实现工具调用循环：模型决定调用哪个工具 → 执行 → 观察 → 继续。
- 了解 MCP（Model Context Protocol）如何标准化工具/资源接入。
- 产出：1 个能自动完成多步任务的 agent。
月 6：评估与部署
- 建立 eval 集：一组「输入 → 期望」对，回归时自动跑。
- 部署到云（推理服务 + 缓存 + 限流），算清成本。
- 产出：1 个上线的 AI 功能 + 一页成本/质量报告。
常见误区
- 先学完理论再动手 → 反了。以战代练，缺什么补什么。
- 只堆 prompt 不做评估 → 无法度量改进，等于没做工程。
- 忽略成本 → token 成本会随规模爆炸，缓存与模型分级是必修课。
- 把 Agent 当银弹 → 能用确定性代码解决的，别交给模型。
推荐动手清单
- 跑通一次 function calling，让模型调用你写的函数
- 用 pgvector 存 100 条 chunk 并检索
- 给一个 prompt 写 10 条 eval 用例
- 给某功能加上响应缓存，量化省了多少钱
- 写一篇复盘：你的 RAG 在什么问题上会答错