AndrewNg AI 工程技能地图：构建与部署 AI 应用

核心结论（一句话）

Andrew Ng 用「AI Engineering Skills Map」系统化梳理 AI 工程师能力——「构建与部署 AI 应用」作为第 1 项展开 6 大能力（LLM 基础 / 数据 Grounding / Agentic 系统 / 评估驱动 / 生产运营 / ML 基础），其中评估驱动开发是区分普通与优秀的最重要特质，与「Agent 时代一切」的营销帖形成鲜明对比。

分类提炼

背景：AI Engineering Skills Map 总览

Andrew Ng 通过招聘启事分析 + 专家访谈 + 调研反馈实证提炼的 AI 工程师最高层 4 项技能：

  1. Building and deploying AI applications（构建与部署 AI 应用）← 本文展开
  2. Software engineering fundamentals（软件工程基础）
  3. Using coding agents（使用编码 Agent）
  4. Shaping the build（塑造构建过程）

本文是第 1 项展开，后续会有第 2-4 项陆续发布。

根本特征：AI 应用输出不可预测

AI 应用的输出不可预测——事先不知道 LLM 会输出什么，也不知道监督学习模型会做出什么预测。这决定了构建过程比传统软件更具迭代性，难以提前精确规划。

优秀 AI 工程师的核心节奏：「构建 → 检查 → 决定下一步」——基于中间结果灵活调整，从而用不可靠的 AI 组件构建出可靠的系统。

6 大能力拆解

1. LLM foundations（大语言模型基础）

理解 tokenization、生成过程，知道何时可信、何时会失败；如何选择多模态模型、权衡上下文窗口内容、推理缓存命中、知识截止、reasoning effort、采样参数、工具调用等；何时需要微调或自托管模型。

2. Grounding models with data（用数据 grounding 模型）

给 LLM 提供高质量上下文。RAG（向量搜索）只是早期手段，现在技术菜单已大幅扩展：

3. Building agentic systems（构建 Agentic 系统）

从预定义的 workflow（固定 LLM 调用序列）到基于 agent harness 的自主系统（让 LLM 反复决定下一步）。需要：

要把原型变成生产级、安全、可靠的 Agent，理解 guardrails / 对抗输入 / 数据外泄等风险与治理。同时关注前沿形态：voice agents / computer-use agents / generative UI 等。

4. Evaluation-driven development（评估驱动开发）⭐分水岭

Ng 明确表态：这是区分「普通」与「优秀」AI 系统构建者最重要的特质。

通过严谨的 evals / 错误分析循环，系统性地把精力集中在更可能有效的方向上。构建好评估本身就是深度技能：

让进步变得系统化，而非随机。

5. Operating in production（生产环境运营）

AI 软件因不可预测性、成本和延迟而与传统软件不同。需要：

6. Machine learning foundations（机器学习基础）

现代 LLM 本身基于监督学习与强化学习。优秀的 LLM 应用构建者通常对 ML/DL 有一定深度理解。许多应用仍需要使用或训练传统 ML 模型，因此需要了解：

bias/variance / 错误分析 / 数据工程等经典心智模型，对处理不确定输出的系统仍然关键。

知识节点（8 个独立概念）

每条节点独立成段可理解，对应一个可 grep 的关键词

5 关键金句

  1. 「AI 应用的输出不可预测——你事先不知道 LLM 会输出什么」
  2. 「优秀的 AI 工程师会反复『构建 → 检查 → 决定下一步』，基于中间结果灵活调整」
  3. 「评估驱动开发（evaluation-driven development）是区分『普通』与『优秀』AI 系统构建者最重要特质」
  4. 「RAG（向量搜索）只是早期手段，现在技术菜单已大幅扩展」
  5. 「用不可靠的 AI 组件构建出可靠的系统」

3 反直觉点

  1. Agentic 系统不是全部：Ng 把 agentic 只列为 6 大能力之一（重要的 1/6），而非「Agent 时代一切」的营销口径；评估驱动 / 生产运营 / 数据 grounding / ML 基础同等重要
  2. RAG 已不是终点：向量搜索只是早期手段；现在菜单大幅扩展（多种表示 + 工具按需检索 + prompt 直放 + 数据管道治理）
  3. ML 基础对纯 LLM 应用构建者仍然关键：LLM 本身基于监督学习 + 强化学习；bias/variance / 错误分析 / 数据工程等经典心智模型对处理不确定输出仍然关键（容易被新派忽视）

6 个对 Seetong 团队可借鉴动作

Seetong 是监控类 APP（iOS/Android/C++ SDK 全栈），AI 能力落地有 4 大候选场景（智能告警 / 录像分析 / 设备诊断 / 4G IPC），6 大能力对团队能力建设有直接借鉴价值。

  1. 盘点团队 6 大能力短板：按 Ng 的 6 大能力逐一评估 Seetong 团队的强弱——大概率「数据 grounding」和「生产运营」是两块洼地（团队从 iOS/Android 转型 AI 应用，这两块经验最薄）
  2. 建立 Eval 闭环作为研发流程：当前可能还在「调通就上线」阶段，借鉴 Ng 的评估驱动开发建立 Eval-Driven 研发节奏（构建 → 评估 → 决定下一步）；与 [[01-ai-agents/AI-PM核心技能-观测评估与反馈闭环]] 同源
  3. 重新审视 Agentic 设计：Seetong 的智能告警 / 录像分析 / 设备诊断等场景是否过度套用 Agentic？按 Ng 视角要回到「用不可靠组件构建可靠系统」的总体方法论——参考 [[06-ai-tech/Agent Harness 解析：智能体架构深度拆解]]
  4. 提升 Grounding 多样性：Seetong 设备文档 / 历史告警 / 用户手册等 grounding 来源，应该从单一向量搜索扩展到多种表示 + 工具按需检索 + 数据管道治理
  5. 建立 ML 基础培训：团队补 bias/variance / 错误分析 / 数据工程等经典心智模型，避免只会 prompt 不会调优；可结合 [[06-ai-tech/deep-learning-fundamentals]] 现有培训内容
  6. 生产运营标准化：建立可观测性 + 漂移检测 + prompt injection 防护 + 统计化回归测试的运维体系（国内监控类 APP 普遍薄弱）；与 [[01-ai-agents/HarnessEngineering企业级实战]] 形成工程化补充

关联图谱

上游（基于 / 来自）

下游（应用于 / 验证于）

同级（横向 / 并列）

我的理解（写给 Seetong 团队）

透明玻璃自检

透明玻璃自检：wiki 7.2K(≤8K)/ digest 5.3K(≤4K 略超)/ 节点 8(6-10)/ H2 8 wiki / H2 5 digest(≤5)/ 表格 0 wiki / 表格 1 digest(≤2)/ 0 陈词 ⭐⭐⭐

备注与限制