Ai Engineering From Scratch Zh

从零开始，亲手实现每一个 AI 算法 503 节课 · 20 个阶段 · Python / TypeScript / Rust / Julia · 配套中文网站 aieng-zh.cn

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

> 84% 的学生已经在用 AI 工具，可只有 18% 觉得自己能在专业场景里用好它们。 > 这套课程要填的就是这道沟。 > > 503 节课，20 个阶段，约 320 小时。Python、TypeScript、Rust、Julia。每节课都交付一件 > 能复用的东西：一个提示词、一个技能、一个 agent、一个 MCP server。免费，开源，MIT。 > > 你不只是学 AI，你亲手把它造出来。从头到尾，全手写。

> 本项目是 AI Engineering from Scratch（作者 Rohit Ghumare，MIT 协议）的简体中文衍生版。衷心感谢原作者创作并开源了这套课程。

这个中文版做了什么

不是机器翻译堆出来的镜像。在忠实翻译之上，我们做了一套面向中文读者的本地化：

| | | |---|---| | 🇨🇳 全站简体中文 | 503 节课正文、83 条术语表、测验题、mermaid 流程图、交互图表标签全部中文化（agent、token、transformer 等技术术语按惯例保留英文） | | 🌐 独立中文网站 aieng-zh.cn | 可搜索的课程目录、学习进度追踪、可拖动的交互式图表、命令面板（Cmd / Ctrl + K）、深色模式 | | 🎬 配套动画讲解视频 | 3Blue1Brown 风格的无真人动画讲解，把每节课的数学推导与核心直觉做成可视化短片，中文配音、在课程页内嵌播放。Phase 1（数学基础 22 节）已上线，其余阶段陆续制作中——它是对动手推导的补充，不是替你跳过思考的速成视频 | | 🔍 为 AI 检索优化 | 构建时自动生成 sitemap.xml / llms.txt / 结构化数据，方便被搜索引擎和 AI 助手引用 | | ✅ 课数一致性护栏 | CI 自动校验课程数（node site/build.js --check），防止课程列表与磁盘上的实际内容漂移 |

> 翻译怎么翻见 [TRANSLATION.md](TRANSLATION.md)。课程结构、代码与上游保持一致，译文持续跟进上游更新。

目录 · [怎么运作](#怎么运作) · [课程结构](#课程的结构) · [一节课的样子](#一节课的样子) · [快速开始](#快速开始) · [每节课都有产出](#每节课都有产出) · [课程目录](#contents) · [工具箱](#工具箱) · [参与贡献](#参与贡献)

怎么运作

大多数 AI 教材都是碎片化教学。这儿一篇论文，那儿一篇微调心得，别处再来个炫酷的 agent demo。这些碎片很少能拼到一起。你做出了一个聊天机器人，却讲不清它的 loss 曲线；你给 agent 挂了个函数，却说不出调用它的那个模型内部，attention 到底在干什么。

这套课程就是那根脊椎。20 个阶段，503 节课，四种语言：Python、TypeScript、Rust、Julia。 一头是线性代数，另一头是自主 agent 集群。每个算法都先从最原始的数学手写出来。反向传播、 分词器、注意力、agent 循环——等 PyTorch 登场时，你已经知道它底层在做什么了。

每节课都跑同一个循环：读懂问题、推导数学、写代码、跑测试、留下产物。没有五分钟速成视频， 没有复制粘贴式部署，没有手把手喂饭。免费，开源，在你自己的笔记本上就能跑。

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

课程的结构

二十个阶段层层叠起来。数学是地基，agent 和生产部署是屋顶。下层的东西你已经会了，就尽管 往前跳；但别跳过去之后，又回头纳闷上层为什么塌了。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff'}}}%%
flowchart TB
  P0["阶段 0 · 配置与工具链"] --> P1["阶段 1 · 数学基础"]
  P1 --> P2["阶段 2 · 机器学习基础"]
  P2 --> P3["阶段 3 · 深度学习核心"]
  P3 --> P4["阶段 4 · 计算机视觉"]
  P3 --> P5["阶段 5 · NLP"]
  P3 --> P6["阶段 6 · 语音与音频"]
  P3 --> P9["阶段 9 · 强化学习"]
  P5 --> P7["阶段 7 · Transformer"]
  P7 --> P8["阶段 8 · 生成式 AI"]
  P7 --> P10["阶段 10 · 从零实现 LLM"]
  P10 --> P11["阶段 11 · LLM 工程"]
  P10 --> P12["阶段 12 · 多模态 AI"]
  P11 --> P13["阶段 13 · 工具与协议"]
  P13 --> P14["阶段 14 · Agent 工程"]
  P14 --> P15["阶段 15 · 自主系统"]
  P15 --> P16["阶段 16 · 多 agent 与集群"]
  P14 --> P17["阶段 17 · 基础设施与生产"]
  P15 --> P18["阶段 18 · 伦理、安全与对齐"]
  P16 --> P19["阶段 19 · 综合项目"]
  P17 --> P19
  P18 --> P19

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

一节课的样子

每节课都待在自己的文件夹里，整套课程结构统一：

phases/-/-/
├── code/      可运行的实现（Python、TypeScript、Rust、Julia）
├── docs/
│   └── zh.md  课程正文
└── outputs/   本节课产出的提示词、技能、agent 或 MCP server

每节课都走六个节拍。其中 Build It / Use It（动手构建 / 上手使用）的拆分是整节课的脊椎—— 你先从零实现算法，再用生产级的库把同样的事跑一遍。你之所以懂框架在做什么，是因为那个更小的 版本你自己写过。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff'}}}%%
flowchart LR
  M["主旨一句话核心理念"] --> Pr["问题背景具体的痛点"]
  Pr --> C["核心概念图解与直觉"]
  C --> B["动手构建纯数学，不用框架"]
  B --> U["实际使用同样的事用 PyTorch / sklearn 跑一遍"]
  U --> S["拿去用提示词 · 技能 · agent · MCP"]

快速开始

三种入门方式。挑一个。

方式 A —— 阅读。 在 aieng-zh.cn 上打开任意一节已完成的课程， 或展开 [目录](#contents) 里的某个阶段。无需配置，无需 clone。

方式 B —— clone 下来跑。

git clone https://github.com/fancyboi999/ai-engineering-from-scratch-zh.git
cd ai-engineering-from-scratch-zh
python phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py

**方式 C —— 测一测你的水平 (推荐)。** 聪明地跳级。在 Claude、Cursor、Codex、OpenClaw、Hermes，或任何装了本课程技能的 agent 里：

/find-your-level

十道题。把你的知识映射到一个起始阶段，生成一条带课时估算的个性化路径。每学完一个阶段：

/check-understanding 3        # 测验你对阶段 3 的掌握
ls phases/03-deep-learning-core/05-loss-functions/outputs/
# ├── prompt-loss-function-selector.md
# └── prompt-loss-debugger.md

前置要求

• 你会写代码（任何语言都行，会 Python 更好）。
• 你想搞懂 AI 到底是怎么运作的，而不只是调调 API。

内置 agent 技能（Claude、Cursor、Codex、OpenClaw、Hermes）

| 技能 | 作用 | |---|---| | [/find-your-level](.claude/skills/find-your-level/SKILL.md) | 十道题的定级测验。把你的知识映射到一个起始阶段，生成带课时估算的个性化路径。 | | [/check-understanding ](.claude/skills/check-understanding/SKILL.md) | 按阶段测验，八道题，附反馈和需要复习的具体课程。 |

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

每节课都有产出

别的课程结尾是一句 "恭喜，你学会了 X。" 这里每节课的结尾，是一件你能直接装上、 或粘进日常工作流的 可复用工具。

FIG001 · APROMPTS FIG001 · BSKILLS FIG001 · CAGENTS FIG001 · DMCP SERVERS

粘进任意 AI 助手，在某个细分任务上获得专家级帮助。 放进 Claude、Cursor、Codex、OpenClaw、Hermes，或任何能读 SKILL.md 的 agent。 作为自主 worker 部署——那个循环你在阶段 14 自己写过。 接入任意兼容 MCP 的客户端。在阶段 13 里从头到尾构建。

> 用 python3 scripts/install_skills.py 一次性全部安装。是真家伙，不是课后作业。 > 学完整套课程，你会攒下近 500 件产物——你是真懂它们，因为它们都是你亲手造的。

FIG_002 · 一个实例

阶段 14，第 1 课：agent 循环。约 120 行纯 Python，零依赖。

code/agent_loop.py   动手构建

def run(query, tools):
    history = [user(query)]
    for step in range(MAX_STEPS):
        msg = llm(history)
        if msg.tool_calls:
            for call in msg.tool_calls:
                result = tools[call.name](**call.args)
                history.append(tool_result(call.id, result))
            continue
        return msg.content
    raise StepLimitExceeded

outputs/skill-agent-loop.md   交付

---
name: agent-loop
description: ReAct-style loop for any tool list
phase: 14
lesson: 01
---

Implement a minimal agent loop that...

outputs/prompt-debug-agent.md

You are an agent debugger. Given the trace
of an agent run, identify the step where
the agent went wrong and explain why...

░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒░░░▒▒▒

课程目录

二十个阶段。点开任意阶段即可展开它的课程列表。

Phase 0: 配置与工具链 12 lessons

> 把环境准备好，迎接后面所有的内容。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [开发环境](phases/00-setup-and-tooling/01-dev-environment/) | Build | Python | | 02 | [Git 与协作](phases/00-setup-and-tooling/02-git-and-collaboration/) | Learn | — | | 03 | [GPU 配置与云端](phases/00-setup-and-tooling/03-gpu-setup-and-cloud/) | Build | Python | | 04 | [API 与密钥](phases/00-setup-and-tooling/04-apis-and-keys/) | Build | Python | | 05 | [Jupyter Notebook](phases/00-setup-and-tooling/05-jupyter-notebooks/) | Build | Python | | 06 | [Python 环境管理](phases/00-setup-and-tooling/06-python-environments/) | Build | Shell | | 07 | [面向 AI 的 Docker](phases/00-setup-and-tooling/07-docker-for-ai/) | Build | Docker | | 08 | [编辑器配置](phases/00-setup-and-tooling/08-editor-setup/) | Build | — | | 09 | [数据管理](phases/00-setup-and-tooling/09-data-management/) | Build | Python | | 10 | [终端与 Shell](phases/00-setup-and-tooling/10-terminal-and-shell/) | Learn | — | | 11 | [面向 AI 的 Linux](phases/00-setup-and-tooling/11-linux-for-ai/) | Learn | — | | 12 | [调试与性能分析](phases/00-setup-and-tooling/12-debugging-and-profiling/) | Build | Python |

Phase 1 — 数学基础  22 lessons  每个 AI 算法背后的直觉，用代码讲清楚。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [线性代数直觉](phases/01-math-foundations/01-linear-algebra-intuition/) | Learn | Python, Julia | | 02 | [向量、矩阵与运算](phases/01-math-foundations/02-vectors-matrices-operations/) | Build | Python, Julia | | 03 | [矩阵变换与特征值](phases/01-math-foundations/03-matrix-transformations/) | Build | Python, Julia | | 04 | [机器学习里的微积分：导数与梯度](phases/01-math-foundations/04-calculus-for-ml/) | Learn | Python | | 05 | [链式法则与自动微分](phases/01-math-foundations/05-chain-rule-and-autodiff/) | Build | Python | | 06 | [概率与分布](phases/01-math-foundations/06-probability-and-distributions/) | Learn | Python | | 07 | [贝叶斯定理与统计思维](phases/01-math-foundations/07-bayes-theorem/) | Build | Python | | 08 | [优化：梯度下降家族](phases/01-math-foundations/08-optimization/) | Build | Python | | 09 | [信息论：熵与 KL 散度](phases/01-math-foundations/09-information-theory/) | Learn | Python | | 10 | [降维：PCA、t-SNE、UMAP](phases/01-math-foundations/10-dimensionality-reduction/) | Build | Python | | 11 | [奇异值分解](phases/01-math-foundations/11-singular-value-decomposition/) | Build | Python, Julia | | 12 | [张量运算](phases/01-math-foundations/12-tensor-operations/) | Build | Python | | 13 | [数值稳定性](phases/01-math-foundations/13-numerical-stability/) | Build | Python | | 14 | [范数与距离](phases/01-math-foundations/14-norms-and-distances/) | Build | Python | | 15 | [机器学习里的统计学](phases/01-math-foundations/15-statistics-for-ml/) | Build | Python | | 16 | [采样方法](phases/01-math-foundations/16-sampling-methods/) | Build | Python | | 17 | [线性方程组](phases/01-math-foundations/17-linear-systems/) | Build | Python | | 18 | [凸优化](phases/01-math-foundations/18-convex-optimization/) | Build | Python | | 19 | [面向 AI 的复数](phases/01-math-foundations/19-complex-numbers/) | Learn | Python | | 20 | [傅里叶变换](phases/01-math-foundations/20-fourier-transform/) | Build | Python | | 21 | [机器学习里的图论](phases/01-math-foundations/21-graph-theory/) | Build | Python | | 22 | [随机过程](phases/01-math-foundations/22-stochastic-processes/) | Learn | Python |

Phase 2 — 机器学习基础  18 lessons  经典机器学习——至今仍是大多数生产 AI 的骨架。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [什么是机器学习](phases/02-ml-fundamentals/01-what-is-machine-learning/) | Learn | Python | | 02 | [从零实现线性回归](phases/02-ml-fundamentals/02-linear-regression/) | Build | Python | | 03 | [逻辑回归与分类](phases/02-ml-fundamentals/03-logistic-regression/) | Build | Python | | 04 | [决策树与随机森林](phases/02-ml-fundamentals/04-decision-trees/) | Build | Python | | 05 | [支持向量机](phases/02-ml-fundamentals/05-support-vector-machines/) | Build | Python | | 06 | [KNN 与距离度量](phases/02-ml-fundamentals/06-knn-and-distances/) | Build | Python | | 07 | [无监督学习：K-Means、DBSCAN](phases/02-ml-fundamentals/07-unsupervised-learning/) | Build | Python | | 08 | [特征工程与特征选择](phases/02-ml-fundamentals/08-feature-engineering/) | Build | Python | | 09 | [模型评估：指标与交叉验证](phases/02-ml-fundamentals/09-model-evaluation/) | Build | Python | | 10 | [偏差、方差与学习曲线](phases/02-ml-fundamentals/10-bias-variance/) | Learn | Python | | 11 | [集成方法：Boosting、Bagging、Stacking](phases/02-ml-fundamentals/11-ensemble-methods/) | Build | Python | | 12 | [超参数调优](phases/02-ml-fundamentals/12-hyperparameter-tuning/) | Build | Python | | 13 | [机器学习流水线与实验追踪](phases/02-ml-fundamentals/13-ml-pipelines/) | Build | Python | | 14 | [朴素贝叶斯](phases/02-ml-fundamentals/14-naive-bayes/) | Build | Python | | 15 | [时间序列基础](phases/02-ml-fundamentals/15-time-series/) | Build | Python | | 16 | [异常检测](phases/02-ml-fundamentals/16-anomaly-detection/) | Build | Python | | 17 | [处理不平衡数据](phases/02-ml-fundamentals/17-imbalanced-data/) | Build | Python | | 18 | [特征选择](phases/02-ml-fundamentals/18-feature-selection/) | Build | Python |

Phase 3 — 深度学习核心  13 lessons  从第一性原理出发的神经网络。先自己造一个，再碰框架。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [感知机：一切的起点](phases/03-deep-learning-core/01-the-perceptron/) | Build | Python | | 02 | [多层网络与前向传播](phases/03-deep-learning-core/02-multi-layer-networks/) | Build | Python | | 03 | [从零实现反向传播](phases/03-deep-learning-core/03-backpropagation/) | Build | Python | | 04 | [激活函数：ReLU、Sigmoid、GELU 及其原因](phases/03-deep-learning-core/04-activation-functions/) | Build | Python | | 05 | [损失函数：MSE、交叉熵、对比损失](phases/03-deep-learning-core/05-loss-functions/) | Build | Python | | 06 | [优化器：SGD、Momentum、Adam、AdamW](phases/03-deep-learning-core/06-optimizers/) | Build | Python | | 07 | [正则化：Dropout、权重衰减、BatchNorm](phases/03-deep-learning-core/07-regularization/) | Build | Python | | 08 | [权重初始化与训练稳定性](phases/03-deep-learning-core/08-weight-initialization/) | Build | Python | | 09 | [学习率调度与 Warmup](phases/03-deep-learning-core/09-learning-rate-schedules/) | Build | Python | | 10 | [造一个你自己的迷你框架](phases/03-deep-learning-core/10-mini-framework/) | Build | Python | | 11 | [PyTorch 入门](phases/03-deep-learning-core/11-intro-to-pytorch/) | Build | Python | | 12 | [JAX 入门](phases/03-deep-learning-core/12-intro-to-jax/) | Build | Python | | 13 | [调试神经网络](phases/03-deep-learning-core/13-debugging-neural-networks/) | Build | Python |

Phase 4 — 计算机视觉  28 lessons  从像素到理解——图像、视频、3D、VLM 和世界模型。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [图像基础：像素、通道、色彩空间](phases/04-computer-vision/01-image-fundamentals/) | Learn | Python | | 02 | [从零实现卷积](phases/04-computer-vision/02-convolutions-from-scratch/) | Build | Python | | 03 | [CNN：从 LeNet 到 ResNet](phases/04-computer-vision/03-cnns-lenet-to-resnet/) | Build | Python | | 04 | [图像分类](phases/04-computer-vision/04-image-classification/) | Build | Python | | 05 | [迁移学习与微调](phases/04-computer-vision/05-transfer-learning/) | Build | Python | | 06 | [目标检测——从零实现 YOLO](phases/04-computer-vision/06-object-detection-yolo/) | Build | Python | | 07 | [语义分割——U-Net](phases/04-computer-vision/07-semantic-segmentation-unet/) | Build | Python | | 08 | [实例分割——Mask R-CNN](phases/04-computer-vision/08-instance-segmentation-mask-rcnn/) | Build | Python | | 09 | [图像生成——GAN](phases/04-computer-vision/09-image-generation-gans/) | Build | Python | | 10 | [图像生成——扩散模型](phases/04-computer-vision/10-image-generation-diffusion/) | Build | Python | | 11 | [Stable Diffusion——架构与微调](phases/04-computer-vision/11-stable-diffusion/) | Build | Python | | 12 | [视频理解——时序建模](phases/04-computer-vision/12-video-understanding/) | Build | Python | | 13 | [3D 视觉：点云、NeRF](phases/04-computer-vision/13-3d-vision-nerf/) | Build | Python | | 14 | [Vision Transformer（ViT）](phases/04-computer-vision/14-vision-transformers/) | Build | Python | | 15 | [实时视觉：边缘部署](phases/04-computer-vision/15-real-time-edge/) | Build | Python | | 16 | [构建一条完整的视觉流水线](phases/04-computer-vision/16-vision-pipeline-capstone/) | Build | Python | | 17 | [自监督视觉——SimCLR、DINO、MAE](phases/04-computer-vision/17-self-supervised-vision/) | Build | Python | | 18 | [开放词表视觉——CLIP](phases/04-computer-vision/18-open-vocab-clip/) | Build | Python | | 19 | [OCR 与文档理解](phases/04-computer-vision/19-ocr-document-understanding/) | Build | Python | | 20 | [图像检索与度量学习](phases/04-computer-vision/20-image-retrieval-metric/) | Build | Python | | 21 | [关键点检测与姿态估计](phases/04-computer-vision/21-keypoint-pose/) | Build | Python | | 22 | [从零实现 3D 高斯泼溅](phases/04-computer-vision/22-3d-gaussian-splatting/) | Build | Python | | 23 | [Diffusion Transformer 与 Rectified Flow](phases/04-computer-vision/23-diffusion-transformers-rectified-flow/) | Build | Python | | 24 | [SAM 3 与开放词表分割](phases/04-computer-vision/24-sam3-open-vocab-segmentation/) | Build | Python | | 25 | [视觉语言模型（ViT-MLP-LLM）](phases/04-computer-vision/25-vision-language-models/) | Build | Python | | 26 | [单目深度与几何估计](phases/04-computer-vision/26-monocular-depth/) | Build | Python | | 27 | [多目标跟踪与视频记忆](phases/04-computer-vision/27-multi-object-tracking/) | Build | Python | | 28 | [世界模型与视频扩散](phases/04-computer-vision/28-world-models-video-diffusion/) | Build | Python |

Phase 5 — NLP：从基础到进阶  29 lessons  语言是通往智能的接口。

| # | Lesson | Type | Lang | |:---:|--------|:----:|------| | 01 | [文本处理：分词、词干提取、词形还原](phases/05-nlp-foundations-to-advanced/01-text-processing/) | Build | Python | | 02 | [词袋、TF-IDF 与文本表示](phases/05-nlp-foundations-to-advanced/02-bag-of-words-tfidf/) | Build | Python | | 03 | [词嵌入：从零实现 Word2Vec](phases/05-nlp-foundations-to-advanced/03-word-embeddings-word2vec/) | Build | Python | | 04 | [GloVe、FastText 与子词嵌入](phases/05-nlp-foundations-to-advanced/04-glove-fasttext-subword/) | Build | Python | | 05 | [情感分析](phases/05-nlp-foundations-to-advanced/05-sentiment-analysis/) | Build | Python | | 06 | [命名实体识别（NER）](phases/05-nlp-foundations-to-advanced/06-named-en

…

Source & license

This open-source MCP server is cataloged on AgentStack and links to its original source — we do not rehost the code.

• Author: fancyboi999
• Source: fancyboi999/ai-engineering-from-scratch-zh
• License: MIT
• Homepage: https://aieng-zh.cn

Install and usage instructions live in the source repository linked above.