Ch03 AI数学修订于 二〇二六年七月六日
3.8 2026年:你需要多少数学
前面几节铺开了 AI 涉及的数学领域。但不同角色的”够用线”完全不同。这一节用一张表对齐你的目标和所需数学深度,帮你避免”学太多”或”学太少”。
2026 年的 AI 生态下,不同角色对数学的需求差异巨大:
| 角色 | 数学需求 | 典型场景 | ||
|---|---|---|---|---|
| API调用者 | 几乎为零 | 用 GPT API 做文本分类、写个 prompt 调 Claude 生成文案。你不需要知道 Transformer 怎么算梯度,就像开车不需要知道内燃机怎么工作。 | ||
| 应用开发者 | 基础概念 | 搭 RAG 系统、做 Agent 编排、选 Embedding 模型。需要理解”向量相似度”但不需要手算余弦距离;需要理解”Temperature 控制随机性”但不需要推导 Softmax 的偏导数。这是[[3.7 零基础数学学习路径 | 3.7 节]]中第一阶段的目标。 | |
| 微调工程师 | 中等的数学直觉 | 用 LoRA 微调模型、调学习率和 batch size。需要理解”梯度下降在做什么”和”学习率太大/太小的后果”,但不需要手写 autograd。PyTorch 和 HuggingFace 替你做了所有数学重活。[[3.3 微积分-理解优化 | 3.3 节]]和[[3.4 优化理论 - 让 AI 找到最优解 | 3.4 节]]覆盖了这些。 |
| 模型研究员 | 扎实的数学功底 | 设计新架构、改进注意力机制、推导损失函数。需要读懂论文里的数学推导,能在白板上写出前向传播和反向传播的矩阵形式。本章的[[3.1 线性代数-向量和矩阵 | 3.1]]到[[3.5 信息论基础 | 3.5]]全部需要。 |
| 推理优化工程师 | 深入的数值计算 | 做量化(INT8/INT4)、剪枝、FlashAttention。需要理解浮点数精度、矩阵分块计算、GPU 内存层次。这超出了本章范围,参见信息熵 (Information Entropy) | 相关概念笔记中的数值计算部分。 |
这张表怎么用:找到你当前或目标角色所在的行,往左看”数学需求”列——那就是你应该达到的水平。如果你是应用开发者但想转微调工程师,就沿着表中的梯度往上走。本章各节也标注了在学习路径中对应的阶段,方便你跳跃阅读。
2026 年的现实:框架(PyTorch、JAX)自动处理了 90% 的数学。你不需要证定理,不需要手算梯度,不需要推导收敛性。但你需要数学直觉——看到一个现象时,能大致猜到数学上发生了什么。比如 loss 震荡,你能想到”学习率可能太大”;模型输出太确定,你能想到”Temperature 太低”。
← 上一节:3.7 零基础数学学习路径 | 下一节:章首 →