Ch03 AI数学修订于 二〇二六年七月六日

3.8 2026年:你需要多少数学

前面几节铺开了 AI 涉及的数学领域。但不同角色的”够用线”完全不同。这一节用一张表对齐你的目标和所需数学深度,帮你避免”学太多”或”学太少”。

2026 年的 AI 生态下,不同角色对数学的需求差异巨大:

角色数学需求典型场景
API调用者几乎为零用 GPT API 做文本分类、写个 prompt 调 Claude 生成文案。你不需要知道 Transformer 怎么算梯度,就像开车不需要知道内燃机怎么工作。
应用开发者基础概念搭 RAG 系统、做 Agent 编排、选 Embedding 模型。需要理解”向量相似度”但不需要手算余弦距离;需要理解”Temperature 控制随机性”但不需要推导 Softmax 的偏导数。这是[[3.7 零基础数学学习路径3.7 节]]中第一阶段的目标。
微调工程师中等的数学直觉用 LoRA 微调模型、调学习率和 batch size。需要理解”梯度下降在做什么”和”学习率太大/太小的后果”,但不需要手写 autograd。PyTorch 和 HuggingFace 替你做了所有数学重活。[[3.3 微积分-理解优化3.3 节]]和[[3.4 优化理论 - 让 AI 找到最优解3.4 节]]覆盖了这些。
模型研究员扎实的数学功底设计新架构、改进注意力机制、推导损失函数。需要读懂论文里的数学推导,能在白板上写出前向传播和反向传播的矩阵形式。本章的[[3.1 线性代数-向量和矩阵3.1]]到[[3.5 信息论基础3.5]]全部需要。
推理优化工程师深入的数值计算做量化(INT8/INT4)、剪枝、FlashAttention。需要理解浮点数精度、矩阵分块计算、GPU 内存层次。这超出了本章范围,参见信息熵 (Information Entropy)相关概念笔记中的数值计算部分。

这张表怎么用:找到你当前或目标角色所在的行,往左看”数学需求”列——那就是你应该达到的水平。如果你是应用开发者但想转微调工程师,就沿着表中的梯度往上走。本章各节也标注了在学习路径中对应的阶段,方便你跳跃阅读。

2026 年的现实:框架(PyTorch、JAX)自动处理了 90% 的数学。你不需要证定理,不需要手算梯度,不需要推导收敛性。但你需要数学直觉——看到一个现象时,能大致猜到数学上发生了什么。比如 loss 震荡,你能想到”学习率可能太大”;模型输出太确定,你能想到”Temperature 太低”。


← 上一节:3.7 零基础数学学习路径 | 下一节:章首 →

关联9

知识图谱

局部图谱 · 点节点跳转