Ch06 神经网络基础修订于 二〇二六年七月二日

6.12 2026年:从零手写神经网络还有意义吗

今天的AI生态和2015年已经完全不同。一个现实的问题摆在每个学习者面前:该投入多少精力学”从零搭建神经网络”?

6.12.1 三种需求层次

层级一:调用API

你只需要知道怎么发HTTP请求,把prompt送进去,把结果拿回来。不需要理解模型内部结构。适合做产品开发、业务集成的工程师——你的价值在产品和业务逻辑,不在模型本身。

层级二:微调预训练模型

你需要理解模型结构(至少知道哪些层可以冻住、哪些需要训练),理解损失函数、学习率、batch size等概念。但不需要从头设计网络架构。LoRA、QLoRA等技术的出现已经让微调变得非常标准化。适合需要定制模型行为的AI工程师——你的价值在数据和任务适配。

层级三:从零训练

你需要深刻理解网络架构设计、权重初始化、激活函数选择、优化器配置、分布式训练、混合精度、梯度累积等全套技术。适合做前沿模型研发的研究员和工程师——你的价值在突破技术边界。

6.12.2 三种场景对比

维度调用API微调从零训练
所需算力一台笔记本1-8张GPU数百到数千张GPU
所需数据零训练数据几百到几万条标注TB到PB级
训练成本$0-100/月(API费)$100-5000$10万-1亿美元
需要理解神经网络的深度了解概念即可理解训练流程精通全部细节
典型工程师全栈/产品工程师ML工程师/AI应用工程师研究科学家/算法研究员
在2026年AI从业人员中的占比~70%~25%~5%

6.12.3 理解原理的价值

即使你的工作只需要调用API,理解神经网络原理仍然有三大价值:

1. 调试:当模型输出不对劲时,知道”可能是temperature太高”还是”prompt需要调整”还是”这个任务本身不适合当前模型”,能让你少走很多弯路。不理解原理的工程师遇到问题只会反复试prompt,理解原理的工程师能定位问题根因。

2. 创新:所有”新架构”都是旧组件的新组合。MoE(Mixture of Experts)就是多个子网络的稀疏激活,Flash Attention就是利用GPU内存层次优化注意力计算。不理解基础组件,你无法判断一个新技术是真的突破还是炒作。

3. 面试:如果你的目标是加入AI公司做核心研发,神经网络基础是面试必考题。手写反向传播、推导梯度下降、解释权重初始化的选择——这些不是”八股文”,而是面试官判断你是否真正理解模型行为的试金石。

Ch11会带你从API调用走向微调,Ch09会带你从黑盒走向内部结构。无论你最终停在哪个层级,理解本章的内容都是地基。


← 上一节:6.11 学习率调度的艺术 | 下一节:章首 →

关联7

知识图谱

局部图谱 · 点节点跳转