Ch06 神经网络基础修订于 二〇二六年七月二日
6.2 层：感知机的堆叠
神经网络是分层的。每一层有很多个神经元（感知机），前一层的输出是后一层的输入。
输入层（接收数据）-> 隐藏层（做计算）-> 输出层（给结果）。
一个词向量（768 个数字）进入 Transformer（一种用自注意力取代逐字阅读的神经网络架构——它让每个词同时看到句子里所有其他词，并行计算而不是串行。Ch01 的年表里提过它的诞生年份，Ch09 会逐层拆解它）的第一层，经过 768×3072 的矩阵乘法，变成 3072 个数字。再经过 3072×768 的矩阵乘法，变回 768 个数字。这就是一层。Transformer 堆了 32-96 层。
graph TD
subgraph 输入层
I1[x1]
I2[x2]
I3[x3]
end
subgraph 隐藏层1
H11[h1]
H12[h2]
H13[h3]
H14[h4]
end
subgraph 隐藏层2
H21[h1]
H22[h2]
H23[h3]
end
subgraph 输出层
O1[y1]
O2[y2]
end
I1 --> H11
I1 --> H12
I2 --> H11
I2 --> H12
I3 --> H11
I3 --> H12
H11 --> H21
H12 --> H21
H12 --> H22
H13 --> H22
H14 --> H23
H21 --> O1
H22 --> O1
H23 --> O2← 上一节：6.1 感知机：神经网络的原子 ｜ 下一节：6.3 神经网络为什么有效 →