卷积神经网络逐层手算全过程

- 文档演示一个输入6×6、卷积3×3、ReLU、MaxPool、Flatten、全连接4→3、Softmax、交叉熵的CNN完整训练过程。 - 标签为第1类，初始预测第3类概率最高，学习率为0.1，交叉熵损失为1.1803。 - 前向得到logits [0.85, 0.2, 1.4]、概率 [0.3072, 0.1604, 0.5324]，并保存ReLU掩码与MaxPool argmax。 - 反向从dz = p − y开始，计算全连接、池化路由、ReLU掩码、卷积权重、偏置和输入梯度。 - MaxPool使16个卷积输出中只有4个拿到梯度，体现ReLU死区与池化路由造成的梯度稀疏。 - SGD更新卷积核、偏置和全连接参数后，正确类概率升至0.9412，损失降至0.0606。 - 学习率从0.05到0.5时，更新后正确类概率提高、损失降低。 - 数值微分与反向传播梯度在多个参数上吻合到1e−6，验证前向、反向和链式法则正确。 - 文中列出公式清单与易错点：形状计算、卷积视角核翻转、梯度稀疏，并提到调大batch或改用平均池化、LeakyReLU。