门 IX · 机器学习PW-0012 · r1
反向传播Backpropagation
用链式法则从输出层向输入层逐层计算误差梯度,使多层网络可以被高效训练。

叶脉 — 叶片每一处细脉的养分都沿脉络层层汇回主脉与叶柄,越细的脉承担的份额越小。反向传播也把输出端的误差沿网络逐层送回,每一个权重按自己的贡献分担一份。
反向传播是计算损失函数对网络每个参数梯度的高效算法。它先前向计算并缓存每一层的输出,再从输出层开始,用链式法则把误差一层层传回去。
Backpropagation computes the gradient of the loss with respect to every parameter efficiently. It runs a forward pass and caches each layer's output, then starts at the output layer and passes the error back layer by layer with the chain rule.

