什么是反向传播算法？

反向传播定义了整个过程，包括梯度的计算及其在随机梯度下降中的需求。从技术上讲，反向传播用于计算网络关于网络可修改权重的误差梯度。

反向传播的特点是迭代、递归和有效的方法，通过它计算更新的权重以增加网络，直到它无法实现正在训练的服务。反向传播需要在网络设计时知道的激活服务的衍生物。

反向传播广泛用于神经网络训练并计算网络权重的损失函数。它使用多层神经网络服务并发现输入输出映射的内部描述。

它是一种标准的人工网络训练形式，支持计算网络中所有权重的梯度损失函数。算法" title="反向传播算法">反向传播算法用于通过链式法则方法更有效地训练神经网络。

该梯度用于一个简单的随机梯度下降算法，以找到最小化误差的权重。错误从输出节点向后传播到内部节点。

反向传播的训练算法涉及四个阶段，如下所示 -

权重初始化- 分配了一些小的随机值。
前馈- 每个单元 X 接收输入信号并将该信号传输到每个隐藏单元 Z ₁、 Z ₂、... Z _n。每个隐藏单元计算激活函数并将其信号 Z ₁发送到每个输出单元。输出单元计算激活函数以形成给定输入模式的响应。
误差的反向传播- 每个输出单元将激活 Y _k与目标值 T _k进行比较，以确定该单元的相关误差。它基于误差，计算因子$\delta$_k (K = 1, ... . m)，并用于将输出单元Y _k处的误差分配回前一层的所有单元。类似地，为每个隐藏单元 Z _j比较因子 $\delta$_j (j = 1, ... . p) 。
它可以更新权重和偏差。