前馈神经网络

定义

---

前馈神经网络

前馈神经网络是数据单向向前流动的神经网络：数据 → 输入层 → 隐藏层 → 输出层。

结构

---

前馈神经网络的经典结构：

• 输入层 (Input Layer)：接收原始特征数据。
• 隐藏层 (Hidden Layer)：可以有一层或多层，负责提取特征和特征组合。隐藏层的输出称为激活值。
• 输出层 (Output Layer)：给出最终预测结果。
  其中每一层由多个神经元组成，层与层之间是全连接的。

原理

---

前向传播

第$l$层第$i$个神经元的激活值：${\alpha }_i^j=\sigma \left({\sum }_{i=1}^k{w}_{jk}^i{a}_k^{l-1}+b_j^i\right)$，$k$为输入的数量。
逐层计算求出最后的预测值$\hat{y}$。

反向传播