定义
循环神经网络
循环神经网络是一种带有记忆能力,能够处理变长输入,并让当前输入依赖于历史信息的神经网络。
前馈网络的局限
全连接神经网络和卷积神经网络在图像、分类任务上表现极佳,但在处理时序序列数据(如自然语言、语音、股票价格)时有两个核心问题:
- 输入长度不固定:句子长度不固定,前馈网络难以统一建模。
- 无记忆:传统神经网络的各个输入样本直接相互独立,无法通过上下文解决问题。
循环神经网络
循环神经网络是一种带有记忆能力,能够处理变长输入,并让当前输入依赖于历史信息的神经网络。
全连接神经网络和卷积神经网络在图像、分类任务上表现极佳,但在处理时序序列数据(如自然语言、语音、股票价格)时有两个核心问题: