本文重点
前面我们学习了卷积神经网络CNN,以及如何使用pytorch搭建卷积神经网络CNN,本文我们学习如何使用循环神经网络RNN
文本分类的方法
比如我们现在需要搭建模型完成一个分类任务,现在有一个文本为:
I hate this boring movie
我们可以搭建下面的模型完成分类任务:
对每一个单词向量化,然后输入到全连接的神经网络中,也就是说使用全连接神经网络完成每一个词的特征提取,然后合起来完成最终的分类任务。
问题:
但是这样的模型会有一些问题,一句话中有几个词就会有几个参数w和b,这样的参数太多了,然后这个模型不能考虑词与词之间的联系,缺乏之间联系的语境信息。
问题解决
针对参数w和b过多的问题,我们可以使用参数共享的方式,就是说我们将模型变成下面的形式: