【NLP251】NLP ＲＮＮ系列网络

NLP251 系列主要记录从NLP基础网络结构到知识图谱的学习

１.原理及网络结构

１.１ＲＮＮ

在Yoshua Bengio论文中( http://proceedings.mlr.press/v28/pascanu13.pdf )证明了梯度求导的一部分环节是一个指数模型，当n<1时,就会出现“梯度消失"问题,而当η> 1时,“梯度爆炸”也就产生了。

１.２双向－ＲＮＮ

两个方向ＲＮＮ的区别在于输入数据的不同，反向ＲＮＮ数据是对正向ＲＮＮ数据的反转

１.３深度双向－ＲＮＮ

１.４ＬＳＴＭ

LSTM（长短期记忆网络）相较于RNN（循环神经网络）的主要优势如下：

1. 解决长期依赖问题

RNN在处理长序列数据时，容易出现梯度消失或梯度爆炸的问题，导致难以捕捉到序列中相隔较远的依赖关系。
LSTM通过引入“记忆单元”（Cell State）和门控机制（遗忘门、输入门、输出门），能够有效地学习和保持长期依赖关系。遗忘门可以有选择性地丢弃不再重要的信息，输入门可以添加新的重要信息，输出门则控制信息的输出，从而确保信息在长序列中能够稳定传递。

2. 缓解梯度消失问题

RNN在反向传播时，梯度可能会随着序列长度增加而迅速衰减或增大，导致训练困难。
LSTM通过门控机制，使得梯度可以直接通过记忆单元流动，减少了梯度在传播过程中的衰减，从而缓解了梯度消失问题。

LSTM 的关键在于其所特有的“细胞状态”，这一状态犹如一条贯穿始终的传送带。它在整个链条上顺畅运行，只有一些少量的线性交互。信息在上面流传保持不变很容易。

LSTM怎么控制“细胞状态”？

LSTM（长短期记忆网络）借助所谓的“门”结构，能够有选择地去除或增加“细胞状态”中存储的信息。这一过程包含一个sigmoid神经网络层以及一个逐元素的乘法操作。sigmoid层生成一个介于0到1之间的概率值，决定每个成分可以通过的量，其中0代表“完全阻止”，而1则表示“完全允许”。在LSTM中，存在三个主要的“门”结构，共同调控“细胞状态”的更新机制。

第一个“门”——“忘记门”或“遗忘门”，决定从过去的“细胞状态”中 丢弃什么信息；比如在语言模型中，细胞状态可能包含了性别信息(“他” 或者“她”)，当我们看到新的代名词的时候，可以考虑忘记旧的数据。

第二个“门”，即“信息增加门”，负责决定哪些新信息可以添加到“细胞状态”中。 Sigmoid层决定什么值需要更新； Tanh层创建一个新的候选向量Ct；主要是为了状态更新做准备

经过第一个和第二个“门”后，可以确定传递信息的删除和增加，进而执行“细胞状态”的更新操作。具体来说，首先将Ct-1更新为Ct，接着把旧状态与ft相乘，从而剔除那些确凿无误无需保留的信息。随后，加入新的候选值it *Ct，最终获得更新后的“细胞状态”。

第三个“门”即“输出门”，它基于“细胞状态”生成输出。首先，通过sigmoid层来决定细胞状态的哪一部分会被用于输出。然后，利用tanh函数处理细胞状态，得到一个介于-1到1之间的数值。最后，将这个数值与sigmoid门的输出相乘，从而确定最终输出的内容。

LSTM变种

变种1 增加“peephole connections”层，让门层也接受细胞状态的输入

变种2 通过耦合忘记门和更新输入门(第一个和第二个门)；也就是不再单独的考虑忘记什么、增加什么信息，而是一起进行考虑

１.５GRU

Gated Recurrent Unit (GRU) 是在2014年被提出的，它将LSTM中的忘记门和输出门合并为一个单一的更新门，同时还将数据单元状态和隐藏状态（即细胞状态和输出状态）进行了合并。这种结构相较于LSTM更为简单。

总结：ＲＮＮ与ＧＲＵ细胞状态信息与输出信息相同，而ＧＲＵ细胞状态信息可能与输出信息不同。

２.API接口实现

2.1ＲＮＮ　ＡＰＩ调用讲解

ＲＮＮ返回值为两部分，第一部分是蓝框所示所有时刻最后一个隐藏层的输出特征向量；

第二分是红色圈所示最后时刻所有一个隐藏层的输出特征向量；

我们可以通过rnn.named_parameters()来查看详细的中间过程状态shape

rnn = nn.RNN(4, 8, num_layers=2, batch_first=True, bidirectional=True)
for name, param in rnn.named_parameters():print(name, param.shape)

ＲＮＮ无法保持长时依赖（代码验证）：

2.2 LSTM　ＡＰＩ调用讲解

从网络结构图和代码中不难发现LSTM中ht与output输出相同

中间过程中的32从何而来？

weight_ih_l0 torch.Size([32, 4])
weight_hh_l0 torch.Size([32, 8])
bias_ih_l0 torch.Size([32])
bias_hh_l0 torch.Size([32])

附LSTM代码：

lstm = nn.LSTM(input_size=4,  # 每个样本每个时刻输入的向量维度大小hidden_size=16,  # 每个样本每个时刻输出的向量维度大小num_layers=1,  # RNN的层数，默认为1bias=True,  # 内部的线性转换是否添加bias，True表示添加，默认为Truebatch_first=True,  # 输入&输出数据的第一维是不是批次样本，True表示是，也就是输出的格式为:[N,T,E]; 默认为False，表示shape格式为[T,N,E]dropout=0,  # 针对输出的特征向量中，部分值重新为0的概率/可能性bidirectional=False,  # 是否构建双向的RNN，True表示构建，False表示不构建反向RNN；默认为Falseproj_size=0  # 是否针对每个时刻输出的hi进行一个线性转换，0表示不进行转换；>0的值表示会将hi映射(全连接)为proj_size大小的向量
)x = torch.randn(2, 3, 4)  # 2个样本，每个样本3个token，每个token对应的向量维度大小为4
# batch_first = True
# output: 所有样本、所有时刻对应的输出特征向量值，shape为: [N,T,?]
# ? = hidden_size * (2 if bidirectional else 1) if proj_size <=0 else proj_size
# ct: 最后一个时刻的状态信息/细胞信息, shape为: [1 * num_layers * (2 if bidirectional else 1), N, hidden_size]
# ht: 最后一个时刻的状态信息/细胞信息, shape为: [1 * num_layers * (2 if bidirectional else 1), N, hidden_size]
output, (ht, ct) = lstm(x)
print(type(output), output.shape)
print(type(ht), ht.shape)
print(type(ct), ct.shape)print(output[:, -1, :])
print(ht)
print(ct)rnn = nn.LSTM(4, 8, batch_first=True, bidirectional=False, num_layers=1)
for name, param in rnn.named_parameters():print(name, param.shape)

2.3 GRU　ＡＰＩ调用讲解

lstm = nn.GRU(input_size=4,  # 每个样本每个时刻输入的向量维度大小hidden_size=16,  # 每个样本每个时刻输出的向量维度大小num_layers=1,  # RNN的层数，默认为1bias=True,  # 内部的线性转换是否添加bias，True表示添加，默认为Truebatch_first=True,  # 输入&输出数据的第一维是不是批次样本，True表示是，也就是输出的格式为:[N,T,E]; 默认为False，表示shape格式为[T,N,E]dropout=0,  # 针对输出的特征向量中，部分值重新为0的概率/可能性bidirectional=False  # 是否构建双向的RNN，True表示构建，False表示不构建反向RNN；默认为False
)# 2个样本，每个样本3个token，每个token对应的向量维度大小为4
x = torch.randn(2, 3, 4)
# batch_first = True
# output: 所有样本、所有时刻对应的输出特征向量值，shape为: [N,T,?]
# **** ? = hidden_size * (2 if bidirectional else 1)
# : 最后一个时刻的状态信息/细胞信息, shape为: [1 * num_layers * (2 if bidirectional else 1), N, hidden_size]
# ct/ht: 最后一个时刻的状态信息/细胞信息, shape为: [1 * num_layers * (2 if bidirectional else 1), N, hidden_size]
output, ct = lstm(x)
print(type(output), output.shape)
print(type(ct), ct.shape)rnn = nn.GRU(4, 8, batch_first=True, bidirectional=False, num_layers=1)
for name, param in rnn.named_parameters():print(name, param.shape)