什么是lstm,bilstm

lstm:是rnn的一种,针对有序的数据,有对数据信息长短记忆的功能
bilstm:是前向lstm和后项lstm的组合

为什么要lstm, bilstm

lstm: 其可以更好的捕获较长距离的依赖关系,通过训练过程可以学到记忆哪些信息和遗忘哪些信息; 举个例子,“我不觉得他好”,“不”字是对“好”的否定,既该句子的情感分析为贬义。
bilstm: lstm建模存在一个问题,无法编码从后向前的信息,而bilstm可以;举个例子,“这个餐厅脏的不行,没有隔壁好”,“不行”是修饰“脏”的程度的,只有bilstm模型才能更好的捕获双向语义。

lstm原理

1937724-20200704082356178-718702339.png

详细计算过程

1937724-20200704101458229-502379126.png

1937724-20200704101527431-204866411.png

1937724-20200704101724022-1197848212.png

1937724-20200704101753563-1059343322.png

Bilstm原理

1937724-20200704101932361-911635371.png

1937724-20200704102004545-1203613036.png

标签: lstm, bilstm

添加新评论