LSTM 是什麼:三個閘門怎麼運作
Machine Learning

LSTM 是什麼:三個閘門怎麼運作

LSTM 用遺忘門、輸入門、輸出門三道閘控制 cell state,讓資訊靠加法而不是連乘往前傳,避開一般 RNN 的梯度消失。這篇把當年只列了名字的閘門部分補完,並交代它在 Transformer 之後的位置。

2017-06-29 · 4 min read · 1561 words · KbWen · ZH