Skip to content
9 / 20

Чем LSTM отличается от GRU и когда какой выбирать?

LSTM имеет три gate-а (forget, input, output) и отдельную cell state C_t, которая течёт через сеть с минимальным умножением. GRU объединяет forget+input в один update-gate и сливает cell state со скрытым — параметров на ~25% меньше, обучается быстрее. По качеству на большинстве задач сопоставимы; LSTM чуть точнее на длинных последовательностях, GRU — быстрее и стабильнее на малых данных.

Чем LSTM отличается от GRU и когда какой выбирать? | JScriptiser