AI 2026.05.03 · 11 min
Advanced Rnn Lstm Deep Dive · 6
Attention은 어떻게 Seq2Seq의 병목을 뚫었는가
Sutskever 2014의 고정 벡터 압축 문제부터 Bahdanau·Luong 어텐션의 설계 결정, 커버리지 메커니즘과 Pointer Network까지, 시퀀스 변환 아키텍처의 진화를 추적한다.
tag
#seq2seq
총 1개의 글
총 1개의 글
Sutskever 2014의 고정 벡터 압축 문제부터 Bahdanau·Luong 어텐션의 설계 결정, 커버리지 메커니즘과 Pointer Network까지, 시퀀스 변환 아키텍처의 진화를 추적한다.