AI 2026.05.03 · 9 min
Advanced Rnn Lstm Deep Dive · 3
RNN Gradient 소멸은 왜 피할 수 없었나
Pascanu 2013의 spectral radius 조건부터 saturation 문제, gradient clipping, orthogonal/identity 초기화까지 — RNN 학습 불안정성의 근본 원인과 그 대응의 계보를 추적한다.
tag
#spectral-radius
총 1개의 글