AI 2026.05.05 · 13 min
Advanced Mechanistic Interpretability Deep Dive · 2
Transformer의 내부는 어떻게 작동하는가 — Mechanistic Interpretability 의 수학적 기초
Residual stream의 선형 구조부터 QK·OV 분해, Head Composition, Linear Representation Hypothesis까지 — Transformer 내부 메커니즘을 추적한다.