AI 2026.05.03 · 10 min
Advanced Nlp Foundations Deep Dive · 3
Word2Vec은 왜 작동하는가 — PMI의 다른 이름
Skip-gram과 CBOW의 설계 차이부터 Hierarchical Softmax·Negative Sampling의 수학적 유도, 그리고 SGNS의 optimal solution이 shifted PMI matrix임을 증명한 Levy & Goldberg 2014까지.