AI 2026.04.28 · 12 min
Advanced Ml Fundamentals Deep Dive · 2
Logistic Regression의 통일 철학 — MLE가 모든 것을 설명한다
왜 sigmoid인가, 왜 cross-entropy인가, 왜 softmax인가. Bernoulli MLE 한 줄 유도부터 분리 문제·Firth 보정까지, 분류 알고리즘의 공통 뿌리를 추적한다.
tag
#softmax
총 2개의 글
AI 2026.04.27 · 12 min
Advanced Transformer Deep Dive · 1
Attention은 왜 그렇게 설계됐는가
Scaled dot-product attention의 수학적 필연성부터 softmax 포화, 커널 해석, 멀티헤드의 표현력, 해석 가능성 논쟁까지 — Transformer의 핵심 설계 결정을 추적한다.