AI 2026.05.05 · 11 min
Advanced Llm Reasoning Deep Dive · 1
LLM Reasoning의 모든 기법은 하나의 질문에서 나온다
CoT의 latent variable 정식화부터 inference-time scaling law까지, reasoning chain z를 어떻게 다룰 것인가라는 공통 프레임을 추적한다.
series · llm-reasoning-deep-dive
📚 Llm Reasoning Deep Dive
총 7편 · 순서대로 읽기를 권장
AI 2026.05.05 · 14 min
Advanced Llm Reasoning Deep Dive · 2
프롬프트는 어떻게 추론을 만드는가
Zero-shot 트리거 한 줄부터 코드 실행, 자동 최적화까지 — LLM 추론을 elicit하는 다섯 가지 기법의 메커니즘과 트레이드오프를 추적한다.
AI 2026.05.05 · 13 min
Advanced Llm Reasoning Deep Dive · 3
LLM이 나무를 타고 답을 찾는 법
CoT 단일 경로의 한계부터 ToT·GoT·RAP·MCTS·Best-of-N까지, LLM 추론을 명시적 탐색 문제로 재정의하는 다섯 가지 전략을 추적한다.
AI 2026.05.05 · 12 min
Advanced Llm Reasoning Deep Dive · 4
PRM은 왜 ORM을 이기는가 — Step-Level Reward의 수학
Outcome Reward의 sparse signal이 Long CoT에서 credit assignment를 망치는 원리부터, PRM이 value function과 수학적으로 동치임을 보이는 Bellman 증명까지 추적한다.
AI 2026.05.05 · 12 min
Advanced Llm Reasoning Deep Dive · 5
GRPO는 어떻게 PPO의 Critic을 없앴는가
PPO의 4-network 부담부터 GRPO의 group-relative advantage 유도, R1-Zero의 aha moment, R1의 5-stage pipeline, 그리고 RLOO/REINFORCE++까지 — LLM 추론 RL의 설계 철학을 추적한다.
AI 2026.05.05 · 11 min
Advanced Llm Reasoning Deep Dive · 6
LLM Agent는 어떻게 도구를 쓰고, 실패에서 배우고, 함께 생각하는가
ReAct의 Thought-Action-Observation 루프부터 Reflexion의 verbal RL, Voyager의 lifelong 스킬 축적, Multi-Agent Debate까지 — LLM agent 진화의 공통 철학을 추적한다.
AI 2026.05.05 · 12 min
Advanced Llm Reasoning Deep Dive · 7
LLM Reasoning의 세 가지 도약 — o1, o3, R1이 만든 새 균형점
Hidden CoT로 시작해 test-time search와 open distillation까지, 추론 모델의 세 가지 설계 결정이 만들어낸 경제·안전·신뢰성의 트레이드오프를 추적한다.