AI 2026.05.03 · 12 min
Advanced Vision Transformer Deep Dive · 5
Masked Image Modeling은 무엇을 학습하는가
BEiT의 discrete token부터 MAE의 75% masking, SimMIM의 단순화, MaskFeat·MVP의 target 추상도까지 — MIM 계열의 설계 결정이 공유하는 하나의 원칙을 추적한다.
tag
#beit
총 1개의 글
총 1개의 글
BEiT의 discrete token부터 MAE의 75% masking, SimMIM의 단순화, MaskFeat·MVP의 target 추상도까지 — MIM 계열의 설계 결정이 공유하는 하나의 원칙을 추적한다.