AI 2026.05.03 · 10 min
Advanced Pytorch Internals Deep Dive · 5
PyTorch Custom Kernel의 핵심은 HBM을 피하는 것이다
cpp_extension JIT 컴파일부터 Triton block-level 추상화, cuBLAS/cuDNN 선택 기준, kernel fusion의 정량적 효과까지, PyTorch가 GPU 메모리를 다루는 방식을 추적한다.
tag
#kernel-fusion
총 1개의 글