가장 놀라운 건 압축률이에요

엔비디아가 753B 파라미터 오픈소스 모델 GLM-5.2를 자체 NVFP4 기술로 양자화한 체크포인트를 허깅페이스에 공개했어요.

가장 놀라운 건 압축률이에요. 원본 FP8 모델은 1.5TB였는데, NVFP4 적용 후 410GB로 줄었거든요. 73% 가까이 쪼그라들었는데 GPQA 다이아몬드 벤치마크에서 89.52점 vs 89.39점, 사실상 성능 차이가 없어요.

단, 만능은 아니에요. 실제 테스트에서 MTP 기반 추측 디코딩을 지원하지 않아 토큰 생성 속도가 24% 느려진 사례도 있었거든요. 메모리가 병목이냐 디코딩 속도가 병목이냐에 따라 선택이 달라지는 거예요.