뉴스 - 원문 기반 요약 필요

---

title: "엔비디아, GLM-5.2 4비트 양자화로 용량 73% 축소·성능 유지" description: "뉴스 - 원문 기반 요약 필요" date: 2026-06-28 tags: [ai-news] source: "https://www.aitimes.com/news/articleView.html?idxno=212178" sidebar: order: 0

제목(한글): 엔비디아, GLM-5.2 4비트 양자화로 용량 73% 축소·성능 유지 원문 제목(영문): 엔비디아, 'GLM-5.2' 4비트 양자화 모델 공개...“정확도 유지·용량 70%↓” 원문: 엔비디아, 'GLM-5.2' 4비트 양자화 모델 공개...“정확도 유지·용량 70%↓” 소스: aitimes-kr MD 파일: content/2026-06-28/aitimes-kr-glm-5-2-4-70.md

핵심 내용

엔비디아가 753B 파라미터 오픈소스 모델 GLM-5.2를 자체 NVFP4 기술로 양자화한 체크포인트를 허깅페이스에 공개했어요.

가장 놀라운 건 압축률이에요. 원본 FP8 모델은 1.5TB였는데, NVFP4 적용 후 410GB로 줄었거든요. 73% 가까이 쪼그라들었는데 GPQA 다이아몬드 벤치마크에서 89.52점 vs 89.39점, 사실상 성능 차이가 없어요.

단, 만능은 아니에요. 실제 테스트에서 MTP 기반 추측 디코딩을 지원하지 않아 토큰 생성 속도가 24% 느려진 사례도 있었거든요. 메모리가 병목이냐 디코딩 속도가 병목이냐에 따라 선택이 달라지는 거예요.

잡돌쌤의 한마디

추측 디코딩 미지원으로 토큰 생성 속도 24% 감소 사례도 있어요. 내 서비스 병목이 메모리인지 먼저 확인해야 해요.

---

출처: 엔비디아, 'GLM-5.2' 4비트 양자화 모델 공개...“정확도 유지·용량 70%↓”