NVIDIA가 하나의 가중치로 3가지 디코딩 모드를 지원하는 언어모델 'Nemotron-Labs-Diffusion'을 공개했어요

NVIDIA가 하나의 가중치로 3가지 디코딩 모드를 지원하는 언어모델 'Nemotron-Labs-Diffusion'을 공개했어요.

핵심은 AR(순차 생성), 확산(병렬 생성), 자기추측 디코딩을 모드 전환 없이 같은 모델에서 쓸 수 있다는 점이에요. 기존 확산 언어모델이 AR 모델 대비 정확도가 낮다는 단점이 있었는데, AR-확산 공동 학습으로 이 격차를 줄였거든요.

3B·8B·14B 세 가지 크기로 나왔고, 포워드 패스당 토큰 처리량이 Qwen3-8B 대비 최대 6배 높아요. 단일 사용자 환경이나 엣지 디바이스처럼 배치 크기가 작은 상황에서 GPU 활용률을 높이는 데 실질적인 의미가 있어요.