핵심은 토큰을 1개씩 확정하는 자기회귀(AR) 방식 한계를 줄였다는 점이에요

NVIDIA Nemotron-Labs가 확산형 언어모델로 텍스트 생성 속도를 사실상 새로운 구간으로 끌어올리는 결과를 공개했어요.

핵심은 토큰을 1개씩 확정하는 자기회귀(AR) 방식 한계를 줄였다는 점이에요. 기존 AR은 토큰마다 전체 모델 패스가 필요해서 지연이 커지는데, 이번 접근은 한 번에 더 병렬적으로 생성·정제하는 구조를 제시했거든요.

이번 글에서는 모델, 학습 레시피, 테크니컬 리포트와 함께 단일 모델에서 3가지 생성 모드를 지원한다고 밝혔고, SGLang 배포·추론 경로까지 같이 공개했어요.

의미는 분명해요. 지연시간이 중요한 코딩·에이전트 제품에서, 같은 GPU로 체감 속도와 처리 효율을 동시에 높일 수 있는 선택지가 커지고 있어요.