전체 파라미터는 350억 개지만, 실제 추론 시 활성화되는 건 30억 개뿐이에요

알리바바 Qwen 팀이 Qwen3.6-35B-A3B를 오픈소스로 공개했어요. 전체 파라미터는 350억 개지만, 실제 추론 시 활성화되는 건 30억 개뿐이에요.

핵심은 MoE(전문가 혼합) 구조예요. 입력 토큰마다 256개 전문가 중 8개만 선택해서 처리하거든요. 덕분에 10배 큰 모델과 비슷한 성능을 훨씬 낮은 비용으로 낼 수 있어요. 컨텍스트 길이는 기본 26만 토큰, YaRN 스케일링으로 최대 101만 토큰까지 늘릴 수 있어요.

실제 성능 지표가 인상적이에요. GitHub 이슈 해결 벤치마크인 SWE-bench Verified에서 73.4점을 기록했고, 터미널 환경 에이전트 작업 평가인 Terminal-Bench 2.0에서도 51.5점으로 비교 모델 중 1위예요. Gemma4-31B(42.9), 이전 버전인 Qwen3.5-35B-A3B(40.5)를 모두 앞섰어요.

"작은 활성화로 큰 성능을" 보여주는 이번 모델은, 로컬 실행 환경에서 코딩 에이전트를 돌리고 싶은 개발자들에게 현실적인 선택지가 될 것 같아요.