총 30B 파라미터지만 토큰당 3B만 활성화되는 MoE 구조라 효율이 높거든요

Cohere가 첫 번째 개발자용 코딩 모델 'North Mini Code'를 공개했어요. 총 30B 파라미터지만 토큰당 3B만 활성화되는 MoE 구조라 효율이 높거든요.

256K 토큰 컨텍스트 윈도우에 최대 64K 토큰 출력이 가능하고, H100 1장(FP8)이면 구동할 수 있어요. 코드 생성·에이전틱 소프트웨어 엔지니어링·터미널 작업 세 가지에 최적화되어 있고, Apache 2.0 라이선스로 Hugging Face에서 바로 받을 수 있어요.

'소버린 AI'를 내세운 포지셔닝이 눈에 띄어요. 대형 GPU 클러스터 없이도 팀 자체 호스팅이 가능한 작고 효율적인 코딩 모델, 온프레미스 환경을 원하는 개발팀에게 현실적인 선택지가 생긴 거예요.