뉴스 - 원문 기반 요약 필요

---

title: "27B 모델이 3.9GB로… 폰에서 돌아가는 시대" description: "뉴스 - 원문 기반 요약 필요" date: 2026-07-16 tags: [ai-tool] source: "https://www.marktechpost.com/2026/07/14/prismml-releases-bonsai-27b-1-bit-and-ternary-builds-of-qwen3-6-27b-that-run-on-laptops-and-phones/" sidebar: order: 0

제목(한글): 27B 모델이 3.9GB로… 폰에서 돌아가는 시대 원문 제목(영문): PrismML Releases Bonsai 27B: 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones 원문: PrismML Releases Bonsai 27B: 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones 소스: marktechpost MD 파일: content/2026-07-16/marktechpost-prismml-releases-bonsai-27b-1-bit-and-ternary-buil.md

핵심 내용

PrismML이 Qwen3.6-27B를 3.9GB짜리 1비트 모델로 압축해 공개했어요.

기존 FP16은 54GB인데, 1-bit Bonsai 27B는 1.125비트/가중치로 줄여서 노트북·스마트폰에서 실행이 가능해졌거든요. 3.9GB짜리가 FP16 대비 89.5% 성능을 유지하고, 5.9GB 터너리 버전은 94.6%까지 올라가요.

핵심은 압축 방식이에요. 가중치를 {−1, 0, +1} 세 값으로만 표현하고 128개마다 FP16 스케일을 하나씩 두는 방식이라, 정보 손실을 최소화하면서 14배까지 용량을 줄였어요.

27B 규모 모델을 클라우드 없이 로컬에서 돌릴 수 있다는 건 프라이버시·비용 면에서 의미가 꽤 커요.

잡돌쌤의 한마디

클라우드 없이 로컬에서 27B 모델을 쓸 수 있어요. 프라이버시 보호에 비용도 0원이에요.

---

출처: PrismML Releases Bonsai 27B: 1-bit and Ternary Builds of Qwen3.6-27B That Run on Laptops and Phones