텍스트 전용 추론 엔진에서 멀티모달 플랫폼으로 진화한 거거든요

llama.cpp가 Gemma 4 모델에 오디오 처리 기능을 추가했어요. 텍스트 전용 추론 엔진에서 멀티모달 플랫폼으로 진화한 거거든요.

핵심은 클라우드 API 없이 로컬 하드웨어에서 오디오를 직접 처리할 수 있다는 점이에요. Gemma 4의 오디오 conformer 인코더를 활용해서, 음성 메모 변환이나 로컬 음성 어시스턴트를 집에서 직접 돌릴 수 있게 됐어요.

여기에 Gemma 4 31B 모델은 speculative decoding으로 성능이 최대 50% 향상됐고, 로컬 Ollama 모델로 코딩을 지원하는 오픈소스 CLI 에이전트 LiteCode도 새로 등장했어요. 실행 전 diff 미리보기 기능까지 갖췄거든요.

로컬 AI가 텍스트를 넘어 오디오까지 품으면서, 개인 하드웨어 위에서 돌아가는 멀티모달 에이전트가 현실로 가까워지고 있어요.