이 회사는 CPU, GPU, 고메모리 시스템에 작업을 동시에 분산해요

Gimlet Labs가 AI 추론 병목을 푸는 ‘멀티 실리콘 인퍼런스 클라우드’로 시리즈A 8,000만 달러를 유치했어요.

이 회사는 CPU, GPU, 고메모리 시스템에 작업을 동시에 분산해요. 에이전트 단계마다 연산·메모리·네트워크 병목이 다른데, 하드웨어별로 맞춰 오케스트레이션하는 방식이거든요.

현재 앱들이 이미 배치된 하드웨어를 쓰는 비율이 1530% 수준이라며, 같은 비용·전력에서 추론 성능을 310배 높인다고 주장해요. NVIDIA, AMD, Intel, ARM, Cerebras, d-Matrix와도 협력 중이에요.

핵심은 칩 경쟁만으로는 안 되고, 이기종 자원을 묶는 소프트웨어 레이어가 데이터센터 효율과 AI 인프라 비용을 좌우한다는 점이에요.