OpenAI, Anthropic, Gemini, Groq, xAI, Ollama 등 10개 이상의 AI 제공자를 단일 OpenAI 호환 API 하나로 묶어주는 도구예요

GoModel이라는 Go 언어 기반 AI 게이트웨이가 오픈소스로 공개됐어요.

OpenAI, Anthropic, Gemini, Groq, xAI, Ollama 등 10개 이상의 AI 제공자를 단일 OpenAI 호환 API 하나로 묶어주는 도구예요. LiteLLM의 대안을 표방하고 있고, Docker 한 줄로 8080 포트에 바로 올라오거든요.

관측성(observability), 가드레일, 스트리밍을 기본 내장했고, 대시보드에서 토큰 사용량과 비용 추적도 돼요. Go로 작성됐다는 게 핵심인데, Python 기반 LiteLLM보다 처리 성능과 메모리 효율이 높다는 게 공개 배경이에요.

여러 AI 모델을 함께 쓰는 팀이라면 공급자 종속 없이 API 키만 바꿔 끼우는 구조를 만들 수 있어요.