Ollama + Gemma4 + Open WebUI 조합으로, 클라우드 구독 없이 JetBrains IDE까지 연동되는 시스템이거든요

돈 한 푼 안 들이고 로컬에서 AI RAG 환경을 구축할 수 있어요. Ollama + Gemma4 + Open WebUI 조합으로, 클라우드 구독 없이 JetBrains IDE까지 연동되는 시스템이거든요.

Ollama는 LLM을 로컬에서 내려받고 실행하는 무료 오픈소스 앱이에요. 터미널에서 ollama run gemma4 한 줄이면 Google의 최신 오픈소스 모델이 로컬 포트 11434에서 돌아가요.

Open WebUI를 Docker로 띄우면 ChatGPT와 비슷한 브라우저 UI에 RAG·워크플로우까지 쓸 수 있어요. RTX 3080 12GB 기준으로 5년 된 하드웨어에서도 무리 없이 돌아간다고 하니, 고사양 장비가 없어도 충분히 시도해볼 만해요.

데이터가 외부로 나가지 않고 내 컴퓨터에서만 돌아간다는 게 가장 큰 장점이에요. AI 도구를 써보고 싶은데 비용·보안이 걱정됐다면 이 조합이 좋은 출발점이 될 거예요.