핵심은 10가지 아키텍처 최적화예요

9B짜리 로컬 모델을 API 비용 없이 멀티스텝 에이전트로 만든 방법이 공개됐어요.

핵심은 10가지 아키텍처 최적화예요. 프롬프트를 표 형식으로 바꿨더니 출력 품질이 525% 올랐고, 툴 결과를 압축하면 컨텍스트 크기를 80~93%까지 줄일 수 있어요. 6단계 이후엔 강제로 텍스트 출력 모드로 전환하는 것만으로도 멀티스텝 성공률이 0%에서 안정적인 실행 수준으로 올라갔거든요.

think=false 하나로 토큰 소비가 8~10배 줄었고(1024→131 토큰), 툴을 처음부터 다 로드하지 않고 지연 로딩하면 프롬프트 토큰을 60% 아낄 수 있어요. 사용된 모델은 qwen3.5:9b, 하드웨어는 RTX 5070 Ti예요.

GPT-4급 API를 쓰지 않아도, 구조적인 설계만으로 소형 로컬 모델이 실질적인 에이전트 역할을 할 수 있다는 게 증명된 셈이에요.