핵심은 사람이 분기·가지치기·종료 규칙을 직접 짜던 방식을 자동화한 점이에요

구글과 메타가 AI 추론을 스스로 최적화하는 오토TTS를 공개했고, 정확도는 유지한 채 토큰 사용량을 최대 69.5% 줄였어요.

핵심은 사람이 분기·가지치기·종료 규칙을 직접 짜던 방식을 자동화한 점이에요. 탐색형 에이전트가 오프라인 리플레이 데이터(수천 개 추론 경로)로 다양한 컨트롤러를 반복 실험해 최적 전략을 찾거든요.

GPQA-다이아몬드에서는 추론 토큰을 51만개에서 15만1000개로 낮추고 정확도는 소폭 올렸어요. 전체 전략 탐색 비용도 39.9달러, 시간은 160분 수준이었어요.

AI 성능 경쟁이 이제 모델 크기보다 추론 운영 효율 경쟁으로 옮겨간 신호예요.