핵심 구조는 3단계예요

LLM이 "자신 없으면 스스로 검색한다"는 시스템을 구현하는 튜토리얼이 나왔어요.

핵심 구조는 3단계예요. 먼저 모델이 답변과 함께 신뢰도 점수(0~1)와 근거를 같이 출력해요. 그다음 자기 답변을 스스로 비판하는 메타인지 체크 단계가 있고, 신뢰도가 0.55 미만이면 자동으로 웹 검색을 트리거해서 실시간 정보를 가져온 뒤 답변을 다시 합성해요.

구현은 gpt-4o-mini + DuckDuckGo 검색 라이브러리(ddgs) 조합이고, 신뢰도 임계값은 0.55(낮음)와 0.80(중간)으로 구분돼요.

할루시네이션 문제를 모델 외부에서 막는 게 아니라, 모델 스스로 불확실성을 인지하고 보완하게 만드는 방향이라는 점에서 실용적인 접근이에요.