핵심 아이디어는 "약한 지도학습"이에요

LLM의 환각(hallucination)을 외부 도구 없이 모델 내부에서 탐지하는 방법이 논문으로 나왔어요.

핵심 아이디어는 "약한 지도학습"이에요. 사람이 직접 레이블링하는 대신, 부분 문자열 매칭, 문장 임베딩 유사도, LLM 판정 세 가지 신호를 조합해서 자동으로 환각 여부를 라벨링했거든요. 이렇게 만든 1만 5천 개 샘플 데이터셋으로, LLaMA-2-7B의 각 레이어 히든 스테이트에 분류기를 훈련시켰어요.

결과는 꽤 인상적이에요. 트랜스포머 기반 프로브가 가장 성능이 좋았고, 추론 지연은 배치 기준 0.15~5.62ms 수준이라 실제 서비스에 붙여도 부담이 거의 없어요. 외부 검색 시스템이나 판정 모델 없이 추론 시점에는 내부 활성값만 보는 거예요.

환각 탐지를 모델 바깥이 아니라 안쪽으로 가져오려는 시도인데, AI 신뢰성 문제를 해결하는 방향 중 하나로 주목받을 것 같아요.