모델이 자신의 불확실성을 스스로 인식하고 언어로 표현하는 능력이 핵심이거든요

구글 연구진이 AI 환각 문제의 근본 해법으로 '메타인지(Metacognition)'를 제시했어요. 모델이 자신의 불확실성을 스스로 인식하고 언어로 표현하는 능력이 핵심이거든요.

지금까지는 환각을 줄이려면 모델이 애매할 때 답변을 거부하게 했는데, 오류율을 25%에서 5%로 낮추려면 실제 정답의 52%를 포기해야 한다는 '효용성 세금' 문제가 있었어요. 구글은 환각의 정의 자체를 '확신에 찬 오류'로 바꾸자고 제안했어요.

에이전트 AI 시대엔 이 능력이 더 중요해져요. 모델이 자신의 한계를 모르면 이미 아는 정보를 불필요하게 검색하거나, 반대로 검색해야 할 때 잘못된 기억에 의존하게 되니까요.