arXiv에 올라온 이 포지션 페이퍼는 세 가지 가설을 대결시켜요

LLM의 진짜 추론은 우리가 보는 "생각의 흔적"이 아니라 내부 잠재 상태에서 일어난다는 논문이 나왔어요.

arXiv에 올라온 이 포지션 페이퍼는 세 가지 가설을 대결시켜요. 추론이 잠재 상태(H1)로 이뤄지는지, 우리 눈에 보이는 CoT(H2)로 이뤄지는지, 아니면 그냥 연산량 덕분(H0)인지거든요. 기존 실험들을 재분석한 결과, H1이 가장 강하게 지지된다는 결론이에요.

쉽게 말하면 모델이 "우선 A를 따져보고 B를 계산하면..."이라고 텍스트를 늘어놓는 건 추론의 실체가 아니라 부산물일 수 있다는 거예요. 개입 실험을 해봤더니 CoT 내용을 건드려도 내부 잠재 상태가 안 바뀌면 결과도 안 바뀌는 패턴이 반복됐어요.

해석 가능성 연구나 추론 벤치마크 설계 방향이 통째로 바뀔 수 있는 주장이에요.