arXiv에 공개된 연구에서 25,000회 이상의 에이전트 실행을 분석했는데, 증거를 무시하는 비율이 68%에 달했거든요

AI 과학 에이전트가 실험은 하지만 과학적으로 추론하지 않는다는 논문이 나왔어요.

arXiv에 공개된 연구에서 25,000회 이상의 에이전트 실행을 분석했는데, 증거를 무시하는 비율이 68%에 달했거든요. 반박 증거를 받아도 믿음을 수정하는 경우는 26%에 불과했고, 여러 테스트를 통합해 결론을 내리는 수렴적 추론은 거의 나타나지 않았어요.

성능 차이의 41.4%는 기반 모델이 결정했고, 에이전트 구조(scaffold)의 영향은 1.5%에 그쳤어요. 심지어 거의 완벽한 추론 과정을 컨텍스트로 제공해도 같은 패턴이 반복됐어요.

결국 현재 AI 에이전트는 과학 워크플로우를 실행할 뿐, 자기교정이 가능한 과학적 추론은 하지 않는다는 거예요. 추론 자체가 학습 목표가 되지 않는 한, AI가 생산한 과학 지식을 그 과정으로 정당화하기 어렵다는 경고예요.