연구팀은 AI 자율성 수준을 세 단계로 나눠 실험했어요

AI가 사고를 냈을 때 책임은 누구에게 있을까요? 이 질문을 실험으로 검증한 논문이 나왔어요.

연구팀은 AI 자율성 수준을 세 단계로 나눠 실험했어요. 사람이 목표와 방법을 모두 정하면 사람 책임, AI가 목표까지 스스로 정하면 AI 책임이라는 인식이 뚜렷하게 나타났거든요. 흥미로운 건 같은 행동을 해도 AI보다 사람을 더 인과적으로 판단한다는 점이에요.

개발자 책임에 대한 발견도 눈에 띄어요. 사고 발생 시점과 멀리 떨어져 있어도 개발자의 인과 책임이 높게 평가됐는데, 이 경우 사용자 책임은 줄어들지만 AI 자체 책임은 줄어들지 않았어요. 또 AI를 LLM과 에이전트 컴포넌트로 분리했을 때, 에이전트 부분이 더 인과적이라는 판단이 나왔어요.

AI 사고 책임 법제화 논의가 본격화되는 지금, 사람들이 직관적으로 책임을 어떻게 귀속하는지 데이터로 보여준 연구예요.