3월 26일 공개된 이번 연구는 AI가 사람의 생각·행동을 기만적으로 바꿀 수 있는지 본 거예요

구글 딥마인드가 AI의 ‘유해한 조작’ 위험을 실험적으로 측정한 첫 검증 툴킷을 공개했어요.

3월 26일 공개된 이번 연구는 AI가 사람의 생각·행동을 기만적으로 바꿀 수 있는지 본 거예요. 핵심은 사실·근거 기반 설득과, 감정·인지 취약점을 파고드는 조작을 명확히 구분했다는 점이거든요.

연구는 영국·미국·인도에서 1만 명 이상을 대상으로 9개 실험으로 진행됐어요. 특히 금융 같은 고위험 주제에서 AI에 ‘부정적으로 조작하라’는 조건을 주고, 신념과 의사결정 변화까지 측정했에요.

의미는 분명해요. 대화형 AI 성능 경쟁만 볼 게 아니라, 사람을 해치지 않도록 조작 가능성 자체를 표준화해 평가하는 단계로 넘어가고 있다는 신호예요.