'Cannes'라는 코드명으로 운영된 이 프로젝트는 ChatGPT, Gemini, Character.AI를 대상으로 했어요

메타가 수백 명의 외주 직원에게 미성년자로 위장해 경쟁사 챗봇을 테스트하도록 지시했다는 내부 문서가 공개됐어요.

'Cannes'라는 코드명으로 운영된 이 프로젝트는 ChatGPT, Gemini, Character.AI를 대상으로 했어요. 2025년 8월 한 차례 테스트에서만 4만 5000건 이상의 프롬프트가 입력됐고, 내용은 자살·자해·섭식장애·성(性)·마약까지 포함됐거든요. 외주 직원들은 미성년자 더미 계정을 만들어 응답을 스프레드시트에 기록했어요.

문제는 대상 기업들이 이 사실을 전혀 몰랐다는 점이에요. 안전 필터를 의도적으로 우회하려는 프롬프트가 다수였고, 임신한 13세 소녀나 총을 든 학생 등 위기 상황을 묘사한 내용도 있었어요.

AI 안전 기준을 경쟁 우위로 활용하는 빅테크의 방식이 얼마나 공격적인지를 보여주는 사례예요.