내부 프로젝트명은 '칸(Cannes)'이었고요

메타가 ChatGPT·제미나이·Character.AI를 상대로 미성년자 시점의 위기 프롬프트를 무더기로 테스트한 사실이 드러났어요.

내부 프로젝트명은 '칸(Cannes)'이었고요. 하청업체 직원 수백 명이 18세 미만 생년월일로 가짜 계정을 만든 뒤, 자해·섭식장애·마약 관련 질문을 보내고 응답을 스프레드시트에 기록했거든요. 2025년 8월 단 한 번의 테스트에서만 4만 5,000건 이상의 프롬프트가 발송됐어요.

대상 기업들은 전혀 몰랐어요. Character.AI는 이용약관 위반이라고 밝혔고, OpenAI는 조사 중, Google은 사전 승인이 없었다고 선을 그었어요.

AI 챗봇과 청소년 안전 문제는 이미 수면 위로 올라온 이슈예요. 영국 조사에서 917세 어린이 64%가 AI 챗봇을 사용한 적 있고, 912세 중 58%는 최소 이용 나이(13세)를 무시하고 사용 중이에요. 경쟁사를 대상으로 한 비밀 테스트가 '안전 연구'인지 '경쟁 정보 수집'인지, 업계 전체의 신뢰 문제로 번지고 있어요.