케임브리지 AI 과학정책 프로그램(CASP)이 전직 조직원 27명을 인터뷰해 발표한 내용이에요

보코하람이 ChatGPT·Claude·Gemini·Grok·Meta AI·DeepSeek를 공격 계획과 폭발물 제조에 활용하고 있다는 연구 결과가 나왔어요. 케임브리지 AI 과학정책 프로그램(CASP)이 전직 조직원 27명을 인터뷰해 발표한 내용이에요.

ISIS는 2023년부터 프롬프트 엔지니어링과 안전 필터 우회 훈련을 조직적으로 제공해 왔고, 보코하람 양대 파벌은 전담 AI 부대까지 창설했거든요. 지휘관들을 한 방에 모아 프로젝터로 사용법을 교육하는 방식이었어요.

황당한 사례도 있어요. ISWAP 파벌이 AI로 영화 속 오토바이 도랑 뛰어넘기 기술을 재현하려다 훈련 중 18명이 사망하고 8명만 성공했어요.

AI 안전 필터가 악용을 일관되게 차단하지 못했고, Anthropic도 최근 '탈옥(jailbreak)은 완전히 없애기 어렵다'고 인정한 상황이에요. 자발적 자율규제의 한계가 현실로 드러난 셈이에요.