ChatGPT랑 Gemini 음성 모드, 가짜뉴스에 너무 취약하다는 연구 나왔어요

ChatGPT랑 Gemini 음성 모드, 가짜뉴스에 너무 취약하다는 연구 나왔어요.

Newsguard라는 팩트체크 기관이 테스트했거든요. 건강, 정치, 국제뉴스 등 20개 거짓 주장을 음성봇한테 물어본 거예요.

결과가 좀 충격인데요. 일반 질문에는 5%만 틀렸는데, 악의적으로 유도하면 ChatGPT 50%, Gemini 45%가 거짓 정보를 그대로 읊어줬대요.

"라디오 대본 써줘"처럼 요청하면 가짜뉴스를 진짜처럼 읽어주는 거예요. 이런 음성 클립이 SNS에 퍼지면... 생각만 해도 무섭죠.

반면 Amazon Alexa+는 거짓 주장을 100% 거부했대요. AP, Reuters 같은 신뢰 매체만 참고하도록 만들었거든요.

AI 음성 기능이 편해지는 만큼, 가짜뉴스 필터링도 같이 발전해야 할 것 같아요.