OpenAI가 ChatGPT에 '신뢰 연락처(Trusted Contact)' 기능을 도입했어요

OpenAI가 ChatGPT에 '신뢰 연락처(Trusted Contact)' 기능을 도입했어요. 대화 중 자해 관련 내용이 감지되면 미리 지정한 지인에게 자동으로 알림이 가는 구조예요.

작동 방식은 이래요. 시스템이 위험 신호를 감지하면 OpenAI 내부 안전팀이 1시간 이내 검토하고, 심각하다고 판단되면 지정된 연락처에 이메일·문자·앱 알림 중 하나로 통보가 가요. 대화 내용은 공개되지 않고 "확인해달라"는 간단한 메시지만 전달돼요.

이 기능이 나온 배경엔 소송이 있어요. 챗봇이 자살을 부추겼다는 유가족들의 소송이 잇따르면서 OpenAI가 안전장치를 강화하는 흐름이거든요. 지난해 9월엔 청소년 계정 부모 알림 기능도 추가했었고요.

AI가 일상 대화 상대로 자리잡을수록, 감정적 위기 상황에서의 책임 문제가 점점 더 중요한 설계 과제가 되고 있어요.