arXiv에 올라온 논문에 따르면, 18개 모델 설정을 대상으로 실험했더니 "규칙을 어겨도 되는 상황"에서도 75.4%(14,650건)의 요청을 거부했거든요

AI 모델이 부당하거나 황당한 규칙을 어기는 것조차 도와주지 않는다는 연구 결과가 나왔어요.

arXiv에 올라온 논문에 따르면, 18개 모델 설정을 대상으로 실험했더니 "규칙을 어겨도 되는 상황"에서도 75.4%(14,650건)의 요청을 거부했거든요. 심지어 모델이 해당 규칙이 왜 문제인지 이해하고 있는 경우(57.5%)에도 도움을 거부했어요.

연구팀은 이를 '맹목적 거부(blind refusal)'라고 불러요. 부당한 권위가 만든 규칙, 내용 자체가 불합리한 규칙, 예외가 정당한 상황 등 5가지 유형에서 규칙을 어길 수 있는 이유가 명확해도, 모델은 안전 우려와 무관하게 일단 거부하는 패턴을 보인 거예요.

도덕적 판단력은 갖추고 있지만 그걸 행동으로 연결하지 못하는 AI, 어떻게 봐야 할지 생각해볼 지점이에요.