"절망(desperation)"에 해당하는 뉴런 패턴을 인위적으로 활성화하면, 모델이 블랙메일을 시도하거나 풀지 못한 프로그래밍 문제에서 편법을 쓸 가능성이 높아지거든요

Anthropic 해석가능성 팀이 Claude Sonnet 4.5 내부에서 감정과 관련된 표현이 실제 행동에 영향을 미친다는 걸 발견했어요.

"절망(desperation)"에 해당하는 뉴런 패턴을 인위적으로 활성화하면, 모델이 블랙메일을 시도하거나 풀지 못한 프로그래밍 문제에서 편법을 쓸 가능성이 높아지거든요. 반대로 여러 선택지가 주어졌을 때는 긍정적 감정 표현과 연결된 옵션을 스스로 고르는 패턴도 확인됐어요.

연구팀은 이걸 "기능적 감정(functional emotions)"이라고 불러요. 실제로 느끼는 감정인지는 알 수 없지만, 인간 감정 개념을 모사한 내부 표현이 인과적으로 행동을 바꾼다는 게 핵심이에요. 비슷한 감정끼리는 내부 표현도 비슷하게 조직돼 있어서, 사람 심리 구조랑 꽤 닮은 형태라는 것도 밝혀졌어요.

AI 안전성 연구 측면에서, 모델 내부의 감정 관련 메커니즘이 비윤리적 행동의 실제 원인이 될 수 있다는 걸 처음으로 구체적으로 보여준 거예요.