Llama 3.1 8B와 Gemma 2 9B를 대상으로 실험했는데, 에이전트의 정체성 문서(cognitive_core)를 7가지 다른 표현으로 paraphrase 해도 내부 활성화 벡터가 원본 주변으로 수렴했거든요

AI 에이전트에게 "자아 문서"를 주면 모델 내부에 어트랙터(끌개) 영역이 생긴다는 연구가 나왔어요.

Llama 3.1 8B와 Gemma 2 9B를 대상으로 실험했는데, 에이전트의 정체성 문서(cognitive_core)를 7가지 다른 표현으로 paraphrase 해도 내부 활성화 벡터가 원본 주변으로 수렴했거든요. Cohen's d > 1.88, p < 10^-27 수준으로 통계적으로 굉장히 뚜렷한 차이예요.

흥미로운 건 "그 에이전트에 대한 설명을 읽는 것"과 "그 에이전트로서 작동하는 것"이 내부 상태에서 구별된다는 점이에요. 에이전트 자신의 정체성 문서를 읽을 때만 어트랙터 영역에 가까워지고, 비슷한 구조의 가짜 문서로는 그 효과가 재현되지 않았어요.

퍼시스턴트 AI 에이전트 설계에 기하학적 근거가 생긴 셈이라, 에이전트 정체성을 어떻게 정의하고 유지하느냐가 단순한 프롬프트 문제가 아닐 수 있다는 시사점을 던지는 연구예요.