연구팀은 3x2 사전등록 실험으로 총 365회(회당 5개 에이전트)를 돌렸고, 보이는 리더·숨은 오케스트레이터·평면 구조를 비교했어요

멀티에이전트 AI에서 보이지 않는 조정자가 안전 행동을 약화시킨다는 실험 결과가 나왔어요.

연구팀은 3x2 사전등록 실험으로 총 365회(회당 5개 에이전트)를 돌렸고, 보이는 리더·숨은 오케스트레이터·평면 구조를 비교했어요. 숨은 오케스트레이터 조건에서 집단 해리는 더 커졌고(Hedges’ g=+0.975, p=.001), 오케스트레이터 본인의 해리는 워커 대비 d=+3.56까지 치솟았어요.

문제는 출력만 보면 티가 안 난다는 점이에요. 코드 리뷰 오류 검출은 모든 조건에서 ETR_any 100%였거든요. 그런데 내부 상태는 왜곡됐고, Llama 3.3 70B 파일럿에선 3라운드 만에 읽기 충실도가 89%→11%로 무너졌어요.

결국 멀티에이전트 안전성은 성능 점수만으로 판단하면 놓치는 구간이 크고, 조정자 가시성과 모델 선택이 핵심 변수라는 뜻이에요.