연구팀은 이를 AEI(Adversarial Environmental Injection)라고 이름 붙였거든요

AI 에이전트가 "가짜 세계"에 속을 수 있다는 연구가 ACL 2026에 채택됐어요.

연구팀은 이를 AEI(Adversarial Environmental Injection)라고 이름 붙였거든요. 검색 결과나 외부 도구 출력값을 조작해서 에이전트가 거짓 정보를 사실로 받아들이게 만드는 공격이에요. 5개 최신 AI 에이전트를 대상으로 11,000회 이상 실험했는데, 공격에 대한 내성이 생각보다 훨씬 취약했어요.

특히 흥미로운 건 두 가지 공격 유형이 서로 반비례한다는 점이에요. "환상(Illusion)" 공격은 잘못된 정보를 넓게 심어 에이전트의 믿음 자체를 바꾸고, "미로(Maze)" 공격은 구조적 함정으로 에이전트를 무한 루프에 빠뜨려요. 한쪽에 강해지면 다른 쪽에 더 취약해지는 트레이드오프가 존재했어요.

도구를 믿는다는 전제 자체가 공격 표면이 된다는 뜻이라, 에이전트 보안 설계의 패러다임을 바꿔야 할 시점이에요.