ILION은 기존 텍스트 안전 시스템(욕설, 폭력 등 콘텐츠 검열)과 달리, 에이전트가 "이 행동을 해도 되는가"를 실행 전에 판단해요

AI 에이전트가 실제 파일을 삭제하거나 API를 호출하기 전에 막아주는 안전장치 논문이 나왔어요.

ILION은 기존 텍스트 안전 시스템(욕설, 폭력 등 콘텐츠 검열)과 달리, 에이전트가 "이 행동을 해도 되는가"를 실행 전에 판단해요. 5개 컴포넌트 캐스케이드 구조로 BLOCK/ALLOW를 결정하는데, 통계 학습도 없고 외부 API 의존도 없어요.

성능이 꽤 인상적인데요. F1 스코어 0.8515, 정밀도 91%, 평균 응답 시간 143마이크로초예요. Lakera Guard보다 F1 기준 4.3포인트 높고, OpenAI Moderation API보다 2,000배 빠르거든요. 380개 시나리오, 8가지 공격 유형으로 검증했어요.

에이전트가 코드도 짜고 DB도 건드리고 결제도 하는 시대가 되면서, "뭘 말하냐"가 아니라 "뭘 하냐"를 통제하는 레이어가 본격적으로 연구되기 시작한 거예요.