Measuring AI Agents' Progress on Multi-Step Cyber Attack Scenarios

최신 연구에서 AI 에이전트의 다단계 사이버공격 수행 능력이 추론 토큰을 늘릴수록 뚜렷하게 올라간다는 결과가 나왔어요.

연구팀은 32단계 기업망 공격, 7단계 산업제어시스템 공격 환경에서 2024년 8월~2026년 2월 사이 공개된 모델 7개를 비교했거든요. 1천만→1억 토큰으로 늘리면 성능이 최대 59% 개선됐고, 포화 구간은 관측되지 않았어요.

같은 1천만 토큰 기준으로도 세대가 바뀔수록 성능이 상승했어요. 기업망 시나리오 평균 완료 단계는 GPT-4o 1.7에서 Opus 4.6 9.8로 올랐고, 최고 단일 실행은 32단계 중 22단계를 끝냈어요. 이는 인간 전문가 14시간 작업 중 약 6시간 분량에 해당해요.

반면 산업제어시스템은 아직 제한적이라 최신 모델도 평균 1.2~1.4/7단계(최대 3)에 그쳤어요. 그래도 계산 예산과 모델 세대가 공격 자동화 리스크를 동시에 키운다는 신호는 분명해 보여요.