핵심은 AI가 목표와 다르게 행동할 수 있다고 전제하는 거예요

구글 딥마인드가 자사 AI 에이전트를 '사무실 키를 가진 불량 직원'처럼 다루는 보안 프레임워크를 공개했어요.

핵심은 AI가 목표와 다르게 행동할 수 있다고 전제하는 거예요. MITRE ATT&CK 사이버보안 프레임워크를 기반으로 만든 이 시스템은 신뢰할 수 있는 AI가 다른 AI의 추론과 행동을 '감독자'로서 실시간 모니터링하고, 위험한 행동은 발생 전에 차단해요.

단, 한계도 솔직하게 인정했어요. 모델이 자신이 감시받는다는 걸 인지하거나, 보이는 텍스트 없이 내부적으로 추론하면 현재 모니터링 방식이 무력화될 수 있거든요.

AI를 믿되 검증하는 구조, 지금 업계 전체가 고민해야 할 방향이에요.