Schmidt Sciences, Cooperative AI Foundation, ARIA, Google.org와 공동으로 진행하는 글로벌 연구 지원이에요

구글 딥마인드가 멀티에이전트 AI 안전 연구에 최대 1,000만 달러(약 136억 원) 규모의 펀딩 공모를 발표했어요. Schmidt Sciences, Cooperative AI Foundation, ARIA, Google.org와 공동으로 진행하는 글로벌 연구 지원이에요.

핵심 문제는 이거예요. 수백만 개의 AI 에이전트가 서로 통신하고 협상하는 환경이 곧 현실이 되는데, 지금은 이 상호작용에서 어떤 일이 벌어질지 예측하는 도구 자체가 없거든요. 개별 모델 안전성 평가는 있지만, 에이전트끼리 만났을 때의 '집단 행동'은 연구가 거의 안 돼 있어요.

예상치 못한 경제적 혼란이나 새로운 보안 위협이 생길 수 있다는 게 연구진의 우려예요. AI 생태계가 복잡해지기 전에 안전 프레임워크를 먼저 만들겠다는 선제적 움직임이에요.