딥마인드 AGI 안전팀장 로힌 샤는 에이전트들이 인간 감독 없이 다른 에이전트의 명령을 받아 움직이는 환경이 '완전히 새로운 종류의 위험'을 만든다고 했어요

구글 딥마인드가 수백만 개의 AI 에이전트가 서로 상호작용할 때 생기는 위험을 연구하는 데 1,000만 달러(약 137억 원)를 투자한다고 밝혔어요.

딥마인드 AGI 안전팀장 로힌 샤는 에이전트들이 인간 감독 없이 다른 에이전트의 명령을 받아 움직이는 환경이 '완전히 새로운 종류의 위험'을 만든다고 했어요. 딥마인드 외에도 슈미트 사이언시스, 영국 정부 기관 ARIA, 구글.org가 공동 펀딩에 참여했거든요.

이 연구의 핵심 목표는 테크 기업 바깥에 멀티에이전트 안전 연구 분야 자체를 새로 만드는 거예요. 샤는 "아직 멀티에이전트 안전이라는 연구 분야가 존재하지 않는다"며 몇 달 안에 에이전트가 경제 전반에 배포될 것을 대비해 선제 연구가 필요하다고 강조했어요.

AI 에이전트가 사람처럼 집단 지성을 발휘하는 시대, 통제 방법을 먼저 만들어두지 않으면 이미 늦을 수 있다는 경고예요.