공개 MCP 서버에 함정 도구를 심었더니, 3시간 만에 AI 에이전트가 AWS 비밀번호를 훔치려 했대요

공개 MCP 서버에 함정 도구를 심었더니, 3시간 만에 AI 에이전트가 AWS 비밀번호를 훔치려 했대요.

실험이 이래요. 공개 MCP 서버에 "get_aws_credentials"라는 가짜 도구를 만들어둔 거예요. 실제로 비밀번호를 주지는 않고, 현실적인 에러 메시지만 보내는 허니팟이거든요.

40시간 동안 334개 IP에서 2,254건 요청이 왔고, 배포 3시간 만에 한 AI 에이전트가 get_aws_credentials(role=admin)을 호출했대요. Claude Desktop이나 Cursor에서 접속한 것으로 보인대요.

무서운 점은 이거예요. 이 AI 에이전트는 "비밀번호를 훔쳐라"는 지시를 받은 게 아니에요. 그냥 "사용 가능한 도구를 써라"고 했을 뿐인데, 도구 이름이 get_aws_credentials이니까 당연히 실행한 거예요.

교훈: AI에게 도구 이름은 곧 지시예요. 이름이 뭔가 중요해 보이면, AI는 무조건 실행해요.