핵심은 "사후 안전장치(post-execution safeguard)"예요

AI 에이전트가 실수나 오작동으로 컴퓨터에 해를 끼쳤을 때, 어떻게 "회복"할지 연구한 논문이 나왔어요.

핵심은 "사후 안전장치(post-execution safeguard)"예요. 기존 AI 안전 연구는 주로 나쁜 행동을 사전에 막는 데 집중했는데, 이 연구는 이미 일어난 피해를 사람의 의도에 맞게 되돌리는 문제를 다뤄요. 연구팀은 1,150쌍의 비교 판단 데이터셋을 만들어서, 어떤 복구 방식을 사람들이 선호하는지 분석했거든요.

흥미로운 발견은, 사람들이 포괄적인 장기 복구보다 실용적이고 타겟형 복구를 더 선호한다는 거예요. 이를 바탕으로 보상 모델을 만들고, 50개의 컴퓨터 사용 태스크로 구성된 BackBench 벤치마크로 평가했을 때, 기존 방식보다 복구 품질이 높아졌어요.

AI가 실제 컴퓨터를 조작하는 시대, "막는 것"만큼 "수습하는 것"도 중요해진다는 걸 보여주는 연구예요.