머스크의 소송으로 OpenAI의 안전 관리 실태가 법정에서 공개되고 있어요

머스크의 소송으로 OpenAI의 안전 관리 실태가 법정에서 공개되고 있어요.

AGI 준비팀 소속이었던 로지 캠벨이 증언했는데, 입사 당시 연구 중심이던 조직이 점점 제품 중심으로 바뀌었다고 했거든요. 2024년 그녀의 팀이 해체됐고, 같은 시기 슈퍼 얼라인먼트팀도 폐지됐어요.

캠벨은 마이크로소프트가 인도 빙 검색에 GPT-4를 배포하면서 회사 내 배포 안전 심의 절차를 건너뛴 사례를 지적했어요. 모델 자체의 위험은 크지 않았지만, AI가 더 강력해질수록 안전 절차가 일관되게 지켜져야 한다는 점을 강조한 거예요. 이 사건은 2023년 샘 알트먼 CEO 해임 사태의 원인 중 하나로도 지목됐어요.

영리 전환 과정에서 안전보다 속도를 택한 게 아니냐는 질문이 법정 안팎에서 계속 나오고 있어요.