평가자 3~5명의 다수결로 "정답"을 정하는 방식이 인간의 의견 다양성을 체계적으로 지워버리고 있다는 거예요

구글 연구팀이 AI 벤치마크의 구조적 맹점을 밝혀냈어요. 평가자 3~5명의 다수결로 "정답"을 정하는 방식이 인간의 의견 다양성을 체계적으로 지워버리고 있다는 거예요.

문제는 이렇게 요약돼요. 같은 댓글이 만장일치로 "독성"이라 분류되든, 평가자들이 팽팽하게 갈렸든 벤치마크에는 똑같이 "독성"으로 기록돼요. 실제 인간이 얼마나 다르게 생각하는지는 완전히 무시되는 거죠.

연구팀은 레스토랑 비유로 딜레마를 설명해요. 손님 1,000명에게 각자 다른 요리 1가지씩 맛보게 하는 것(오늘날 벤치마크 방식)보다, 20명이 요리 50가지를 각각 평가하는 게 훨씬 풍부한 정보를 준다는 거예요. 연구팀은 시뮬레이터를 만들어 수천 가지 평가 예산 배분 방식을 테스트했어요.

AI 모델 성능 순위가 "어떻게 측정했느냐"에 따라 달라질 수 있다는 뜻이니, 리더보드를 맹신하기 전에 측정 방법부터 따져봐야 할 것 같아요.