Anthropoc 자체 해석 가능성 연구에서 자사 모델을 '대부분 블랙박스'라고 인정했거든요

AI가 쓴 코드를 이해하라는 조언, 사실 절반짜리 답이에요.

Anthropoc 자체 해석 가능성 연구에서 자사 모델을 '대부분 블랙박스'라고 인정했거든요. 수백만 개의 내부 특징을 매핑했지만, 그게 모델이 그 특징을 어떻게 쓰는지 이해하는 것과는 다른 얘기라고요. 최전선에 있는 연구자들도 자기가 만든 걸 현미경으로 들여다보고 있는 거예요.

진짜 질문은 이거예요. 이 시스템이 무엇을 건드릴 수 있고, 무엇을 주장할 수 있고, 경계는 누가 썼고, 틀렸을 때 누가 책임지는가. 코드 이해가 끝나는 지점에서 거버넌스가 시작돼요.