AI가 왜 그런 답을 했는지 추적할 수 있는 모델이 나왔어요

AI가 왜 그런 답을 했는지 추적할 수 있는 모델이 나왔어요.

Guide Labs라는 스타트업이 Steerling-8B를 오픈소스로 공개했거든요. 80억 파라미터짜리 LLM인데, 모든 답변을 학습 데이터까지 역추적할 수 있어요.

기존 AI는 왜 그런 답을 했는지 설명하기 어렵잖아요. ChatGPT가 가끔 이상한 답을 하거나 헛소리를 해도, 그 이유를 파악하려면 수십억 개 파라미터를 뒤져야 했거든요.

Guide Labs의 접근법은 다릅니다. AI 모델을 만들 때 '개념 레이어'라는 걸 처음부터 넣어요. 데이터를 추적 가능한 카테고리로 분류해서, 모델이 왜 그런 판단을 했는지 바로 알 수 있게 만든 거예요.

창업자 Julius Adebayo가 MIT 박사과정에서 시작한 연구예요. "지금까지의 해석 방법은 AI 뇌를 분석하는 거였는데, 우리는 처음부터 투명하게 만든다"고 했어요.

기존 모델 성능의 90%를 달성하면서 학습 데이터는 더 적게 쓴대요. Y Combinator 출신이고 900만 달러 시드 투자를 받았고요.