뉴스 - 원문 기반 요약 필요

---

title: "정답 맞춰도 출처 틀리는 AI 한계" description: "뉴스 - 원문 기반 요약 필요" date: 2026-05-27 tags: [ai-news] source: "https://the-decoder.com/ai-models-often-give-the-right-answers-but-point-to-the-wrong-sources/" sidebar: order: 0

제목(한글): 정답 맞춰도 출처 틀리는 AI 한계 원문 제목(영문): AI models often give the right answers but point to the wrong sources 원문: AI models often give the right answers but point to the wrong sources 소스: the-decoder MD 파일: content/2026-05-27/the-decoder-ai-models-often-give-the-right-answers-but-point-t.md

핵심 내용

베이징대·상하이 AI 연구진이 AI가 정답은 맞혀도 출처를 잘못 찍는 문제를 CiteVQA로 수치화했어요.

CiteVQA는 답변 정확도뿐 아니라 인용 위치까지 함께 채점해요. 문단·표·그림의 정확한 근거를 못 짚으면 SAA(Strict Attributed Accuracy) 0점이고, 페이지 번호만 맞아도 인정되지 않아요.

데이터셋은 7개 분야, 711개 PDF, 1,897개 질문(영어 451·중국어 260)으로 구성됐고 문서 평균 길이는 40.6페이지예요. 총 20개 모델을 평가했는데, 최고 성능도 정답률 대비 근거 정확도 격차가 드러났어요.

결국 법률·감사·의료처럼 추적 가능성이 중요한 영역에선 정답 자체보다 출처 신뢰성이 실제 활용의 기준이 된다는 신호예요.

잡돌쌤의 한마디

출처가 틀리면 법률·감사·의료에선 결과를 쓰기 어려워요. 정답률만 높은 모델은 실무 신뢰성이 떨어질 수 있어요.

---

출처: AI models often give the right answers but point to the wrong sources