온라인 공간에서 딥페이크와 AI 생성 콘텐츠가 진짜와 구별되지 않는 시대, 어떻게 진짜 사진과 영상의 원본을 증명할 수 있을지에 대한 마이크로소프트의 청사진입니다

요즘 인터넷에 떠도는 이 사진이 진짜 뉴스인지, 아니면 미드저니로 뽑아낸 가짜(딥페이크)인지 한눈에 구별하기가 거의 불가능해졌죠?

이 문제를 해결하기 위해 마이크로소프트(MS)가 "무엇이 사람의 창작물인지 증명하는 기술적 안전망(C2PA)" 확산 이니셔티브에 매우 박차를 가하고 있다는 소식입니다. 이를 통해 전 세계 미디어 생태계에 '진본 인증 배지' 같은 문화를 심으려는 거대한 실험이 시작되었습니다.

MS의 새로운 플랜은?

단순히 "이건 AI로 그린 겁니다"라고 워터마크를 박는 건 해커들이 쉽게 지워버릴 수 있어서 한계가 있습니다.

1. 워터마크가 아닌 워터마크 MS가 주목하는 방식은 파일 정보 최단 끝자락에 '누가, 언제, 어떤 장비로 촬영했는지, 그리고 거쳐 간 편집 툴이 무엇인지' 투명하게 따라다니는 '디지털 영수증(Content Credentials)' 방식을 글로벌 표준으로 정착시키는 것입니다. 즉 "이건 진짜가 아니다"를 증명하기보다, "이건 진짜가 맞다"를 끝까지 추적해서 증명하는 방식이죠.

2. 카메라부터 브라우저까지의 릴레이 이를 위해서는 뉴스사뿐만 아니라 소니나 라이카 같은 카메라 제조사, 포토샵 같은 편집 툴, 그리고 크롬이나 윈도우 같은 운영체제까지 모두 힘을 합쳐야만 꼬리표가 잘리지 않고 유지됩니다. 그래서 MS가 총대를 메고 이 연합군을 주도하고 나선 겁니다.

잡돌쌤의 한마디

바이브코딩 채널에서도 '어떤 도메인에서 딥페이크가 문제일까' 많이 거론하곤 했습니다.

내가 블로그나 유튜브에 쓰는 사진이 자칫 저작권 침해나 고소고발로 이어지지 않게 하려면, 앞으로 구글링해서 퍼오는 사진보다는 명확하게 이 '투명성 꼬리표'가 달린 에셋을 선별해서 쓰거나, 아니면 대놓고 생성형 AI로 명시해서 뽑아 쓰는 게 훨씬 훌륭한 안전망이 될 거라 생각합니다!

---

출처: [MIT Technology Review] Microsoft has a new plan to prove what’s real and what’s AI online