구글 AI 감지기…미검출도 안심 못 해

신스ID 감지기 전 세계 공개…워터마크가 없어도 AI 생성 가능성 남아

온라인에서 접한 사진이나 영상이 인공지능(AI)으로 만들어졌는지 살펴볼 수 있는 구글의 ‘신스ID 디텍터’가 일반에 공개됐다. 다만 워터마크가 감지되지 않았다는 결과만으로 실제 촬영물이라고 단정할 수는 없다.

구글은 지난 10월 7일 신스ID 디텍터를 전 세계 이용자에게 영어로 제공한다고 밝혔다. 이미지와 동영상, 음성 파일에 담긴 AI 생성 관련 신호를 확인하는 도구다.

구글에 따르면 감지기는 구글 AI뿐 아니라 오픈AI·엔비디아·카카오 등 파트너사의 AI로 제작된 콘텐츠 확인도 지원한다. 모든 AI 서비스의 생성물을 판별한다는 뜻은 아니므로 지원 범위를 살펴야 한다.

신스ID는 사람 눈에 보이지 않는 디지털 워터마크를 콘텐츠에 삽입하는 기술이다. 감지기는 업로드된 파일을 살펴보고 워터마크가 있을 가능성이 높은 이미지 영역이나 음성 구간을 표시할 수 있다.

제미나이 앱에서도 파일을 올려 구글 AI로 생성하거나 수정한 것인지 질문할 수 있다. 구글 고객센터에 따르면 이 기능에는 로그인과 개인 계정 또는 자격 요건을 충족하는 워크스페이스 계정이 필요하다. 한 번에 파일 하나를 올릴 수 있으며 크기는 100MB 이하여야 한다.

두 도구의 확인 범위는 구분해야 한다. 구글은 제미나이 앱의 신스ID 확인이 현재 구글 AI 도구로 만든 콘텐츠를 인식한다고 안내한다. 이미지가 여러 차례 수정되면 워터마크가 감지되지 않을 수도 있다.

콘텐츠의 제작·수정 이력을 담은 ‘콘텐츠 자격 증명’도 확인에 도움이 되지만, 그것만으로 AI 생성 여부가 확정되는 것은 아니다. 의심스러운 이미지라면 원본 출처와 촬영 시점, 같은 장면을 보도한 신뢰할 만한 자료를 함께 확인해야 한다.