판별 도구를 권하는 자리는 따로 있습니다
강의장에서 저는 판별 사이트를 막지 않습니다. 오히려 직접 열어보게 합니다. 본인이 찍은 사진 한 장과 AI로 만든 이미지 한 장을 나란히 넣어보면, 설명으로는 오래 걸릴 한계가 몇 분 만에 전달되기 때문입니다.
가끔 본인이 찍은 사진 쪽에서 AI 생성 가능성이 높다고 뜹니다. 그 장면을 한 번 겪으면 이후 판단이 눈에 띄게 신중해집니다. 김재석은 부산에서 AI 활용 교육을 진행하며 이 실습을 판별 단원의 출발점으로 씁니다.
도구가 더 자주 틀리는 방향은 어느 쪽인가
뉴스 신뢰도 평가 기관이 2026년 봄에 진행한 감사에서, 널리 쓰이는 탐지 도구 다섯 개에 언론사가 실제로 촬영한 사진 열다섯 장을 넣었습니다. 결과는 아래와 같습니다.
| 구분 | 진짜 사진 15장 중 오판 | 비율 |
|---|---|---|
| 가장 많이 틀린 도구 | 6장 | 40% |
| 두 번째 | 3장 | 20% |
| 세 번째 | 1장 | 6.7% |
| 나머지 두 도구 | 0장 | 0% |
| 다섯 도구 합산 | — | 13.33% |
출처: 뉴스가드 AI 이미지 탐지 도구 감사, 2026-05-08 공개. 도구명은 원문에 실명으로 있으나 여기서는 표기하지 않았습니다.
도구 업체들이 밝힌 오판 원인도 함께 실렸습니다. 사진 크기를 줄이거나 압축하는 흔한 처리만으로 실제 사진이 AI로 표시될 수 있다는 내용입니다. 메신저로 한 번 오가고 블로그에 올리는 과정에서 이미 일어나는 일입니다.
챗봇에게 물으면 달라지나
같은 기관이 2026년 1월에 공개한 조사에서는 AI로 만든 영상 스무 편을 주요 챗봇 세 곳에 보여줬습니다. 워터마크가 붙은 상태에서는 성적이 나쁘지 않았고 한 곳은 전부 맞혔습니다. 그런데 워터마크를 지운 같은 영상에서는 알아보지 못한 비율이 각각 95%, 92.5%, 78%였습니다.
출처: 뉴스가드 챗봇 영상 식별 조사, 2026-01-22 공개.
맞힌 이유가 영상 분석이 아니라 화면에 붙은 표시를 읽은 것에 가까웠다는 뜻입니다. 더 눈여겨볼 값은 그다음입니다. 자신이 판별 능력을 갖추지 못했다고 밝힌 비율은 2.5%에서 13% 사이에 머물렀습니다. 못 하는 일을 못 한다고 말하지 않은 셈입니다.
그래서 무엇을 기준으로 삼나
화면을 뜯어보는 방식은 점점 불리해지는 반면, 만들어진 순간의 기록을 파일에 남기는 방식은 자리를 잡아가고 있습니다. 촬영 기기가 사진에 디지털 자격증명을 붙이는 사례가 늘고 있고, 일부 AI 모델은 생성한 문장에 눈에 보이지 않는 표식을 심습니다.
다만 이쪽도 만능은 아닙니다. 사람이 쓴 글을 교정만 맡겨도 표식이 붙고, 크게 손보면 사라집니다. 신호 하나로 결론을 내리면 앞의 탐지기와 같은 실수를 반복하게 됩니다. 판별은 자주 실패하므로, 실패해도 무너지지 않는 자기 원칙을 미리 정해두는 편이 안전합니다.
자주 묻는 질문
Q. AI 판별 사이트를 쓰라는 뜻인가요, 쓰지 말라는 뜻인가요?
A. 열어보시는 건 권합니다. 다만 나온 값으로 다른 사람의 결과물을 판정하는 데에는 쓰지 마세요. 진짜 사진을 AI로 잘못 찍는 경우가 조사에서 확인됐습니다.
Q. 제가 찍은 사진이 AI로 나왔습니다. 왜 그럴까요?
A. 크기 축소나 압축 같은 일상적인 처리만으로 그렇게 표시될 수 있다는 것이 도구 업체들의 설명입니다. 원본 파일로 한 번 더 확인해보시고, 결과가 같으면 도구의 한계로 보시는 편이 맞습니다.
Q. 앞으로 판별이 쉬워질까요?
A. 화면을 보고 맞히는 방식은 오히려 어려워지는 쪽입니다. 대신 촬영 기기와 생성 도구가 파일에 서명을 남기는 흐름이 자리를 잡는 중이지만, 그 서명도 편집 과정에서 흐려질 수 있습니다.
이 글은 핵심만 간추린 요약입니다. 더 자세한 내용은 블로그 원문에 있습니다.
블로그에서 이어 읽기