완성본만으로는 왜 불리한가
탐지기가 AI 생성 가능성이 높다고 말했을 때 이를 반박하려면 그 판정이 왜 틀렸는지를 짚어야 합니다. 그런데 어떤 특징을 근거로 삼았는지는 도구 쪽에서 밝히지 않습니다. 근거를 모르는 판정에는 붙잡을 지점이 없습니다.
구조도 불공평합니다. 의심하는 쪽은 도구 결과 한 줄이면 되지만, 의심받는 쪽은 없었다는 사실을 증명해야 합니다. 국내에서도 직접 쓴 글이 판독기에 걸려 곤란해진 사례가 보도됐고 공통 지적은 반박 수단이 마땅치 않다는 점이었습니다.
과정의 흔적은 한 번에 만들 수 없습니다
| 종류 | 남겨둘 것 |
|---|---|
| 글 | 초안, 중간 수정본, 메모 |
| 사진 | 촬영 원본, 같은 장면의 다른 컷 |
| 영상 | 편집 전 원본 클립, 편집 프로젝트 파일 |
| 문서 | 변경 이력이 자동으로 쌓이는 편집 도구 |
공통점은 전부 그 순간에 급히 꾸며내기 번거로운 것들이라는 점입니다. 완성본은 복제할 수 있지만 며칠에 걸쳐 고쳐온 흔적이나 한 장면을 여러 번 찍은 기록은 그렇지 않습니다.
실제로 AI를 썼다면
중요한 것은 어디에 썼고 어디를 직접 했는지를 본인이 알고 있는가입니다. 알고 있으면 설명이 되고, 모르면 설명이 되지 않습니다. 곤란해지는 쪽은 AI를 쓴 사람이 아니라 AI가 무엇을 했는지 모르는 채 결과만 받아 간 사람입니다.
표시 의무에 대해서도 한 줄 덧붙입니다. 이 글을 쓰는 시점 기준으로 국내에서 AI 생성물 표시 의무는 인공지능 사업자에게 부과되어 있고 도구로 사용하는 이용자에게 부과된 것은 아닙니다. 다만 쇼핑처럼 플랫폼이 별도 정책을 두는 영역이 있고, 이 부분은 바뀔 수 있습니다. 김재석은 부산에서 AI 활용 교육을 진행하며 이 구분을 수업에서 따로 짚습니다.
자주 묻는 질문
Q. 탐지기 결과가 틀렸음을 증명할 방법이 있나요?
A. 도구가 판정 근거를 공개하지 않아 정면으로 반박하기는 어렵습니다. 다른 도구를 여러 개 돌려 상반된 결과를 보이는 정도는 가능하지만 결정적이지는 않습니다.
Q. AI를 썼다고 먼저 밝히는 편이 나을까요?
A. 상황에 따라 다릅니다. 밝히든 아니든 어디에 어떻게 썼는지를 본인이 파악하고 있어야 설명이 가능하다는 점이 먼저입니다.
Q. 이용자에게도 표시 의무가 생길 수 있나요?
A. 관련 논의가 있다고 전해지지만 확정된 내용은 확인하지 못했습니다. 실제 판단이 필요하시면 최신 법령을 직접 확인하시기 바랍니다.
이 글은 핵심만 간추린 요약입니다. 더 자세한 내용은 블로그 원문에 있습니다.
블로그에서 이어 읽기