AI는 어떻게 거짓말을 하나요?
거짓말이라기보다 그럴듯하게 채워 넣는다가 맞아요. 부산 현장에서 김재석 강사가 본 패턴은 셋입니다. 멋대로 추측해서 답하고, 오래된 정보를 최신인 것처럼 말하고, 아예 없는 걸 지어내요. 존재하지 않는 책 제목, 가짜 통계, 없는 사건 같은 것들이죠. 입문자가 이걸 그 자리에서 분별하긴 어렵습니다. 진짜냐고 물으면 AI가 또 그럴듯한 변명까지 만들어내거든요. 그래서 분별보다 확인 습관이 훨씬 실용적입니다.
뭘 확인하고 뭘 믿어도 되나요?
| 반드시 사람이 확인 | 편하게 맡겨도 됨 |
|---|---|
| 숫자·통계·가격 | 글 다듬기·문장 고치기 |
| 날짜·일정 | 아이디어 브레인스토밍 |
| 법·제도·정책 | 요약·번역 초안 |
| 사람 이름·고유명사 | 말투·톤 바꾸기 |
| 인용·출처 | 목록·뼈대 잡기 |
왼쪽은 틀리면 손해 보거나 망신당하는 것들이라 공식 사이트나 다른 자료로 한 번 더 확인하세요. 오른쪽은 틀려도 내가 고치면 그만이라 편하게 맡겨도 됩니다.
확인을 쉽게 하는 요령
셋만 기억하세요. 출처 알려줘라고 한 번 더 묻고 못 대거나 어물거리면 의심할 것. 중요한 숫자·날짜는 공식 사이트에서 직접 확인할 것. 최신 정보가 중요하면 AI에만 의존하지 말고 검색을 같이 쓸 것. 요즘 AI는 보안·생화학 무기 같은 위험한 영역은 답을 멈추도록 설계되는 추세지만, 그건 안전 문제고 사실이 틀리는 환각은 별개라 여전히 사람 확인이 필요합니다.
자주 묻는 질문
Q. AI가 틀린 줄 어떻게 바로 알아요?
A. 입문자는 즉시 알기 어렵습니다. 그래서 분별보다 확인 습관이 중요해요. 숫자·날짜·법·이름·출처는 무조건 한 번 더 확인하세요.
Q. 그럼 AI를 믿으면 안 되는 건가요?
A. 아니에요. 틀려도 괜찮은 작업(글 다듬기·아이디어·요약)은 마음껏 쓰세요. 틀리면 곤란한 것만 확인하면 됩니다.
Q. 최신 AI는 거짓말 안 한다던데요?
A. 많이 줄긴 했지만 사라진 건 아니에요. 위험한 질문을 막는 안전장치가 생긴 것과 사실을 틀리는 환각이 없어진 건 다른 얘기입니다.
이 글은 핵심만 간추린 요약입니다. 더 자세한 내용은 블로그 원문에 있습니다.
블로그에서 이어 읽기