AI가 써준 '가짜 탄원서'의 말로
한 마약 사범이 구치소에서 지인을 통해 ChatGPT로 작성한 보석 석방 탄원서를 법원에 제출했다. 문장 자체는 매우 수려했으나, AI 특유의 구체적인 사실관계가 결여된 두루뭉술한 내용을 수상히 여긴 검사에게 적발되었다.
사건 팩트
한 마약 사범이 구치소에서 지인을 통해 ChatGPT로 작성한 보석 석방 탄원서를 법원에 제출했다. 문장 자체는 매우 수려했으나, AI 특유의 구체적인 사실관계가 결여된 두루뭉술한 내용을 수상히 여긴 검사에게 적발되었다. 결국 사문서 위조 및 행사죄가 추가되어 징역 6개월을 더 선고받았다. 기계는 완벽한 문법을 구사하지만 내 삶의 구체적인 맥락과 진실은 전혀 알지 못한다. 중요한 문서를 AI에게 전적으로 맡기는 행위가 스스로를 법적 위험에 빠뜨린 사건이었다.
예방적 시사점
"AI가 나보다 글을 잘 쓴다"는 맹신이 부른 참사다. 인간의 책임이 뒤따르는 공식 서류나 법적 문건에 AI가 생성한 초안을 그대로 복사하여 사용하는 것은 극도로 위험하다. AI의 문장력을 빌리되, 사실관계는 반드시 인간이 직접 확인하고 채워야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 코어 1(관계 설정) · 모듈 A(정보 검증)
"인간의 책임이 뒤따르는 공식 서류나 법적 문건에 AI가 생성한 사실관계가 확인되지 않은 초안을 그대로 사용하는 것을 엄격히 금지한다. AI의 출력은 초안일 뿐, 최종 확인과 서명은 인간의 몫이다."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 1·12) / 2부 2장 (코어 1) / 2부 3장 (법적/공식 모드 · 모듈 A)