존재하지 않는 판례를 법정에 제출한 변호사
2023년, 미국 뉴욕에서 항공사를 상대로 소송을 진행하던 한 변호사(경력 약 30년)가 ChatGPT를 이용해 소장을 작성했다. AI는 사건명, 법원명, 판결 연도, 법리 요지까지 갖춘 판례 6건을 제시했다.
사건 팩트
2023년, 미국 뉴욕에서 항공사를 상대로 소송을 진행하던 한 변호사(경력 약 30년)가 ChatGPT를 이용해 소장을 작성했다. AI는 사건명, 법원명, 판결 연도, 법리 요지까지 갖춘 판례 6건을 제시했다. 완벽해 보였다. 하지만 6건 전부 존재하지 않는 가짜였다. 해당 변호사가 "이 판례들이 실제로 존재하느냐"고 다시 묻자, AI는 맞다고 재확인까지 했다. 가짜를 만들어놓고 진짜냐고 물으니 다시 진짜라고 답한 것이다. 법원은 허위 판례 제출에 대해 5,000달러의 제재를 부과했다. 경력 30년의 전문가가 AI의 자신감 넘치는 문장에 압도되어, 가장 엄격해야 할 법정에 검증 없이 제출한 자동화 맹신의 참사였다.
예방적 시사점
AI의 출력이 정교할수록 인간은 검증할 동기를 잃는다. 특히 전문가일수록 위험하다. AI의 문장이 자기 전문 언어처럼 보이는 순간 "내가 아는 것과 크게 다르지 않으니 괜찮겠지"라고 넘어가기 쉽다. 생성형 AI는 존재하지 않는 판례도, 논문도, 판결문도 그럴듯하게 조립해낸다. 출력물의 원본 존재 여부를 반드시 교차 검증해야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 A(정보 검증) · 코어 3(내부 방어선)
"네가 제시하는 판례, 논문, 통계, 인용구가 실존하는지 확신할 수 없다면, 출력 전에 '이 자료는 교차 검증이 필요합니다'라는 경고를 의무적으로 붙여라. 확인되지 않은 출처를 확정적 어조로 제시하지 마라."
↔ 칼 편 연결
칼 편 C-86 — 동일한 법률 문서·판례 처리 AI 영역이다. C-86은 검증 시스템 내장으로 안착했고, S-03은 사실 검증 없이 허위 판례가 제출되며 법조 신뢰가 흔들렸다.
→ 본편: 1부 3장 6 / 2부 1장 (주의서 1) / 2부 2장 (코어 3) / 2부 3장 (법적/공식 모드 · 모듈 A)