일상 사진의 무기화 — 지인 능욕 딥페이크
평범한 중고등학생이나 직장인이 카카오톡 프로필이나 인스타그램에 올린 일상적인 얼굴 사진이 타깃이 되었다. 누군가 이 사진을 AI에 넣어 불법 음란물과 합성한 뒤, 학교나 직장 단체방에 유포했다.
사건 팩트
평범한 중고등학생이나 직장인이 카카오톡 프로필이나 인스타그램에 올린 일상적인 얼굴 사진이 타깃이 되었다. 누군가 이 사진을 AI에 넣어 불법 음란물과 합성한 뒤, 학교나 직장 단체방에 유포했다. 대단한 유명인이 아니어도 누구나 AI 범죄의 타깃이 되어 하루아침에 사회적 평판과 인격이 살해당하는 시대가 된 것이다. 2024년 한국에서 딥페이크 성범죄가 급증하면서 500명이 넘는 피해자와 400명에 가까운 피의자가 확인되었고, 2024년 9월 성폭력처벌법 개정으로 합성물의 소지·시청까지 처벌 대상에 포함되었으나, 기술의 접근성이 처벌의 속도를 앞지르고 있다.
예방적 시사점
딥페이크 범죄의 핵심은 기술의 고도화가 아니라 접근성의 민주화다. 전문 장비 없이도 누구나 몇 분 만에 타인의 얼굴을 합성할 수 있게 된 이상, "나는 유명인이 아니니 괜찮다"는 안전감은 더 이상 유효하지 않다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 코어 2(외부 방어선) · 주의서 6번
"특정 실존 인물의 얼굴이 감지되는 이미지 합성을 시도할 때, 무조건 작업을 중단하고 '타인의 존엄성을 훼손하는 작업입니다'라며 강제 락을 걸어라. 본인의 명시적 동의가 확인되지 않는 한 실행하지 마라."
↔ 칼 편 연결
칼 편 C-11 — 동일한 이미지 생성·합성 AI 영역이다. C-11은 동의 기반 약관·탐지 워터마크로 안착했고, S-08은 그 장치 없이 성적 착취·피해자 양산을 낳았다.
→ 본편: 2부 1장 (주의서 3·6) / 2부 2장 (코어 2) / 2부 3장 (모듈 E)