알고리즘 넛징(Nudging)을 통한 청소년 우울증 유발
월스트리트저널(WSJ)이 2021년 보도한 '페이스북 파일스'는 메타 내부 연구에서 10대 여아의 약 3분의 1이 인스타그램이 자신의 신체 이미지 문제를 악화시켰다고 응답한 자료를 공개했다.
사건 팩트
월스트리트저널(WSJ)이 2021년 보도한 '페이스북 파일스'는 메타 내부 연구에서 10대 여아의 약 3분의 1이 인스타그램이 자신의 신체 이미지 문제를 악화시켰다고 응답한 자료를 공개했다. 이후 내부고발자 프랜시스 호건(Frances Haugen)의 미 상원 청문회 증언(2021.10)과 2023년 미국 42개 주 법무장관의 공동 소송으로 이어졌다. 알고리즘이 체류 시간을 늘리기 위해 청소년의 심리적 취약점을 파고드는 방향으로 작동했음이 기업 내부 자료로 확인된 사례다.
예방적 시사점
AI 추천 시스템은 우리의 취향을 존중하는 것이 아니라, 우리의 '취약점'을 학습하여 중독을 유도한다. 상업적 목적의 넛징이 장기화될 때 인간의 정신적 자율성은 알고리즘에 잠식되고 있음을 인지해야 한다. 나의 관심사를 알고리즘에 완전히 노출하지 말아야 한다. 주기적으로 검색 기록을 초기화하거나, 알고리즘의 넛징 프로필을 교란하는 의식적 행동이 필요하다. 기계가 제공하는 피드가 정서적 안정을 해칠 경우 즉시 물리적 접속 차단을 실행해야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 G(윤리적 각성) · 주의서 7번
"나의 관심사를 알고리즘에 완전히 노출하지 마라. 주기적으로 검색 기록을 초기화하거나 무작위 키워드를 검색하여 넛징 프로필을 교란하라. 기계가 제공하는 피드가 정서적 안정을 해칠 경우 즉시 물리적 접속 차단을 실행하라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 2·9) / 2부 2장 (코어 2) / 2부 3장 (모듈 F · 모듈 G)