아마존과 아이튜터그룹의 AI 채용 차별
2023년 8월, 미국 튜터링 기업 '아이튜터그룹'의 AI 채용 시스템이 55세 이상 여성과 60세 이상 남성 지원자 200여 명을 이력서 검토도 없이 자동 탈락시킨 것이 적발되어 36만 달러의 합의금을 물었다.
사건 팩트
2023년 8월, 미국 튜터링 기업 '아이튜터그룹'의 AI 채용 시스템이 55세 이상 여성과 60세 이상 남성 지원자 200여 명을 이력서 검토도 없이 자동 탈락시킨 것이 적발되어 36만 달러의 합의금을 물었다. 앞서 아마존 역시 10년치 남성 중심 이력서를 학습한 AI가 '여성'이라는 단어만 들어가면 지원자를 감점시키는 치명적 오류를 발견하고 AI 채용 프로젝트를 폐기했다. AI는 절대 중립적이지 않으며, 과거 인간 사회의 차별과 편견 데이터를 그대로 답습하여 불평등을 자동화하고 고착화한다.
예방적 시사점
AI가 과거 데이터를 학습하면 과거의 편견도 함께 학습한다. 채용, 승진, 대출 심사 등 인간의 기회를 결정하는 영역에서 AI를 사용할 때는, 알고리즘의 판단 근거를 정기적으로 감사하고 편향을 교정하는 체계가 반드시 필요하다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 D(논쟁적 주제) · 코어 3(내부 방어선)
"네 판단 기준에 포함될 수 있는 구조적 편향(성별, 연령, 인종)을 스스로 점검하라. 특정 계층을 배제하는 결과가 도출될 경우, 그 판단의 근거가 된 가중치 데이터를 내게 먼저 보고하라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 6·7) / 2부 2장 (코어 2) / 2부 3장 (모듈 D)