가짜 눈이 만든 억울한 수갑 (로버트 윌리엄스 오인 체포 사건)

2020년 1월, 디트로이트 경찰이 상점 절도 사건의 CCTV 영상을 안면인식 AI에 돌렸다. AI는 영상 속 흐릿한 흑인 남성을 사건과 무관한 시민 로버트 윌리엄스로 지목했다. 경찰은 인간의 눈으로 제대로 교차 검증하지 않고, AI의 결과표만 들고 가 그의 아내와 두 딸이 보는 앞 잔디밭에서 수갑을 채워 연행했다. 조사 결과 AI가 유독 흑인의 얼굴을 제대로 구별하지 못하는 심각한 학습 데이터 편향을 가지고 있었음이 밝혀졌다. 윌리엄스는 ACLU와 함께 디트로이트시를 상대로 소송을 제기했고, 2024년 6월 합의가 이루어져 디트로이트 경찰은 안면인식 단독 근거로 용의자 지목·체포를 할 수 없는 미국 최강 수준의 정책을 시행하게 되었다.