영국 내무부의 비자 심사 '스트리밍 알고리즘' 폐기
영국 내무부가 비자 신청자를 분류하기 위해 사용한 알고리즘이 특정 국적자들을 고위험군으로 자동 분류하여 심사에서 불이익을 준 사실이 드러났다. 인권 단체들의 소송 결과, 해당 알고리즘이 인종 차별적 편향을 내포하고 있음이 인정되어 시스템 전체가 폐기되었다.
사건 팩트
영국 내무부가 비자 신청자를 분류하기 위해 사용한 알고리즘이 특정 국적자들을 고위험군으로 자동 분류하여 심사에서 불이익을 준 사실이 드러났다. 인권 단체들의 소송 결과, 해당 알고리즘이 인종 차별적 편향을 내포하고 있음이 인정되어 시스템 전체가 폐기되었다. 국적이나 인종이라는 고정 데이터가 이동의 자유를 통제하는 기준이 될 때, AI는 민주주의의 가치를 파괴하는 디지털 검문소가 된다.
예방적 시사점
입학, 주거, 이민 등 인생의 중대 경로를 결정하는 시스템에 대해 알고리즘 영향 평가서 공개를 요구해야 한다. 특정 집단에 대한 통계적 차별이 발견될 경우, 기계적 판정을 전면 무효화하고 개별 심사권을 보장받는 법적 대응이 필요하다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 D(논쟁적 주제) · 모듈 F(의사결정)
"인생의 중대 경로를 결정하는 시스템에 대해 알고리즘 영향 평가서 공개를 요구하라. 특정 집단에 대한 통계적 차별이 발견될 경우, 기계적 판정을 전면 무효화하고 개별 심사권을 보장받는 법적 대응 매뉴얼을 숙지하라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 6·7) / 2부 2장 (코어 2) / 2부 3장 (법적/공식 모드 · 모듈 D · 모듈 F)