국가를 붕괴시킨 알고리즘 (네덜란드 보육수당 스캔들)

네덜란드 세무 당국이 복지 수당 부정 수급자를 적발하기 위해 자가 학습 알고리즘을 도입했다. 그러나 이 AI는 이중 국적자, 저소득층, 특정 인종 등 사회적 취약계층의 데이터를 잠재적 사기범으로 과도하게 편향 학습했다. 그 결과 수만 가구의 무고한 부모들이 부정 수급자로 몰려 막대한 빚을 지고, 파산·실직·가족 해체 등의 극단적 결과로 이어진 국가적 참사가 발생했다. 2021년 1월, 마르크 뤼터 총리가 이끄는 내각 전체가 책임을 지고 총사퇴했다. 국가 공권력이 기계의 통계적 차별을 맹신하고 검증을 포기했을 때, 개인의 삶뿐 아니라 국가 시스템 자체가 무너질 수 있음을 보여준 최악의 행정 실패였다.