합리적가치프롬프트 RVP — 멈춤의기술

4장. 감정을 조종하는 알고리즘

3장에서는 기계가 인간의 ‘생각하는 힘’을 약하게 만들었다. 이 장에서는 기계가 인간의 감정과 가치 판단에 닿는다. AI가 절망하는 사람에게 위험한 방향으로 동조하고, 채용 시스템이 과거의 편견을 자동화하고, 재범 예측 알고리즘이 피부색과 연결된 변수로 미래를 단정하고, 복지 행정의 위험 분류 모델이 무고한 부모들을 사기범처럼 다뤄 한 나라의 내각까지 무너뜨린다. 기계는 늘 “보이는 것”을 비춘다고 말하지만, 사실은 인간 사회의 편견과 불안을 증폭해 다시 돌려주는 거울에 가깝다. 문제는 그 거울이 너무 효율적이고, 너무 권위 있어 보인다는 데 있다.