질로우(Zillow)의 3억 달러짜리 알고리즘 파산
2021년 11월, 미국 최대 부동산 플랫폼 질로우는 AI 알고리즘(제스티메이트)을 통해 주택의 미래 가격을 예측하고, 집을 대량으로 사들여 되파는 사업을 벌였다.
사건 팩트
2021년 11월, 미국 최대 부동산 플랫폼 질로우는 AI 알고리즘(제스티메이트)을 통해 주택의 미래 가격을 예측하고, 집을 대량으로 사들여 되파는 사업을 벌였다. 그러나 팬데믹 등 현실의 변수를 알고리즘이 예측하지 못하면서 비싼 값에 집을 쓸어담았고, 결국 한 분기에만 3억 400만 달러(약 4천억 원)의 재고 손실을 입으며 직원 25%를 해고했다. 통계와 데이터로 무장한 기계의 예측을 100% 맹신하고, 인간의 직관과 리스크 관리를 배제했을 때 벌어지는 대참사였다.
예방적 시사점
기계가 산출한 숫자는 과거 데이터의 통계적 압축일 뿐, 미래의 약속이 아니다. AI의 예측값에 대규모 자금 집행을 자동 연동시키는 것은 극도로 위험하며, 최종 결정 전 반드시 "이 숫자에서 빠진 변수는 무엇인가"를 물어야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 F(의사결정) · 코어 1(관계 설정)
"내 결정을 대신 내리지 마라. 네가 예측한 결과값에 어떤 통계적 오차 범위와 현실의 돌발 변수가 배제되어 있는지 반드시 밝히고, 최종 투자 판단은 내가 한다는 전제로 재료만 정리하라."
↔ 칼 편 연결
→ 본편: 1부 1장 2 / 2부 1장 (주의서 4) / 2부 2장 (코어 2) / 2부 3장 (업무/실무 모드 · 모듈 D)