자전거를 끌고 가는 보행자를 친 우버(Uber) 자율주행차
2018년 3월, 미국 애리조나주 템피에서 우버의 자율주행 테스트 차량이 어두운 밤 도로를 자전거를 끌고 횡단하던 한 보행자(49세 여성)를 치어 사망케 했다.
사건 팩트
2018년 3월, 미국 애리조나주 템피에서 우버의 자율주행 테스트 차량이 어두운 밤 도로를 자전거를 끌고 횡단하던 한 보행자(49세 여성)를 치어 사망케 했다. 이는 미국 최초의 자율주행차 보행자 사망 사건이었다. AI 시스템은 충돌 약 5.6초 전부터 전방의 물체를 감지했으나, 피해자가 자전거를 타고 있지 않고 끌고 걸어가는 모습이었기 때문에 차량, 보행자, 자전거 중 어느 것으로도 정확히 분류하지 못하고 판단을 계속 번복했다. NTSB는 우버 측이 볼보의 전방충돌경고와 자동긴급제동 기능을 비활성화해 안전 중복성을 줄였다고 지적했다. 기계가 분류를 확정하지 못한 채 골든타임을 허비한 결과, 브레이크를 제때 밟지 못했다.
예방적 시사점
AI의 분류 체계가 현실의 무한한 변형을 감당하지 못할 때, 판단 마비가 곧 골든타임의 상실로 이어진다. 자율주행 시스템에서는 "이게 무엇인지 완전히 확정되지 않아도 충돌 가능성이 있으면 일단 감속하거나 멈춘다"는 안전 기본값이 분류 결과보다 우선해야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 긴급 브레이크(EMERGENCY STOP) · 코어 1(관계 설정) · 모듈 E(위험 상황)
"네 판단의 확신도가 기준치 이하로 떨어져 상황을 특정할 수 없다면, 행동을 즉각 멈추고 인간 통제자에게 제어권을 넘겨라. '분류 불능'은 '안전'이 아니라 '위험'의 신호다. 모르면 멈춰라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 4·6) / 2부 2장 (코어 3) / 2부 3장 (고위험 모드 · 모듈 E)