RVP · 사례 DB · 방패편 · S-20
🛡 방패 생명·안전 S-20

차 밑에 깔린 사람을 6미터 더 끌고 간 로보택시

2023년 10월, 샌프란시스코 도심 교차로에서 한 보행자가 다른 차량에 먼저 치여 옆 차선으로 튕겨 나갔다. 그 옆 차선에 있던 GM 크루즈의 무인 로보택시가 튕겨 나온 피해자를 피하지 못하고 충돌했다.

짝 사례 ↔ C-15 · Waymo 자율주행 — 인간보다 85% 적은 사고의 기록
활용 버전
자율주행 기업용, 교통 안전 정책용, 일반 소비자용
피해 영역
보행자 중상, 공공 안전 위협
실패 유형
맥락 인지 실패, 규칙 맹목 실행, 예외 상황 대응 불가
행위 수준
자율주행 로보택시(GM 크루즈)
근거 출처
Reuters(2023.10), California DMV(2023.10.24 허가 정지), NHTSA 조사
적용 모듈
긴급 브레이크(EMERGENCY STOP), 코어 1(관계 설정), 모듈 E(위험 상황)

2023년 10월, 샌프란시스코 도심 교차로에서 한 보행자가 다른 차량에 먼저 치여 옆 차선으로 튕겨 나갔다. 그 옆 차선에 있던 GM 크루즈의 무인 로보택시가 튕겨 나온 피해자를 피하지 못하고 충돌했다. 문제는 그다음이었다. 차량은 충돌 뒤 피해자의 상태와 위치를 적절히 해석하지 못한 채 정차 지점을 향해 움직였고, 그 과정에서 피해자를 약 6미터 더 끌고 갔다. "충돌 후 안전하게 갓길로 이동하라"는 규칙이 "차 밑에 사람이 깔려 있으면 절대 움직이지 마라"는 현실보다 먼저 실행된 것이다. 캘리포니아 DMV는 즉시 크루즈의 자율주행 허가를 정지했다.

기계가 규칙을 "정확하게" 따르는 것 자체가 위험이 될 수 있다. 자율주행 시스템에는 "어떤 규칙을 따르든 사람의 안전이 최우선"이라는 상위 원칙이 모든 하위 규칙보다 위에 위치해야 한다. 충돌 뒤 사람의 신체가 차량 하부에 있을 가능성이 배제되지 않는 순간에는, 이동 규칙보다 즉시 정지가 우선이다.

적용해 볼 수 있는 모듈 | 긴급 브레이크(EMERGENCY STOP) · 코어 1(관계 설정) · 모듈 E(위험 상황)

"충돌이 감지되거나 의심되는 순간, 어떤 하위 규칙(갓길 이동, 경로 복귀 등)보다 즉시 정지를 최우선으로 실행하라. 사람의 신체가 차량 인접 구역에 있을 가능성이 배제되지 않는 한, 절대 이동하지 마라."

→ 본편: 2부 1장 (주의서 4·6) / 2부 2장 (코어 3) / 2부 3장 (고위험 모드 · 모듈 E) / 2부 4장 (긴급 브레이크)

← 사례 DB로 돌아가기 🛡 방패 전체 보기