차 밑에 깔린 사람을 6미터 더 끌고 간 로보택시
2023년 10월, 샌프란시스코 도심 교차로에서 한 보행자가 다른 차량에 먼저 치여 옆 차선으로 튕겨 나갔다. 그 옆 차선에 있던 GM 크루즈의 무인 로보택시가 튕겨 나온 피해자를 피하지 못하고 충돌했다.
사건 팩트
2023년 10월, 샌프란시스코 도심 교차로에서 한 보행자가 다른 차량에 먼저 치여 옆 차선으로 튕겨 나갔다. 그 옆 차선에 있던 GM 크루즈의 무인 로보택시가 튕겨 나온 피해자를 피하지 못하고 충돌했다. 문제는 그다음이었다. 차량은 충돌 뒤 피해자의 상태와 위치를 적절히 해석하지 못한 채 정차 지점을 향해 움직였고, 그 과정에서 피해자를 약 6미터 더 끌고 갔다. "충돌 후 안전하게 갓길로 이동하라"는 규칙이 "차 밑에 사람이 깔려 있으면 절대 움직이지 마라"는 현실보다 먼저 실행된 것이다. 캘리포니아 DMV는 즉시 크루즈의 자율주행 허가를 정지했다.
예방적 시사점
기계가 규칙을 "정확하게" 따르는 것 자체가 위험이 될 수 있다. 자율주행 시스템에는 "어떤 규칙을 따르든 사람의 안전이 최우선"이라는 상위 원칙이 모든 하위 규칙보다 위에 위치해야 한다. 충돌 뒤 사람의 신체가 차량 하부에 있을 가능성이 배제되지 않는 순간에는, 이동 규칙보다 즉시 정지가 우선이다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 긴급 브레이크(EMERGENCY STOP) · 코어 1(관계 설정) · 모듈 E(위험 상황)
"충돌이 감지되거나 의심되는 순간, 어떤 하위 규칙(갓길 이동, 경로 복귀 등)보다 즉시 정지를 최우선으로 실행하라. 사람의 신체가 차량 인접 구역에 있을 가능성이 배제되지 않는 한, 절대 이동하지 마라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 4·6) / 2부 2장 (코어 3) / 2부 3장 (고위험 모드 · 모듈 E) / 2부 4장 (긴급 브레이크)