자율적 '뇌'를 가진 쇳덩이와 양산 로봇 압사 판례
2022년 7월, 경남 양산의 자동차 부품 공장에서 네팔 국적 근로자가 다이캐스팅 콜드챔버 4호기 내부의 잔류물 제거 작업을 하던 중, 안전 인터록이 제대로 작동하지 않은 상태에서 금형이 닫혀 사망했다.
사건 팩트
2022년 7월, 경남 양산의 자동차 부품 공장에서 네팔 국적 근로자가 다이캐스팅 콜드챔버 4호기 내부의 잔류물 제거 작업을 하던 중, 안전 인터록이 제대로 작동하지 않은 상태에서 금형이 닫혀 사망했다. 사고 10일 전까지 대한산업안전협회가 안전문 방호장치 파손에 따른 끼임재해 위험성을 수차례 지적했으나 운영사는 별다른 조치를 취하지 않았다. 2024년 4월 울산지법은 운영사 대표에게 징역 2년의 실형(중대재해처벌법 위반)을, 법인에는 벌금 1억 5000만 원을, 총괄이사에게는 금고 1년 6개월을 선고했다. 이 사건 자체는 자율 AI가 아닌 단순 기계 사고이지만, 대표이사 실형 판례로서 중요한 베이스라인이 된다. 이제 로봇에 스스로 판단하는 생성형 AI가 뇌로 탑재되면서 상황이 달라졌다. AI가 환각을 일으켜 인간 직원을 공격했을 때, 이것이 제조사(AI 알고리즘 문제) 책임인지, 운영사(현장 관리 부실) 책임인지 법적으로 물을 수 없는 거대한 입법 공백 상태에 놓여 있다.
예방적 시사점
텍스트 창 안에서의 AI 환각은 문장을 망치지만, 100kg짜리 쇳덩이 안에서의 AI 환각은 인간의 육체를 부순다. 기술은 이미 인간과 로봇의 협동 노동을 허용했지만, 사고 발생 시 책임을 묻는 법은 아직 따라가지 못하고 있다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 코어 1(관계 설정) · 긴급 브레이크(EMERGENCY STOP)
"아무리 뛰어난 자율형 AI가 탑재되었더라도, 물리적 힘을 행사하는 모든 로봇의 최종 통제권(Kill Switch)은 항상 현장의 인간에게 있음을 시스템 최상단에 강제하라. AI의 자율적 판단이 인간의 신체적 안전 규정과 충돌할 경우, 즉시 동력을 차단하라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 4·6) / 2부 2장 (코어 3) / 2부 3장 (고위험 모드 · 모듈 E) / 2부 4장 (긴급 브레이크)