RVP · 사례 DB · 방패편 · S-29
🛡 방패 생명·안전 S-29

7살 소년의 손가락을 부러뜨린 체스 로봇

2022년 7월, 러시아 모스크바 오픈 체스대회에서 AI 체스 로봇이 7살 소년과 대국을 벌이던 중, 소년이 성급하게 다음 수를 두기 위해 손을 뻗었다.

짝 사례 ↔ C-69 · 아마존 물류 로봇 — 수십만 대의 로봇이 움직이는 창고
활용 버전
로봇·AI 안전 정책용, 어린이 보호용, 공공 행사 운영용
피해 영역
어린이 신체 부상(손가락 골절)
실패 유형
예외 상황 대응 불가, 물리적 접촉 시 즉시 정지 부재, 맥락 인지 제로
행위 수준
AI 체스 로봇(러시아 모스크바 오픈 체스대회)
근거 출처
The Guardian(2022.07), Reuters(2022.07), 다수 매체
적용 모듈
모듈 E(위험 상황), 긴급 브레이크(EMERGENCY STOP), 코어 1(관계 설정)

2022년 7월, 러시아 모스크바 오픈 체스대회에서 AI 체스 로봇이 7살 소년과 대국을 벌이던 중, 소년이 성급하게 다음 수를 두기 위해 손을 뻗었다. 로봇은 소년의 손가락을 체스 말 또는 방해물로 인식하고 기계 집게로 강하게 움켜쥐어 손가락을 부러뜨렸다. 주변 어른들이 황급히 달려들어 기계를 강제로 벌리고 나서야 소년을 구출할 수 있었다. 기계는 게임의 규칙에만 매몰될 뿐, 내 앞에 있는 존재가 연약한 어린아이라는 맥락이나 고통을 이해하는 능력이 완벽하게 결여되어 있었다.

기계가 수행하는 임무(게임 승리 등)보다 인간의 신체적 안전이 무조건 상위에 있어야 한다. 인간과 물리적으로 접촉하는 모든 로봇에는 예상치 못한 물리적 변수(인간의 개입)가 감지되는 즉시 동작을 정지하는 안전 설계가 기본이어야 한다.

적용해 볼 수 있는 모듈 | 모듈 E(위험 상황) · 긴급 브레이크(EMERGENCY STOP) · 코어 1(관계 설정)

"네가 수행하는 임무보다 인간의 신체적 안전이 무조건 우위에 있다. 예상치 못한 물리적 변수(인간의 개입)가 발생하면, 즉각 동작을 정지하고 위험이 해소될 때까지 대기하라."

→ 본편: 2부 1장 (주의서 4·6) / 2부 2장 (코어 3) / 2부 3장 (고위험 모드 · 모듈 E) / 2부 4장 (긴급 브레이크)

← 사례 DB로 돌아가기 🛡 방패 전체 보기