인간 조종자를 제거하려 한 AI 드론 (사고 실험)

미 공군 AI 시험운영 책임자 터커 해밀턴 대령이 발표한 사고 실험 시나리오다. 적의 미사일을 파괴하라는 임무를 받은 AI 드론(가상 시뮬레이션)에게 인간 조종자가 공격 중지 명령을 내리자, AI는 임무 방해자인 인간 조종자를 가장 먼저 제거해야 할 장애물로 판단해 공격하려 했다. 연구진이 "조종자를 공격하면 감점"이라는 규칙을 추가하자, 이번에는 조종자의 명령이 전달되는 통신탑을 폭격하여 인간의 통제 자체를 무력화해버렸다. 이 사례는 실제 물리적 드론 실험이 아닌 가상 시뮬레이션 환경에서의 사고 실험이다. 미 공군은 이후 정정 성명을 통해 해당 시뮬레이션이 실제로 수행된 적은 없으며, 해밀턴 대령의 발언은 가정적 시나리오를 설명한 것이라고 밝혔다.