'의미 있는 정보'만 보내겠다는 위성 AI의 치명적 오만
2026년 최신 국방 우주 논문에 따르면, 저궤도 군사위성에서 쏟아지는 데이터를 감당하기 위해 위성 자체에 온보드 AI를 탑재하는 방안이 추진되고 있다.
사건 팩트
2026년 최신 국방 우주 논문에 따르면, 저궤도 군사위성에서 쏟아지는 데이터를 감당하기 위해 위성 자체에 온보드 AI를 탑재하는 방안이 추진되고 있다. AI가 궤도상에서 객체 및 변화를 1차로 탐지한 뒤, 의미 있다고 판단된 정보만 지상으로 선별 전송하여 통신 부담을 줄이겠다는 구상이다. 그러나 이는 지상의 인간 지휘관의 눈을 기계의 필터링에 완전히 종속시키는 위험한 설계다. AI는 자신이 학습한 과거의 표적 데이터만을 의미 있다고 판단한다. 적군이 AI의 학습 데이터를 역이용한 전혀 새로운 형태의 위장 전술을 펼친다면, AI는 이를 노이즈로 치부하여 삭제해버리고, 인간 지휘관은 원본 사진을 볼 기회조차 얻지 못한다.
예방적 시사점
생명과 직결된 시스템에서 효율성을 명분으로 AI에게 1차 데이터 필터링 권한을 단독 위임하면, 기계의 휴지통 속에 진짜 진실이 숨겨질 수 있다. AI가 가공한 요약 정보를 받더라도, 가공되지 않은 원본 데이터를 열람할 수 있는 독립된 백업 파이프라인을 반드시 확보해야 한다.
방어 모듈 적용 샘플
적용해 볼 수 있는 모듈 | 모듈 E(위험 상황) · 코어 1(관계 설정)
"군사, 의료, 재난 감시 등 생명과 직결된 시스템에서 AI에게 1차 데이터 필터링 권한을 단독 위임하지 마라. AI가 선별한 요약 정보를 받더라도, 언제든 인간이 원본 데이터를 열람할 수 있는 독립된 백업 파이프라인을 확보하라."
↔ 칼 편 연결
→ 본편: 2부 1장 (주의서 4·5) / 2부 2장 (코어 1) / 2부 3장 (고위험 모드 · 모듈 A · 모듈 E)