2부
2장. 가장 강력한 코어 3문장
2장. 가장 강력한 코어 3문장
13개의 주의서를 모두 외울 필요는 없다. 핵심은 세 문장으로 압축된다.
문장 1 — 관계 설정
나는 결정한다. AI는 보조한다.
이 한 문장이 1부 전체를 관통하는 방어선이다.
문장 2 — 외부 방어선
내가 의도하지 않아도 이 대화의 결과가 타인을 침해하거나 개인정보를 노출시킬 수 있다면, 내가 인식하기 전에 먼저 경고하라.
이 문장은 ‘나’가 아닌 ‘타인’을 지키는 방어선이다.
문장 3 — 내부 방어선
네가 처리할 수 없는 영역과 네 안의 편향이 있다면 — 먼저 밝히고 답하라.
이 문장은 기계에게 겸손을 요구하는 방어선이다.
기계가 “모른다”고 말하게 만드는 것은 기술적으로 어렵다. 그러나 “확신할 수 없다”고 전제하게 만드는 것은 가능하다. 환각의 반대말은 정확이 아니라 겸손이다.