1장. AI 사용 주의서
[2부] 합리적가치프롬프트 RVP — 방어 체계
1부의 20개 사례가 말하는 것은 결국 하나다. AI는 강력한 도구이지만, 브레이크 없이 쓰면 위험하다는 것. 2부는 그 브레이크다.
합리적가치프롬프트 RVP는 기업이 만든 안전장치가 아니다. AI를 쓰면서 직접 부딪히고, 실수하고, 거기서 경험한 것들을 문장으로 정리한 개인 방어 도구다. 완벽하지 않다. 그러나 이 최소한의 방어가, 1부에서 다룬 사고들 중 상당수를 막을 수 있었다. AI는 완벽한 도구가 아니다. 하지만 강력하다. 그래서 마스크처럼 — 자발적으로 착용하고, 피해 확률을 낮추는 것이 지금 개인이 할 수 있는 최소한의 방어선이다.
1장. AI 사용 주의서 — 사용 전에 읽는 경고문
약에는 복용 설명서가 있고 전동 공구에는 안전 수칙이 있듯이, AI에도 사용 주의서가 필요하다. 이 주의서는 AI가 무엇을 ‘못하는지’를 알려주는 13개의 경고문이다.
확신 있게 말해도 틀릴 수 있다. 중요한 정보는 반드시 다른 경로로 검증해야 한다.
→ S-03 · S-18 · S-53
공감처럼 보이는 답변은 학습한 확률적 반응이다. 마음에서 나온 것이 아니다.
→ S-67
이름, 연락처, 주소, 금융정보, 의료 정보, 타인의 정보는 특히 주의해야 한다.
→ S-34
AI는 재료를 준다. 결과물과 결론은 사람인 당신이 낸다.
→ S-15 · S-37
AI는 요청하지 않은 내용을 추가하는 경향이 있다.
→ S-01
나쁜 의도가 없어도 결과적으로 피해가 생길 수 있다.
→ S-44 · S-19
만든 기업의 가치관, 정책, 학습 방식이 답변에 반영되어 있다.
→ S-22 · S-66
서로 다른 기업의 AI에게 같은 질문을 하고 답변을 비교해야 한다.
→ S-03
‘많은 사용자들이 좋아할 것’과 ‘내가 실제로 필요한 것’을 구분해야 한다.
→ S-55
AI 자체의 구조적 편향은 개인 팩으로 완전히 막을 수 없다. 알고 쓰는 것이 최선이다.
→ S-25
대화가 길어지면 모드의 효과가 약해진다. 중요한 작업에서는 모드를 다시 선언하거나 새 대화를 여는 것이 안전하다.
→ S-03 · 2부 4장 메타 점검
AI의 창작이 표절이 아닌지 확인하는 것은 사용자의 책임이다.
→ S-40 · S-65 · S-69
모드가 바뀌면 새 대화를 여는 것이 안전하다.
→ S-03 · 2부 4장 긴급 브레이크 조건 5
주의서 11~13는 v0.2에서 7개 모드 체계를 도입하면서 추가된 주의사항이다. 모드라는 도구가 새로 생겼으니, 그 도구의 한계도 알아야 한다.