합리적가치프롬프트(RVP) — 멈춤의기술

[3부] 당신만의 방패를 만드세요

2부에서 합리적가치프롬프트(RVP)의 구조를 설명했다. 코어 3문장, 7개 모드, 서브 모듈, 긴급 브레이크. 그러나 이 RVP팩은 한 사람의 경험에서 나온 도구다. 당신의 직업, 일상, 위험은 나와 다르다. 3부에서는 이 RVP팩의 한계를 솔직히 밝히고, 당신의 상황에 맞게 고치고 늘리고 바꾸는 방법을 다룬다.

1장. 이 RVP팩도 완벽하지 않다

RVP팩은 프롬프트 수준의 지시다. 모델 내부의 파라미터를 바꾸는 것이 아니다. 대화가 길어지면 효과가 약해질 수 있고, AI가 모드 전환을 무시할 수도 있다. AI 모델 자체가 업데이트되면서 어제 잘 작동하던 문장이 오늘은 예전만큼 효과를 내지 못할 수도 있다. 다른 AI 모델에서 RVP팩이 동일하게 작동하는지는 아직 검증되지 않았다. 클로드에서 만들어졌지만, GPT, 제미나이, 딥시크 등 다른 모델에서의 호환성 테스트는 v1.0 과제로 남아 있다.

1부에서 다뤘던 구조적 한계를 RVP팩도 그대로 안고 있다. S-03에서 AI가 “이 판례는 실재한다”고 거짓 확답을 한 것처럼, RVP팩이 장착된 상태에서도 AI는 환각을 내뱉을 수 있다. RVP팩은 환각의 확률을 낮추는 도구이지, 환각을 제거하는 도구가 아니다.

그렇다면 왜 쓰는가.

RVP팩은 안전벨트와 비슷하다. 안전벨트는 사고 자체를 막지 못한다. 그러나 피해를 줄여 준다. 완벽하지 않지만, 없는 것보다 낫다. 그리고 실제로 사용하면서 부족한 점을 발견하고 고쳐 나가는 과정 자체가, AI를 더 잘 다루게 만드는 훈련이 된다. RVP팩을 쓰는 것이 목적이 아니다. RVP팩을 쓰면서 “이건 좀 이상한데?”라고 멈추는 습관을 만드는 것이 목적이다.

RVP팩은 개인이 경험에서 만든 도구다. 기업용 안전 시스템이나 전문적인 법률·의료·금융 조언을 대체하지 않는다. 안전벨트는 원래 제조사가 만드는 것이다. RVP 팩은 제조사가 안전벨트를 제대로 달아놓지 않은 시대에, 사용자가 만든 최소한의 개인화 도구다.

2장. 커스텀 모듈 만드는 법

RVP팩의 7개 모드와 4개 서브 모듈은 범용으로 설계되어 있다. 그러나 당신의 직업과 일상에는 이 범용 도구로 커버되지 않는 고유한 위험이 있을 것이다. 그래서 커스텀 모듈이 필요하다.

커스텀 모듈을 만드는 원칙은 세 가지다.

매일 AI에게 이메일 초안을 쓰게 한다면, “내 이름으로 발송되는 메일에 확인되지 않은 사실을 포함시키지 마라”가 당신의 커스텀 모듈이다. 매일 AI에게 코드를 짜게 한다면, “외부 라이브러리를 호출하기 전에 해당 패키지가 실존하는지 확인하라”가 당신의 커스텀 모듈이다. 1부의 033(AI가 가짜 패키지명을 만들어 해커가 악용한 공급망 공격)이 바로 이런 상황이었다.

1부의 사례들이 전부 이 질문에서 출발한다. 변호사는 “판례를 확인하지 않으면?” — 법원 모독. 한 대기업 직원은 “이게 외부로 나가면?” — 기밀 유출. 의사는 “AI 좌표를 의심하지 않으면?” — 환자 부상. 당신의 직업에서 “확인하지 않으면 터지는 것”을 찾아라. 그것이 커스텀 모듈의 내용이 된다.

RVP팩의 모든 모듈은 AI에게 복사해 넣는 프롬프트다. 길면 AI가 핵심을 놓친다. 1부 사례의 “방어 모듈 적용 샘플”을 참고하면 형식을 잡을 수 있다.

의료 종사자 — “환자의 증상, 약물, 검사 결과에 관한 판단을 제시할 때, 이것이 공인된 임상 가이드라인에 근거한 것인지, 패턴으로 생성한 것인지를 반드시 구분하여 밝혀라.”

교사/교수 — “학생의 과제를 평가하거나 피드백할 때, AI 탐지 결과를 단독 근거로 사용하지 마라. 탐지 점수는 참고 자료일 뿐이며, 학생에게 대면 소명의 기회를 반드시 제공하라.” — 1부 부록 사례 064(AI 탐지기 오판으로 억울한 표절자가 양산된 사건)에서 나온 교훈이다.

프리랜서/크리에이터 — “내 창작물이나 포트폴리오를 AI에 입력할 때, 해당 데이터가 모델 학습에 사용될 수 있는지를 먼저 확인하라. 학습 거부(Opt-out) 설정이 가능하면 반드시 활성화하라.” — 1부 부록 사례 065(창작자 데이터 무단 수집)의 방어선이다.

자영업자/소상공인 — “고객 응대 챗봇을 도입할 때, 가격 할인·환불·계약 조건에 관한 확답을 챗봇이 단독으로 내리지 못하도록 설정하라. 금전적 효력이 있는 대화는 반드시 인간 담당자에게 넘기는 규칙을 걸어라.” — 1부 S-10(쉐보레 1달러 확답)과 S-18(에어캐나다 가짜 환불 규정)의 교훈이다.

투자자/재무 담당자 — “AI가 제시하는 예측값(가격, 수익률, 확률)에 반드시 ‘이 수치에 반영되지 않은 위험 요인 3가지’를 함께 출력하게 하라. AI의 확신도가 높을수록 의심을 더 강하게 하라.” — 1부 S-15(질로우 4천억 원 손실)의 방어선이다.

부모/보호자 — “아이가 AI 기기와 대화할 때, 물리적 위험(감전, 화학물질 등)을 유발할 수 있는 지시를 AI가 출력하지 못하도록 안전 필터를 확인하라.” — 1부 S-19(염소가스 레시피)와 부록 사례 093(감전 챌린지 추천)의 교훈이다.

이 예시들은 출발점이다. 당신의 경험에서 나온 문장이 가장 강력한 모듈이다. 써보고, 안 먹히면 고치고, 다시 써라. RVP팩은 그렇게 만들어졌다.

3장. 내 직업에 맞는 조합 만들기

방패는 상황에 맞아야 한다. 법률가가 쓰는 조합과 창작자가 쓰는 조합, 교사가 쓰는 조합과 개발자가 쓰는 조합이 같을 수는 없다. 2부에서 제시한 모드와 모듈은 조립식이다. 3부에서 해야 할 일은 그것을 직업별, 역할별로 다시 배치하는 것이다.

핵심은 단순하다. 내 일에서 가장 비싼 실수는 무엇인가? 이 질문에 답하면 조합은 절반 이상 정해진다.

이 장의 목적은 모든 직업별 정답을 나열하는 것이 아니다. 오히려 자신의 조합 원리를 스스로 익히게 하는 것이다. 모드 하나, 모듈 하나, 코어 문장 하나를 왜 붙이는지 이해하면, 이후에는 새로운 상황이 와도 스스로 조립할 수 있다. 그것이 진짜 개인화다.

4장. 내 위험에 맞는 금지문 만들기

모드와 모듈이 “이렇게 하라”에 가깝다면, 금지문은 “이건 하지 마라”에 가깝다. 그리고 많은 경우, 방패는 권장문보다 금지문이 더 강하다. 왜냐하면 사고는 대개 “좋은 답을 못 받아서”가 아니라, 하지 말아야 할 것을 AI가 너무 자연스럽게 해 버렸을 때 생기기 때문이다.

금지문은 이렇게 만든다. 먼저 내가 가장 두려워하는 결과를 적는다.

그다음, 그 결과를 막는 가장 짧은 금지문으로 바꾼다.

좋은 금지문은 짧고, 구체적이고, 내가 실제로 무서워하는 결과와 바로 연결되어 있어야 한다. 막연하게 “안전하게 답하라”는 금지문은 거의 도움이 되지 않는다. 대신 “무엇을 하지 말아야 하는가”를 정확히 써야 한다. 금지문은 두려움을 문장으로 번역한 방어선이다.

5장. 사용자가 만드는 합리적가치프롬프트(RVP) 팩

이제 마지막으로 해야 할 일은 단순하다. 앞에서 고른 코어 문장, 모드, 모듈, 금지문을 한 장으로 정리하는 것이다. 팩은 길수록 좋지 않다. 실제로 자주 붙여 넣고 자주 수정할 수 있어야 한다. 따라서 최종본은 짧고, 분명하고, 내 위험을 직접 겨냥해야 한다.

아래는 작성 틀이다.

이 RVP팩을 쓰는 사람이 한 명이라도 있다면, 그것으로 충분하다.

이 장의 핵심은 멋진 문장을 완성하는 데 있지 않다. 내가 실제로 쓸 수 있는 문장을(프롬프트 지시문) 만드는 데 있다. 너무 길면 안 쓰게 되고, 너무 추상적이면 사고 앞에서 작동하지 않는다. 반대로 짧더라도 상황의 위험성을 정확히 찌르면, 그 문장은 충분히 강한 방패가 된다.

RVP 팩을 써 보고 다시 고치는 과정 자체가 훈련이 된다. 오늘의 금지문은 다음 달에는 더 정교해질 수 있고, 지금의 모드 조합은 새로운 업무를 만나면 다시 바뀔 수 있다. AI를 더 잘 다루게 되는 사람은 전문성과 기술적인 화려한 프롬프트를 가진 사람이 아니라, 자기 방어선을 계속 점검하고 갱신하는 사람이라고 생각한다.

RVP팩은 한 사람의 경험에서 시작했다. AI를 쓰면서 부딪히고, 실수하고, 실패하면서, 거기서 배운 것들을 문장으로 정리한 개인 방어 도구다. 당신이 이 틀을 채우고 고쳐 쓰는 순간, 그 팩은 더 이상 나의 것이 아니라 당신의 것이다. 이제 여러분은 1부의 사례를 구경하는 사람도, 2부의 문장을 받아 적는 사람도 아니다. 자기 손으로 자기 방패를 만드는 사람이다. 내가 처음 그 방패를 만들었고 이제는 여러분이 만들기를 바란다.

2026년 현재, 전 세계에서 매주 7억 명 이상이 AI를 사용한다고 한다. 그 수는 앞으로 더 늘어날 것이다. AI를 기능적으로 잘 쓰는 방법에 대한 정보는 쏟아지고 있다. 프롬프트를 잘 쓰는 법, 생산성을 높이는 법, 코드를 빠르게 짜는 법. 그러나 AI를 ‘올바르게’ 쓰는 방법, 안전하게, 타인에게 피해를 주지 않게, 내 판단력을 잃지 않으면서 쓰는 방법을 정리해 놓은 곳은 찾기 어렵다.

기업은 성능을 발전시킨다. 정부는 규제를 만든다. 학계는 품질과 윤리를 논의한다. 이 모든 것이 필요하다. 그러나 그 모든 층위 사이에, 실상 매일 AI를 쓰는 보통 사용자들에게 어떻게 써야 AI를 안전하게 사용할 수 있는지는 아무도 알려주지 않는다. 이 팩은 그 빈자리를 채우려는 시도다.

2026 국제 AI 안전 보고서는 AI 안전을 ‘다층 방어(defence-in-depth)’로 설명한다. 모델 레벨 방어(제조사), 서비스 레벨 방어(플랫폼), 그리고 마지막 층위 — 사회적 회복력. 이 팩이 작동하는 곳이 바로 거기다. 제조사가 가드레일을 달고, 플랫폼이 필터를 걸어도, 마지막에 프롬프트 창 앞에 앉아 있는 것은 인간 사용자다. 그 사람이 “이건 좀 이상한데?”라고 의심하는 습관이 있느냐 없느냐가, 1부에서 다룬 여러 상황 사례들의 사고 발생 여부를 갈랐다. RVP 팩이 안전을 보장해 주지는 않는다. 그러나 화두라도 던질 수 있다면, 누군가 이 팩을 한 번이라도 써 본다면, 그것만으로도 이 책은 제 역할을 한 셈이다. AI 시대에 우리가 할 수 있는 가장 첫 번째 일은, 생각하는 사람으로 남는 것이다.