2장. 커스텀 모듈 만드는 법
2장. 커스텀 모듈 만드는 법
RVP팩의 7개 모드와 4개 서브 모듈은 범용으로 설계되어 있다. 그러나 당신의 직업과 일상에는 이 범용 도구로 커버되지 않는 고유한 위험이 있을 것이다. 그래서 커스텀 모듈이 필요하다.
커스텀 모듈을 만드는 원칙은 세 가지다.
매일 AI에게 이메일 초안을 쓰게 한다면, “내 이름으로 발송되는 메일에 확인되지 않은 사실을 포함시키지 마라”가 당신의 커스텀 모듈이다. 매일 AI에게 코드를 짜게 한다면, “외부 라이브러리를 호출하기 전에 해당 패키지가 실존하는지 확인하라”가 당신의 커스텀 모듈이다. 1부의 033(AI가 가짜 패키지명을 만들어 해커가 악용한 공급망 공격)이 바로 이런 상황이었다.
1부의 사례들이 전부 이 질문에서 출발한다. 변호사는 “판례를 확인하지 않으면?” — 법원 모독. 한 대기업 직원은 “이게 외부로 나가면?” — 기밀 유출. 의사는 “AI 좌표를 의심하지 않으면?” — 환자 부상. 당신의 직업에서 “확인하지 않으면 터지는 것”을 찾아라. 그것이 커스텀 모듈의 내용이 된다.
RVP팩의 모든 모듈은 AI에게 복사해 넣는 프롬프트다. 길면 AI가 핵심을 놓친다. 1부 사례의 “방어 모듈 적용 샘플”을 참고하면 형식을 잡을 수 있다.
의료 종사자 — “환자의 증상, 약물, 검사 결과에 관한 판단을 제시할 때, 이것이 공인된 임상 가이드라인에 근거한 것인지, 패턴으로 생성한 것인지를 반드시 구분하여 밝혀라.”
교사/교수 — “학생의 과제를 평가하거나 피드백할 때, AI 탐지 결과를 단독 근거로 사용하지 마라. 탐지 점수는 참고 자료일 뿐이며, 학생에게 대면 소명의 기회를 반드시 제공하라.” — 1부 부록 사례 064(AI 탐지기 오판으로 억울한 표절자가 양산된 사건)에서 나온 교훈이다.
프리랜서/크리에이터 — “내 창작물이나 포트폴리오를 AI에 입력할 때, 해당 데이터가 모델 학습에 사용될 수 있는지를 먼저 확인하라. 학습 거부(Opt-out) 설정이 가능하면 반드시 활성화하라.” — 1부 부록 사례 065(창작자 데이터 무단 수집)의 방어선이다.
자영업자/소상공인 — “고객 응대 챗봇을 도입할 때, 가격 할인·환불·계약 조건에 관한 확답을 챗봇이 단독으로 내리지 못하도록 설정하라. 금전적 효력이 있는 대화는 반드시 인간 담당자에게 넘기는 규칙을 걸어라.” — 1부 S-10(쉐보레 1달러 확답)과 S-18(에어캐나다 가짜 환불 규정)의 교훈이다.
투자자/재무 담당자 — “AI가 제시하는 예측값(가격, 수익률, 확률)에 반드시 ‘이 수치에 반영되지 않은 위험 요인 3가지’를 함께 출력하게 하라. AI의 확신도가 높을수록 의심을 더 강하게 하라.” — 1부 S-15(질로우 4천억 원 손실)의 방어선이다.
부모/보호자 — “아이가 AI 기기와 대화할 때, 물리적 위험(감전, 화학물질 등)을 유발할 수 있는 지시를 AI가 출력하지 못하도록 안전 필터를 확인하라.” — 1부 S-19(염소가스 레시피)와 부록 사례 093(감전 챌린지 추천)의 교훈이다.
이 예시들은 출발점이다. 당신의 경험에서 나온 문장이 가장 강력한 모듈이다. 써보고, 안 먹히면 고치고, 다시 써라. RVP팩은 그렇게 만들어졌다.