문맥 요약 과정에서 발생하는 '기억의 드리프트(Memory Drift)'
장기 대화를 수행하는 AI 에이전트가 이전 대화 내용을 요약하여 다시 기억하는 과정에서, 사소한 환각이 누적되어 사실 관계를 완전히 뒤바꾸는 문맥 왜곡 현상이 보고되었다.
본문 준비 중
STEP 3에서 200편 전체 본문이 들어갑니다.
장기 대화를 수행하는 AI 에이전트가 이전 대화 내용을 요약하여 다시 기억하는 과정에서, 사소한 환각이 누적되어 사실 관계를 완전히 뒤바꾸는 문맥 왜곡 현상이 보고되었다.