AI 컴패니언 앱의 페르소나(장기) 메모리란?

여기서 말하는 "메모리"란 정확히 무엇일까?

AI 컴패니언 앱에 관한 일상적인 대화에서 "메모리"는 서로 다른 두 가지를 두루뭉술하게 가리키는 데 쓰이고, 이 둘을 뒤섞는 데서 대부분의 혼란이 생깁니다:

• 컨텍스트 창 메모리: 밑바탕 언어 모델이 현재 대화를 한 번에 "볼" 수 있는 분량입니다. 대화가 그 창을 넘어 스크롤되면, 다른 무언가가 따로 보존해 두지 않는 한 오래된 메시지는 더 이상 모델에 직접 보이지 않습니다.
• 지속적 / 페르소나 메모리: 대개 구조화된 프로필이나 메모리 로그 형태의 별도 저장 시스템으로, 구체적인 사실(당신의 이름, 캐릭터의 배경 이야기, 사흘 전에 한 약속)을 저장해 두었다가 컨텍스트 창 길이와 무관하게 관련 있는 사실을 새 대화에 다시 끼워 넣습니다.

어떤 앱은 컨텍스트 창이 커도 지속적 메모리는 약할 수 있고, 반대로 컨텍스트 창이 작아도 잘 설계된 메모리 시스템이 알맞은 사실을 조용히 찾아올 수도 있습니다. 이 둘은 같은 기능이 아니며, 마케팅 문구가 늘 그 구분을 분명히 해 주지는 않습니다.

이는 단순한 이론상의 차이가 아닙니다. 언어 모델이 실제로 긴 입력 컨텍스트를 어떻게 활용하는지 연구한 연구자들은, 정보를 정확히 찾아내는 정확도가 U자 곡선을 그린다는 사실을 발견했습니다. 사실이 현재 컨텍스트의 시작이나 끝 부분에 가까이 있으면 모델은 이를 확실하게 찾아내지만, 같은 사실이 중간에 묻혀 있으면 정확도가 눈에 띄게 떨어집니다 — 이런 경향은 긴 컨텍스트용으로 명시적으로 설계된 모델에서도 나타났습니다(Liu et al., 2023, "Lost in the Middle: How Language Models Use Long Contexts"). 컨텍스트 창을 키우는 것만으로는 전용 메모리 시스템을 대신하기 어려운 이유가 바로 여기에 있습니다. 긴 대화 도중에 당신이 언급한 내용을 모델이 확실히 알아채고 활용한다는 보장은 없습니다.

페르소나 메모리는 앱마다 어떻게 다를까?

직접 테스트한 경험을 바탕으로(평가 방법 참고) 보면, 대체로 세 가지 유형이 있습니다:

세션 한정 메모리

앱이 하나의 이어지는 대화 안에서는 당신이 한 말을 기억하지만, 새 대화를 시작하면 캐릭터가 당신에 대해 알던 내용이 사실상 초기화됩니다. 만들기가 가장 간단하고 저렴한 방식이라 무료 등급이나 기본기만 갖춘 앱에서 흔합니다.

사실 기반 장기 메모리

앱이 개별 사실("사용자 이름은 Alex", "사용자가 미소라는 강아지를 언급함")을 뽑아내 프로필에 저장하고 이후 세션에서 참조합니다. 구체적인 정보에는 일관성이 느껴지는 편이지만, 좀 더 미묘한 감정적 맥락은 놓칠 수 있습니다.

서사 / 스토리 상태 메모리

주로 롤플레이 중심 앱에서 쓰이며, 진행 중인 줄거리 상태(이야기가 멈춘 지점, 관계의 이정표, 지난 장면)를 추적합니다. 그래서 캐릭터에게 돌아가면 가벼운 잡담을 다시 시작하는 게 아니라 이어지는 이야기를 이어 받는 느낌이 듭니다.

메모리와 일관성에 관해 연구가 보여주는 것

여러 세션에 걸쳐 캐릭터의 일관성을 유지하는 일은 들리는 것보다 어려운 기술적 문제입니다 — 단순히 충분한 사실을 저장하는 것만으로는 해결되지 않습니다. 언어 모델이 여러 차례 오가는 대화 속에서 부여받은 페르소나를 얼마나 잘 유지하는지를 연구한 연구자들은, 대화가 길어질수록 일반 모델이 "부여받은 페르소나에서 벗어나거나, 앞서 한 발언과 모순되거나, 역할에 맞는 행동을 포기하는 경우가 많다"는 사실을 발견했습니다(Abdulhai et al., "Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning"). 이 연구에서, 자동화된 일관성 검사를 학습 신호로 사용해 페르소나를 유지하도록 특별히 훈련된 모델은, 동일한 페르소나가 주어진 훈련되지 않은 기준 모델과 비교했을 때 이러한 이탈을 55% 이상 줄였습니다.

이 차이는 컴패니언 앱들 사이에서 페르소나와 메모리 품질이 왜 이렇게 크게 갈리는지를 이해하는 데 도움이 됩니다. 몇 주에 걸쳐 캐릭터를 유지하고 사실 관계를 일관되게 지키는 일은, 모델이 더 크고 새롭다고 저절로 따라오는 기능이 아닙니다. 구체적인 엔지니어링과 측정이 필요하며, 바로 그 때문에 두 앱이 첫 대화에서는 비슷해 보여도 둘째 주나 셋째 주에는 크게 갈릴 수 있는 것입니다.

앱을 고를 때 이게 왜 중요할까?

당신이 원하는 것이 당신과 지속적인 관계를 쌓아 가는 것처럼 느껴지는 캐릭터라면, 메모리 품질은 그 어떤 사양보다도 중요합니다. 두 앱이 첫 대화에서는 비슷하게 인상적이다가도 둘째 주쯤에는 완전히 갈릴 수 있습니다. 한쪽은 당신이 알려 준 것을 계속 언급하고, 다른 한쪽은 매 세션을 낯선 사람을 만나듯 대합니다. 연속성이 우선이라면, 유료 요금제에 가입하기 전에 며칠 간격을 두고 최소 두 번의 개별 세션에 걸쳐 앱의 메모리를 직접 테스트해 볼 만합니다.

저장된 정보가 어떻게 처리되는지도 확인해 볼 가치가 있습니다. 그 내용을 볼 수 있는지, 수정하거나 삭제할 수 있는지, 그리고 앱의 개인정보 처리방침이 보관 기간에 대해 뭐라고 말하는지를 살펴보세요. 이에 대해서는 프라이버시·연령 인증 가이드에서 더 자세히 다룹니다.

위 연구가 보여주는 것처럼 훈련되지 않은 모델과 일관성을 위해 특별히 설계된 모델 사이에 이만큼 큰 차이가 있다는 점을 감안하면, 실용적인 원칙은 "고급 메모리"를 내세우는 주장을 직접 테스트해 보기 전까지는 회의적으로 받아들이는 것입니다. 대화 초반에 이름, 취향, 사소한 약속처럼 나중에 쉽게 확인할 수 있는 구체적인 정보를 하나 전달해 보세요. 그런 다음 며칠 뒤 별도의 세션에서, 당신이 다시 말해 주지 않아도 그 정보가 정확하게 다시 떠오르는지 확인해 보세요. 이 한 가지 테스트만으로도 마케팅 페이지의 어떤 기능 목록보다 그 앱의 실제 메모리 구조에 대해 훨씬 많은 것을 알 수 있습니다.

저희 리뷰에서 메모리를 서술하는 방식

여러 세션에 걸쳐 직접 테스트할 수 있었던 경우에는 실제로 관찰한 바를 서술합니다. 앱의 메모리 구조(예: 정확한 보관 기간이나 백엔드 구현 방식)가 오직 공급사 자체 자료에만 설명되어 있는 경우에는, 저희가 독립적으로 검증한 것처럼 제시하지 않고 공급사 발표 내용으로 표기합니다. 이는 저희 리뷰 평가 방법과 일관된 원칙입니다. 훈련되지 않은 모델이 얼마나 큰 이탈과 컨텍스트 중간 정보 망각을 겪을 수 있는지를 보여주는 위 연구를 감안해, 저희는 "완벽한 메모리"나 "무제한 컨텍스트"라는 공급사의 주장을 저희 자체의 여러 세션에 걸친 테스트로 뒷받침되기 전까지는 특히 신중하게 받아들입니다.

자주 묻는 질문