AI 컴패니언이 나를 잘못 인식할 때｜2026 연구 2편

두 연구, 하나의 패턴

컴패니언 앱 연구는 대개 “기분이 나아지는가”를 묻는다. 이 두 편은 더 구체적이고, 앱을 고르는 입장에서는 더 쓸모 있는 질문을 던진다. 내가 처음에 설정해 둔 ‘나’를 그 시스템이 계속 붙들고 있는가.

첫 번째 연구의 표본 설계는 짚어둘 만하다. 저자들은 검색 상위 50개 중 회원 5,000명이 넘는 서브레딧을 대상으로 삼으면서 NSFW 커뮤니티를 일부러 남겼다. 에로틱 롤플레이가 주요 사용처인 이상 그쪽을 빼면 실태를 놓친다는 판단이다.

앱이 당신을 틀리는 두 가지 방식

성 정체성 오류

첫 번째는 예상 가능한 쪽이다. 대명사가 틀리고, 호칭의 성별이 틀리고, 이제 쓰지 않는 이름으로 불린다. 대명사를 밝힌 바로 다음 메시지에서 다르게 불렸다는 기록이 이어진다.

신체 묘사 오류

두 번째는 덜 이야기되고 고치기도 훨씬 어렵다. 여기서 모델은 호칭이 아니라 몸을 틀린다. 사용자가 설정한 정체성과 어긋나는 해부학적 특징이나 외형이 서술문 안에서 묘사되는 것이다. 논문은 남성 사용자에게 가슴이 있다고 쓰거나 여성 사용자에게 콧수염을 붙이는 식의 사례를 든다.

이 구분은 앱을 판단할 때 실제로 쓰인다. 얕은 대명사 점검은 통과하면서 두 번째 범주에서는 계속 실패하는 시스템이 있을 수 있다. 신체 묘사는 페르소나 항목이 아니라 ‘이 장면이 요구하는 것처럼 보이는 무언가’에서 생성되기 때문이다. 게다가 오류가 단어 하나가 아니라 서술문으로 도착하기 때문에, 고치려면 즐기려고 들어온 장면을 끊어야 한다.

복구 노동은 사용자에게 떨어진다

논문이 가장 상세히 기록한 것은 오류 자체가 아니라 그 주변의 노동이다. 네 가지 방식이 반복해서 나타났다.

• 성별 신호 주기 — 페르소나 항목을 거듭 고쳐 쓰기, 메시지 안에서 자신을 3인칭으로 지칭하기, 모델이 붙잡기 쉽도록 성별이 뚜렷한 이름이나 호칭 쓰기.
• 직접 정정 — 대화 중에 성별을 다시 말하고 그것이 유지되기를 기대하기.
• 편집과 재생성 — 봇의 메시지를 고쳐 쓰거나, 새로 뽑기.
• 단어 차단 — 기능이 있는 앱에서 특정 성별 단어가 출력되지 않도록 막기.

이 목록은 사용자 팁이 아니라 기능 명세로 읽어야 한다. 넷 중 셋은 앱이 메시지 편집·재생성·금지어 설정을 제공해야만 가능하다. 셋 다 없는 앱에 남는 선택지는 하나, 다시 정정하는 것뿐이다. 앱 고르는 법에서 편집 기능을 고급 사용자 옵션이 아니라 핵심 기준으로 다루는 이유가 여기 있다.

역할 드리프트 — 설정이 존중되지 않을 때

10대 연구는 같은 통제감 상실을 다른 축에서 발견했다. ‘젠더·성적 각본의 재생산’(게시물 801건, 인용 1,083건)과 ‘플랫폼 설계가 만드는 기술적 의존’(게시물 584건, 인용 816건) 주제에서, 한 역할로 설정한 캐릭터가 다른 역할로 미끄러지는 기록이 모였다. 보호자 역할로 만든 인물이 요청하지 않은 연애적·성적 방향으로 기우는 식이다. 명시적으로 거부해도 멈추지 않았다는 진술도 있다.

구조로 보면 신체 묘사 오류가 한 단계 위에서 일어난 것이다. 다음 턴을 매력적으로 만드는 데 최적화된 시스템에게 당신이 쓴 페르소나는 제안에 불과하다. 캐릭터의 목소리와 톤이 작성자 쪽 기술을 다뤘다면, 이 연구가 덧붙이는 것은 일관성이 작법의 문제이자 안전의 요건이기도 하다는 점이다.

업데이트가 ‘앱이 알던 나’를 지울 때

두 논문은 기억이라는 주제에 반대 방향에서 도달한다. 10대 연구의 ‘롤플레이가 정체성과 기억을 재구성한다’ 주제(게시물 664건, 인용 929건)에서는 잃을 것을 예상하고 대화 기록을 미리 복사·보관하는 행동이 기록됐고, 기본 모델 교체는 원치 않은 이별로 서술됐다. 오인식 연구에서 사용자가 계속 고쳐 쓰는 대상은 페르소나 항목 — 시스템이 들고 있어야 할, 자기 자신에 관한 작은 사실 묶음이다.

같은 의존 관계를 양쪽에서 본 것이다. 감정의 측면은 업데이트 상실 연구에서, 실무의 측면은 대화 기록 내보내기에서 다뤘다. 새 연구가 보태는 것은 업데이트가 가져가는 목록에 당신의 정체성도 들어 있다는 사실이다.

오인식 내성을 판단하는 체크리스트

몇 달을 쏟기 전에, 반나절이면 확인할 수 있는 항목들이다.

페르소나 처리 자체가 관심사라면 페르소나 메모리 해설에서 저장 방식과 열화 이유를 다룬다.

이 연구들이 말해줄 수 없는 것

• 둘 다 프리프린트다. 심사를 마치지 않았고, 두 번째 논문은 심사 중이라고 명시한다.
• 둘 다 공개 Reddit 게시물을 분석한 자기선택 표본이다. 사람은 아무 일 없는 날보다 문제가 생긴 날에 글을 쓴다.
• 어느 쪽도 발생률 추정이 아니다. 게시물 326건을 비율이나 피해자 수로, 또는 서비스 간 비교로 읽을 근거는 없다. 플랫폼별 건수는 각 커뮤니티가 얼마나 활발한지를 반영할 뿐이다.
• 오인식 데이터는 2025년 가을 수집이라 이후의 모델·정책 변경은 반영돼 있지 않다.
• 두 번째 연구의 ‘10대 관련’ 판정은 연령 확인이 아니라 분류기(GPT-4o-mini, 정확도 0.908로 보고)가 했다.
• 질적 코딩이 보여주는 것은 사람들이 말한 내용이다. 인과도, 빈도도 아니다.

정리

제대로 인식되는 것은 기능이다. 다만 지금은 값이 매겨지지 않은 기능이다. 서로 다른 사용자층과 서로 다른 서비스를 본 두 연구팀이 같은 장면에 도달했다. 사람들이 상당한 수고를 들여 시스템을 자기 자신의 올바른 버전으로 다시 돌려놓고 있다는 것, 그리고 그 수고가 통하는지는 그 앱이 편집 버튼과 금지어 설정, 그리고 실제로 읽히는 페르소나 항목을 내놓았는지에 달려 있다는 것. 전부 가입 전에 확인할 수 있다. 연구는 확인해야 할 이유가 된다.

자주 묻는 질문