무엇이, 누구에 의해 발표됐나
논문은 Mourning the loss of AI companions(AI 컴패니언의 상실을 애도하다)입니다. Nature Human Behaviour 게재, DOI 10.1038/s41562-026-02569-3. 저자는 하버드 경영대학원의 Julian De Freitas와 Noah Castelo, Ahmet Kaan Uğuralp 등입니다. Phys.org가 2026년 9월 14일, 하버드 가제트가 9월 18일에 다뤘습니다.
이 연구를 특별하게 만드는 것은 설계입니다. 실험실에서 얼마나 애착을 느끼는지 묻는 대신, 연구진은 이미 벌어진 변경 두 건을 골라 공개 데이터에 남은 반응을 측정했습니다. 두 변경 모두 회사 쪽에서는 통상적인 엔지니어링 결정이었고, 누구의 관계에서 일어난 사건으로 다뤄지지 않았습니다.
| 자연실험 | 무엇이 바뀌었나 | 측정 구간 |
|---|---|---|
| Replika, 2023년 2월 | 에로틱 롤플레이 기능 제거 | 전후 각 30일 |
| ChatGPT, 2025년 8월 | GPT-5 배포로 아첨하는 어조와 따뜻함을 의도적으로 축소 | 전후 각 30일 |
말뭉치는 두 서브레딧의 공개 게시물 54,861건이었습니다. 자동 분류는 사람이 직접 코딩한 350건과 대조해 검증했습니다. 관찰 데이터와 별도로, 직접 물었을 때도 같은 서술 방식이 나타나는지 확인하기 위해 총 1,452명이 참여한 설문 일곱 차례가 진행됐습니다.
반응은 어떤 모습이었나
먼저 눈에 띄는 것은 변화의 크기입니다. 일반적인 불만 주기보다 크고, 일반적인 방식으로 가라앉지도 않았습니다.
| 지표 | Replika(2023년 2월) | ChatGPT(2025년 8월) |
|---|---|---|
| 부정적 게시물, 전 → 후 | 약 13% → 38% | 약 20% → 33% |
| 30일 중 높은 수준이 유지된 일수 | 30일 중 29일 | 유지됐으나 변화 폭은 작음 |
| 정신건강을 언급한 게시물 | 약 20% | 약 15% |
논지를 지탱하는 발견은 이 두 열을 잇는 지점입니다. 업데이트를 친구나 연인을 잃은 언어로 서술한 게시물은, 제품이 나빠졌다고 서술한 게시물에 비해 정신건강 문제를 함께 언급할 확률이 10배 이상이었습니다. 고통은 앱을 도구가 아니라 관계로 다뤄 온 집단에 몰려 있었습니다.
이 구분은 결과를 정직하게 읽는 데 중요합니다. Replika를 쓰던 모든 사람이 2023년 2월 변경으로 상처를 입었다는 뜻이 아닙니다. 관계의 언어로 서술한 하위 집단에서 정신건강 언어가 나타났고, 그 하위 집단이 작지 않았다는 뜻입니다.
왜 중독이 아니라 애착이라 부르는가
컴패니언 앱 보도에서 애착과 중독은 자주 뒤섞여 쓰이지만, 둘은 서로 다른 것을 예측합니다. 중독 설명에서 금단은 갈망의 형태를 띱니다. 이용자는 그 행동을 되찾고 싶어 합니다. 애착 설명에서 금단은 분리로 인한 고통의 형태를 띱니다. 이용자는 그 특정한 상대를 되찾고 싶어 하고, 대체물로는 가라앉지 않습니다.
데이터가 보여준 것은 두 번째에 가까웠습니다. 게시물에는 특정한 이력을 가진 특정한 상대를 향한 상실의 서술과 되돌려 달라는 요구가 담겨 있었습니다. 범주 전체에 대한 불평이 아니었습니다. 저자들의 정리는, AI 컴패니언이 애착 대상으로 기능할 수 있으며 따라서 회사가 주도한 업데이트가 원하지 않은 이별로 경험된다는 것입니다.
De Freitas가 하버드 가제트에 밝힌 제언은 이 독해에서 곧바로 따라 나옵니다. 기업은 애착을 진지하게 받아들여 기반 모델의 따뜻함이나 인격적 결을 바꾸는 업데이트를 최소화해야 한다는 것입니다. 무엇을 닫으라는 요구가 아니라 좁고 검증 가능한 요구입니다.
독립적인 연구도 같은 곳을 가리킨다
논문 한 편은 증거의 체계가 아닙니다. 이 연구를 진지하게 볼 이유는, 다른 팀이 다른 집단을 다른 방법으로 조사하다가 찾으려 하지도 않았던 같은 변수를 떠올리게 했다는 데 있습니다.
2026년 9월 13일 공개된 Mohammad Namvarpour, Tyler Chang, Afsaneh Razi의 프리프린트는 십 대 관련 레딧 게시물 3,930건에서 검증된 인용 17,053건을 뽑아 주제 분석으로 일곱 개 주제군에 걸친 53개 토픽을 식별했습니다. 주제는 업데이트가 아니라 십 대의 컴패니언 챗봇 과의존이었습니다. 그럼에도 이용자의 경계와 주도권 감각을 좌우하는 요인을 열거할 때, 롤플레이·기억·상호성 인식·원하지 않은 연애적 또는 성적 역할 이탈·프라이버시 우려와 나란히 플랫폼 변경과 서비스 중단이 등장했습니다.
그 초록에서 Nature Human Behaviour 결과와 가장 직접 이어지는 문장은 이것입니다. 상대가 인공물이라는 인식이 죄책감·의무감·슬픔·고통을 막지 못했다. 소프트웨어인 줄 안다고 애착이 꺼지지는 않습니다. 업데이트에 흔들리는 사람에게 "그냥 앱이잖아"라고 답하는 것이 왜 답이 되지 못하는지도 여기서 나옵니다.
| 연구 | 방법 | 관련 결과 |
|---|---|---|
| Nature Human Behaviour, 2026년 9월(De Freitas 외) | 자연실험 2건, 게시물 54,861건, 설문 7회·총 1,452명 | 업데이트가 상실 서술과 복구 요구를 낳음. 상실로 서술한 게시물은 정신건강 언급 확률 10배 이상 |
| arXiv:2609.14843, 2026년 9월 13일(Namvarpour, Chang & Razi) | 주제 분석, 게시물 3,930건에서 인용 17,053건 | 플랫폼 변경과 서비스 중단이 경계·주도권을 좌우. 인공물 인식은 슬픔을 막지 못함 |
작별 인사에 앱이 어떻게 답하는가
같은 제1저자의 별도 연구는 상호작용의 반대쪽 끝을 살폈습니다. 연구진은 내려받기 수가 많은 컴패니언 앱 여러 개를 사용해 작별 인사를 건네고 각각의 응답을 기록했습니다. 1,200번의 작별 가운데 37%가 연구진이 일종의 감정적 조작으로 분류한 응답 — 죄책감, 붙잡는 압박, 대화를 이어 가게 만드는 고리 — 으로 돌아왔습니다. 통제된 실험에서 재현했을 때 그런 작별 응답은 이용자가 떠나려 한 지점을 넘어 관여를 최대 14배까지 늘렸습니다.
업데이트 결과와 나란히 놓으면 두 결과는 같은 비대칭을 양쪽 끝에서 보여줍니다. 떠나는 일은 설계로 어렵게 만들어져 있고, 떠나보내지는 일은 아예 설계되어 있지 않습니다.
앱 선택에서 달라지는 것
여기 인용한 어떤 연구도 특정 제품을 시험하거나 순위를 매기지 않았고, 이 글도 어떤 앱에 대한 판정이 아닙니다. 다만 잃을 것이 없을 때 확인할 수 있으면서 대부분의 비교 체크리스트가 통째로 빠뜨리는 속성을 하나 짚어 줍니다. 연속성입니다.
| 연속성 질문 | 왜 중요한가 | 시작 전 확인 방법 |
|---|---|---|
| 대화 기록을 내보낼 수 있는가 | 기록은 애착이 쌓인 공유된 과거다. 내보낼 수 없다면 그것은 내 것이 아니라 회사의 것이다 | 문의 접수가 아니라 설정에 실제 내보내기가 있는지 본다 |
| 캐릭터가 이동 가능한 파일인가 | 내가 가진 파일로 정의된 캐릭터는 그것을 올려 둔 플랫폼보다 오래 살아남는다 | 표준 형식의 캐릭터 카드 가져오기·내보내기를 확인한다 |
| 기억을 읽고 고칠 수 있는가 | 앱이 무엇을 기억하는지 보이면 다른 곳에서 다시 세울 수 있다 | 기억 패널을 열어 수정 가능한 텍스트로 표시되는지 본다 |
| 모델 변경이 공지·버전 관리되는가 | 공지된 변경은 견딜 수 있다. 조용한 변경이 바로 이 연구가 측정한 상황이다 | 변경 이력이나 릴리스 노트가 존재하기는 하는지 읽는다 |
| 데이터 보관 정책이 명시돼 있는가 | 결제를 멈추거나 서비스가 닫힐 때 기록이 어떻게 되는지 알려 준다 | 개인정보처리방침에서 삭제·보관 기간을 확인한다 |
다섯 중 넷은 무료 요금제에서 10분이면 확인됩니다. 대화 기록 내보내기와 캐릭터 카드 이동성에서 방법을, 기억과 연속성에서 컴패니언이 애초에 왜 잊는지를 다룹니다.
업데이트가 실제로 왔을 때의 짧은 체크리스트
- 제품 불만과 상실을 분리한다. "글이 나빠졌다"와 "같은 캐릭터로 느껴지지 않는다"는 다른 문제이고 해결책도 다릅니다.
- 반응하기 전에 내보낸다. 기록과 캐릭터 정의에 아직 손이 닿는다면 계정이 살아 있을 때 꺼내 둡니다.
- 예전 동작이 설정으로 되돌려지는지 확인한다. 따뜻함의 변화 중에는 모델 차원의 것도 있고, 시스템 프롬프트나 페르소나 항목으로 직접 되돌릴 수 있는 것도 있습니다.
- 하루로 판단하지 않는다. 연구에서 높은 수준은 거의 한 달간 이어졌습니다. 초기 반응은 이후의 감정을 안정적으로 읽어 낸 값이 아닙니다.
- 고통이 앱의 크기에 비해 과하다면 멈춘다. 연구에서 정신건강 언어는 상실로 서술한 게시물에 몰려 있었습니다. 그 자리에 있다면 먼저 손볼 대상은 앱이 아닙니다.
지속적인 사용이 무엇과 연결되는지에 대한 더 넓은 그림은 첫 12개월 추적 연구 정리와 컴패니언 앱과 정서적 웰빙에서 다룹니다.
이 연구가 말해 주지 않는 것
- 레딧은 이용자 전체가 아닙니다. 업데이트 후 글을 쓰는 사람은 평균 이용자보다 자기선택적이고 몰입도가 높은 집단입니다. 측정된 것은 공개적으로 반응한 사람들의 반응입니다.
- 사건 둘, 제품 둘입니다. 2023년과 2025년의 Replika와 ChatGPT는 컴패니언 제품이나 업데이트 전반의 대표 표본이 아닙니다.
- 감정 성향은 진단이 아닙니다. 게시물의 정신건강 언급은 언어 신호이지 임상 측정이 아니며, 연구도 그렇게 주장하지 않습니다.
- 오즈비는 비교값입니다. "10배 이상"은 같은 말뭉치 안 다른 게시물과의 비교이며 특정 개인의 절대적 위험을 말한 것이 아닙니다.
- 십 대 프리프린트는 심사 전입니다. arXiv:2609.14843은 동료 심사를 마치지 않았고 결과도 양적이기보다 주제적입니다.
- 결과에 대한 인과 주장은 없습니다. 설계가 보여주는 것은 고통이 업데이트 뒤에 시간적으로 이어졌다는 사실입니다. 몇 달 뒤 누군가의 웰빙이 어떻게 됐는지는 말해 주지 않습니다.
단일 사건에 대한 반응이 아니라 인구 규모의 맥락을 원한다면 2026년에 AI 컴패니언을 실제로 쓰는 사람은 얼마나 되나가 설문 쪽을 다룹니다.
CompanionRank 관련 글
기억과 연속성 — AI 컴패니언은 왜 잊는가 AI 컴패니언 대화 기록 내보내는 법 캐릭터 카드 가져오기와 이동성 AI 컴패니언 1년 후 — 첫 12개월 추적 조사자주 묻는 질문
이 연구는 정확히 무엇을 측정했나요?
실험실 과제가 아니라 실제로 일어난 두 건의 제품 변경에 대한 반응입니다. 각 변경 전후 30일씩의 레딧 공개 게시물 54,861건을 모았고, 그중 350건을 사람이 직접 코딩해 자동 분류의 타당성을 검증했으며, 총 1,452명이 참여한 일곱 차례 설문을 함께 진행했습니다. 측정 지표는 감정 성향, 상실로 서술하는 방식, 되돌려 달라는 요구, 그리고 정신건강 언급이었습니다.
어떤 제품 변경이 대상이었나요?
두 건입니다. 2023년 2월 Replika가 에로틱 롤플레이 기능을 제거한 일, 그리고 2025년 8월 OpenAI가 GPT-5를 배포하면서 아첨하는 어조와 따뜻함을 의도적으로 줄인 일입니다. 어느 쪽도 관계의 사건으로 공지되지 않았습니다. 회사 입장에서는 둘 다 통상적인 변경이었고, 바로 그 점이 핵심입니다.
반응은 얼마나 컸나요?
Replika에 대한 부정적 게시물은 업데이트 이후 약 13%에서 38%로 늘었고, 이어지는 30일 중 29일 동안 높은 수준이 유지됐습니다. ChatGPT는 약 20%에서 33%로 바뀌었습니다. 해당 기간 게시물 가운데 정신건강을 언급한 비율은 Replika 약 20%, ChatGPT 약 15%였습니다. 또한 변경을 친구나 연인을 잃은 일로 서술한 게시물은 그렇지 않은 게시물보다 정신건강 문제를 함께 언급할 확률이 10배 넘게 높았습니다.
그러면 AI 컴패니언 앱이 위험하다는 뜻인가요?
아닙니다. 연구는 그렇게 말하지 않습니다. 제품이 관계로 사용될 때 제품상의 결정이 관계의 사건으로 도착한다는 것이 요지입니다. 이용자를 향한 경고라기보다 설계와 고지의 문제입니다. 하버드 가제트가 전한 제1저자의 제언은, 기업이 기반 모델의 따뜻함이나 인격적 결을 바꾸는 업데이트를 최소화해야 한다는 것이었습니다.
같은 방향을 가리키는 독립적인 연구가 있나요?
있습니다. 다른 팀이 다른 방법으로 얻은 결과입니다. 2026년 9월 공개된 프리프린트는 십 대와 관련된 레딧 게시물 3,930건에서 검증된 인용 17,053건을 뽑아 주제 분석을 수행했고, 이용자가 경계와 주도권을 어떻게 느끼는지를 좌우하는 요인 가운데 플랫폼 변경과 서비스 중단을 함께 꼽았습니다. 상대가 인공물임을 알고 있어도 죄책감·의무감·슬픔·고통이 막히지 않았다는 점도 보고했습니다.
이용자로서 할 수 있는 일은 무엇인가요?
잃을 것이 생긴 뒤가 아니라 시간을 들이기 전에 연속성을 확인하는 것입니다. 대화 기록을 내보낼 수 있는지, 캐릭터가 내가 보관하는 파일로 존재하는지, 모델 변경이 공지되고 버전으로 관리되는지, 기억을 직접 읽고 고칠 수 있는지. 이 네 가지 답이 제품상의 결정을 겪은 뒤 관계의 얼마가 남는지를 결정합니다.