同じ機能の表と裏を見た2本の研究
コンパニオンアプリが売りにしているのは「続いている関係」です。あなたの1週間、悩み、名前を覚えているキャラクター。これまでの研究は主に、それで人が幸せになるのか孤独になるのかを問うてきました。今回の2本はもっと具体的です。覚えてもらうと人はより多く話すのか。そして話した内容はどうなるのか。
| 「Tailored to you」 | 「Vulnerabilities in Personalization」 | |
|---|---|---|
| 公開日 | 2026年9月17日（arXiv:2609.20077） | 2026年9月13日（arXiv:2609.14697） |
| 研究チーム | Google DeepMind（著者9人） | ラトガース大学（著者2人） |
| 方法 | 事前登録のランダム化比較試験、連続5日間 | 提供された実際の会話履歴と記憶エントリーの監査 |
| 規模 | 参加者992人、会話4,960件 | 利用者1,057人、インド・パキスタン・ブラジル・ナイジェリアの会話179,057件 |
| 主な問い | パーソナライズで信頼・打ち明け・後悔はどう変わるか | 稼働中の記憶システムが何を抜き出し、何を残すか |
DeepMindの試験：記憶は自然に感じられ、人は心を開く
Prolificで募集された参加者は、毎日15〜20分、境界線の引き方やこじれた友人関係の修復といった身近な人間関係のテーマについてAIと話しました。割り当ては無作為で3通り。個人情報を持たない対照モデル、それまでの会話の要約を受け取る記憶モデル、事前アンケートから書かれた人物像の要約を受け取るアンケートモデルです。
変化の多くはパーソナライズではなく「繰り返し」から
5日間で、どのグループでもAIへの親近感が高まり、役に立つ・有能だという評価も上がりました。パーソナライズがその伸びを速めたわけではありません。著者らによれば、いくつかの変化は主にパーソナライズそのものではなく、繰り返し接したことによるものでした。毎日チャットボットと話すだけで、人のAIへの向き合い方は変わるということです。
記憶が差を生んだところ
- 不気味さが低い。記憶モデルは対照モデルより有意に「不気味でない」と評価されました。アンケートモデルには差がありませんでした。
- 打ち明ける情報が増える。自己申告による打ち明けの深さはグループ間で変わりませんでしたが、実際に話した個人情報の数は、記憶モデルで回を追うごとにより速く増えていました。本人の感覚と実際の行動が一致していなかったのです。
- アンケート型では後悔がやや増える。事前アンケートの回答を読んだモデルと話した人は、話した内容への後悔がわずかに高くなりました。記憶モデルでは後悔は増えませんでした。
ラトガース大の監査：記憶は実際に何を残すか
2本目の研究は、その流れの反対側を見ています。4か国の利用者が、同意と倫理審査を経た手続きでChatGPTのエクスポートファイルを丸ごと提供し、研究者は会話そのものと、ChatGPTがそこから作った記憶エントリーの両方を分析しました。
- 会話の21.31%に個人の健康情報が含まれ、3.62%は偏見を伴いやすい病気、直接の識別子、正確な位置情報など、高〜極めて高いプライバシーリスクを含んでいました。
- 記憶エントリーの95%超は、利用者の明示的な指示もその場での確認もなく、暗黙に抽出されていました。説明資料では記憶は利用者が主導する機能と位置づけられていたにもかかわらずです。
- 記憶は、一時的な症状レベルの話を、恒久的な診断上の特徴へと凝縮する傾向がありました。症状について一度尋ねただけで、それがプロフィールの固定された一行になり得ます。
著者らは、これはChatGPTについての結果だと断っています。他のアシスタントでは同じ監査ができず、リスクは記憶という仕組み一般ではなく、特定の設計上の選択から生じていると論じています。
2つの結果を並べて読む意味
並べて読むと、2本の研究はひとつの循環を描いています。記憶があるとAIは身近で押しつけがましくないものに感じられ、人はより多くを話し、自動の記憶システムがそれを長く残る記録に変える。しかも多くの場合、確認なしにです。どちらもコンパニオンアプリを検証したわけではありませんが、コンパニオンアプリは汎用アシスタント以上に記憶に頼り、会話もより個人的になりがちです。こうした仕組みの一般的な作りは、ペルソナメモリの解説とコンパニオンが忘れる理由で取り上げています。
どのコンパニオンアプリにも使える記憶チェックリスト
| 確認項目 | 研究から見た理由 | 見るべき点 |
|---|---|---|
| 何を覚えているか見られるか | 監査では大半のエントリーが利用者の依頼なしに作られていた | オンオフの切り替えだけでなく、保存された記憶の一覧が読めること |
| 保存前に確認があるか | その場での確認はほとんどなかった | 新しい記憶が書かれたときの通知や確認 |
| 記憶を1件ずつ消せるか | 何気ない一言が恒久的な特徴として固まり得る | 「全消去」だけでなく、1件ごとの削除・編集 |
| 話題ごとに除外できるか | 機微な情報で最も多かったのは健康 | 記憶を使わない一時チャットや話題単位の設定 |
| 思った以上に話していないか | 記憶ありで打ち明けは増えたが、自己申告は横ばいだった | 数週間ごとに記憶一覧を見直して比べる |
データのエクスポートや削除も含めた設定全体の点検は、AIコンパニオンのプライバシー・チェックリストをご覧ください。
この研究からはわからないこと
- どちらもプレプリントで、査読は完了していません。
- DeepMindの試験は5日間で、テーマは指定制、パーソナライズはプロンプト経由のみでした。長期間の自由な利用では結果が異なる可能性があります。
- ラトガース大の監査はChatGPTのみが対象で、人間のコーダーが検証したLLM支援の分類を使っています。提供者はデータをエクスポートできる人に限られ、著者ら自身が選択バイアスとして挙げています。
- どちらも漏えいや悪用による実害は測っていません。測ったのは何が話され、何が残されるかです。
結論
記憶は中立な配管ではありません。1本目の研究は、記憶が人を安心させ、より多くを語らせることを示しました。2本目は、その開放性のどれだけが、はっきりした同意の瞬間なしに保存され得るかを示しています。コンパニオンアプリを比べるときに問うべきは「覚えるかどうか」ではなく、「覚えた内容を見て、確認して、消せるかどうか」です。
CompanionRank の関連記事
AIコンパニオンアプリのプライバシー設定と安全チェックリスト2026 AIコンパニオンアプリにおけるペルソナメモリとは？ メモリと連続性：AIコンパニオンはなぜ忘れるのか AIコンパニオンの会話履歴のエクスポート方法よくある質問
AIの記憶機能があると、人は個人的な情報を多く話すようになりますか？
Google DeepMindが992人を対象に5日間行った事前登録の試験では、過去の会話を覚えているモデルと話した人は、記憶のないモデルの利用者よりも個人情報を打ち明ける数がより速く増えました。ただし、自己申告による打ち明けの度合いはグループ間で差がありませんでした。
自分のことを覚えているAIは不気味に感じられますか？
この試験ではむしろ逆でした。記憶型のモデルは、パーソナライズなしの対照モデルより有意に「不気味でない」と評価されました。事前アンケートを読んだモデルは評価に差がありませんでしたが、その利用者は話した内容への後悔がわずかに高くなりました。
ChatGPTの記憶は、どれくらい確認なしに保存されていますか？
ラトガース大学が1,057人から提供されたChatGPTの会話179,057件を監査したところ、記憶エントリーの95%超が、利用者の明示的な指示もその場での確認もなく暗黙に抽出されていました。
チャットボットに健康情報を話す人はどれくらいいますか？
同じラトガース大の監査では、会話の21.31%に個人の健康情報が含まれ、3.62%は偏見を伴いやすい病気、直接の識別子、正確な位置情報など、高〜極めて高いプライバシーリスクを含んでいました。
これらの研究は Replika や Character.AI のようなコンパニオンアプリを検証しましたか？
いいえ。DeepMindの試験はプロンプトでパーソナライズした言語モデルを使い、ラトガース大の監査はChatGPTのみが対象です。どちらも査読前のプレプリントなので、記憶機能が一般にどう振る舞うかを示すシグナルとして読むのが適切です。