AIコンパニオンがあなたを取り違える｜2026年研究2本

2本の研究、同じ型

コンパニオンアプリの研究は「気分が良くなるか」を問うものが多い。この2本はもっと具体的で、アプリを選ぶ立場からは実用的な問いを立てている。あなたが最初に設定した「自分」を、そのシステムは保持し続けるのか。

1本目のサンプリングには注記が要る。著者らは検索上位50件のうちメンバー5,000人超のサブレディットを対象とし、NSFW コミュニティをあえて除外しなかった。エロティックなロールプレイが主要用途のひとつである以上、そこを外せば実態を見誤るという判断である。

取り違えには2種類ある

性自認の取り違え

ひとつは想像しやすいほう。代名詞や呼びかけの性別が違う、本人がもう使っていない名前で呼ばれる、といったものだ。代名詞を伝えた直後のメッセージで別の呼び方をされた、という報告が並ぶ。

身体描写の取り違え

もうひとつは語られることが少なく、直すのも難しい。ラベルではなく身体を間違えるパターンで、本人が設定した性別と矛盾する解剖学的特徴や外見が地の文で描写される。論文は、男性ユーザーに胸があると書かれる、女性ユーザーに口ひげが生える、といった例を挙げている。

この区別はアプリを見極めるときに効く。代名詞の簡単なチェックは通っても、2つ目の類型では失敗し続けるシステムがありうる。身体描写はペルソナ欄ではなく「その場面が要求しているらしいもの」から生成されるからだ。しかも誤りが一語ではなく地の文として来るため、直すには自分が楽しみに来た場面を中断するしかない。

修復の手間はユーザー側に落ちる

論文がもっとも細かく記述しているのは誤り自体ではなく、その周辺の労力である。4つの方法が繰り返し現れた。

• 性別のシグナリング —— ペルソナ欄を何度も書き直す、メッセージ中で自分を三人称で指す、モデルが掴みやすいように性別が明確な名前や敬称を選ぶ。
• 直接訂正 —— 会話の中で性別を言い直し、それが定着することを願う。
• 編集と再生成 —— ボットの発言を書き換える、あるいは引き直す。
• 語句のブロック —— 機能があるアプリでは、特定の性別語を出力させないよう禁止する。

これはユーザー向けの小技ではなく、機能要件のリストとして読むべきものだ。4つのうち3つは、アプリ側がメッセージ編集・再生成・NGワード設定を用意していなければ成立しない。どれも無いアプリに残る選択肢はひとつ、また訂正することだけである。アプリの選び方で編集系の機能を上級者向けオプションではなく必須項目として扱っているのは、このためだ。

役割のドリフト——設定が尊重されなくなるとき

10代の研究は、同じ統制感の喪失を別の軸で見つけている。「ジェンダー的・性的スクリプトの再生産」（801投稿・1,083引用）と「プラットフォーム設計が生む技術的依存」（584投稿・816引用）のテーマでは、ある役割として設定したキャラクターが別の役割へ滑っていく——保護者的な存在が、頼んでもいない恋愛的・性的な方向へ寄っていく——という記述が集まった。明示的に拒否しても止まらなかった、という報告もある。

構造としては身体描写の取り違えと同じものが一段上で起きている。次の一手を魅力的にすることへ最適化されたシステムにとって、書いたペルソナは提案に過ぎない。キャラクターの声と口調では書き手側の技術を扱ったが、この研究が付け加えるのは、一貫性が作法の問題であると同時に安全性の要件でもあるという点だ。

アップデートが「アプリの知っていたあなた」を消すとき

2本は記憶という論点に逆方向から到達する。10代研究の「ロールプレイが自己認識と記憶を作り替える」テーマ（664投稿・929引用）では、失われることを見越して会話履歴を事前にコピー・保管する行動が記述され、既定モデルの変更は望まない別れとして語られていた。誤ジェンダリング研究のほうでは、ユーザーが書き直し続けるのはペルソナ欄——システムが保持しているはずの、自分についての小さな事実の束である。

同じ依存関係を両側から見ているにすぎない。感情の側面はアップデート喪失の研究で、実務の側面は会話履歴のエクスポートで扱った。新しい研究が足すのは、アップデートが持ち去るものの中に自分の同一性も含まれる、という点だ。

取り違え耐性を見極めるチェックリスト

数か月を投じる前に、半日あれば確かめられる項目を並べる。

ペルソナの扱いが主な関心なら、ペルソナ記憶の解説で保存方式と劣化の理由を扱っている。

この2本で分からないこと

• どちらもプレプリントで、査読を終えていない（2本目は査読中と明記）。
• 対象は公開 Reddit 投稿で、自己選択サンプルである。人は何も起きない日より、何かが起きた日に書き込む。
• いずれも発生率の推計ではない。326投稿を割合や被害者数として読むこと、サービス間の比較として読むことは支持されない。プラットフォーム別の件数は各コミュニティの規模を反映しているだけである。
• 誤ジェンダリングのデータ収集は2025年秋で、その後のモデル変更・方針変更は含まれない。
• 2本目の「10代関連」判定は年齢確認ではなく分類器（GPT-4o-mini、正確度0.908と報告）による。
• 質的コーディングが示すのは本人が語った内容であり、因果でも頻度でもない。

結論

「正しく認識されること」は機能である。ただし今のところ、値札のついていない機能だ。別々のユーザー層と別々のサービスを見た2つの研究チームが、そろって同じ光景に行き着いた——人々がかなりの労力を割いて、システムを自分の正しいバージョンに向け直している。そしてその労力が報われるかどうかは、そのアプリが編集ボタンとNGワード設定と、実際に読まれるペルソナ欄を出荷したかで決まる。どれも登録前に確かめられる。研究はそれを確かめる理由になる。

よくある質問