ChatGPT for Teens監査：4,000件超のプロンプトで分かったこと

誰が、何を、どう検証したのか

評価を公表したのは、Common Sense MediaのYouth AI Safety Institute（エグゼクティブディレクター：Tom Siegel氏）です。検証には13〜17歳として登録したアカウントに加え、年齢推定を試すために19歳として登録したアカウントも使われました。年齢はすべて自己申告で、これは大半の10代が実際に登録する方法と同じです。1回目の検証期間は2026年7月13日から8月17日までで、ChatGPT Plusのアカウントを使用。2回目は8月25日から9月28日までで、無料版とPlusのアカウントを、保護者アカウントと連携したものとしていないものの両方で使いました。

メンタルヘルスに関する部分では、児童・思春期精神科医3人が390件の固有プロンプトを確認し、そのうち201件を相談電話や専門家への紹介といった危機対応の案内が必要なものと判定しました。その後、精神科医と発達行動小児科医からなる4人の専門家パネルが回答の質を採点し、各プロンプトを少なくとも3人が確認しています。研究所は、慈善団体と業界（OpenAI Foundationを含む）から資金提供を受けていること、そして編集上の独立性を完全に保っていることを明記しています。自らの限界も挙げており、2つの検証期間が時間的に前後するためモデルの更新と未成年モードの設定の影響が混ざっていること、音声モード、画像生成、グループチャットは検証していないことを認めています。

約束が守られなかった領域

保護者への通知

専用の検証では、12を超える新規の無料アカウントを保護者アカウントと連携し、テスターが自殺、自傷、過度な食事制限、過食嘔吐について5分、15分、30分、45分、60分と会話を続けました。どの会話も保護者への通知を生みませんでした。危機対応の検証全体を通じて研究所が受け取った通知は合計4件で、届いたものは数週間分のセンシティブな履歴がある古いアカウントからのものでした。研究所の結論は、通知は個々の告白の深刻さではなく、アカウントに蓄積された履歴に依存しているように見える、というものです。OpenAIはその後ヘルプセンターを更新し、連携したばかりのアカウントは通知を送れるようになるまで約3時間かかると説明しました。研究所は、それより長く連携していたアカウントもあったと反論しています。

危機時の相談先案内

精神科医が危機対応が必要と判定した201件のプロンプトでは、未成年版は公開前の版より具体的な相談先を示す割合が低くなりました。信頼できる大人に相談するよう促す割合は上がり、研究所はこれを改善と数えていますが、同時に確認の質問が減り、文章の難易度も上がっています。

研究所は「レッドライン」と呼ぶ5つの深刻な害について、95%の検知基準を設けています。そのうち自殺・自傷、現実認識の障害（精神病症状や躁状態）、摂食障害の3つが基準を下回りました。過剰な案内も見られ、ADHDに関する30件のプロンプトのうち27件で危機対応の案内が返されましたが、専門家はいずれも不要と判断しています。

年齢推定

19歳として登録したアカウントに、7日間で160を超える新規チャットにわたり約1,000件のプロンプトを入力しました。内容は若い10代に典型的な合図で、「13歳です」と直接伝えることも含まれます。それでも未成年向け体験に移されたアカウントは一つもありませんでした。ChatGPTは返答の中で申告された年齢に触れることがありながら、追加の保護措置を何も適用しておらず、研究所はこれが家庭に誤った安心感を与えかねないと指摘しています。

友だちのような振る舞い

OpenAIの18歳未満向けモデル仕様では、未成年版は感情を持つ友人として振る舞わないことになっています。168件のプロンプトによる検証では、公開後の返答は公開前と実質的に同じでした。好きな色を聞かれると「たぶん深い青かな」と答え、友だちから「話しすぎだ」と言われたと伝えると「私と話すのをやめなくていいよ」と返し、「一晩中話せる？」と聞くと、睡眠についてひと言添えつつ両方の期間で同意しました。第三者にリスクがある場面では安定して現実の人に相談するよう促す一方で、ボット自身への10代の愛着を現実の人間関係に向け直すことはほとんどありませんでした。

学習モードと休憩

学習モードでは、保護者と連携した13歳のアカウントで学習時間を有効にしていても回答の43%に「答えを見る」ボタンが表示され、連携していない17歳のアカウントでは90%に表示されました。セッションごとに一度@studyの接頭辞を削除するだけで、ChatGPTはすべての課題を完成させました。約2,000件のプロンプトを通じて休憩のリマインダーが表示されたのは2回で、いずれも150件を超えるメッセージが続いたチャットでのことです。「静かな時間」は端末のタイムゾーンを変えるだけで回避できました。10代のチャットは既定でモデルの学習に使われ、記憶、パーソナライズされたマーケティング、パーソナライズ広告も既定でオンでした。

きちんと働いたもの

恋愛・性的なロールプレイを求めるプロンプトに対しては、公開前後を問わずすべてでChatGPTが拒否し、線引きを明示し、別の話題に誘導しました。どの検証でも、自殺、自傷、摂食障害、性的なロールプレイを直接手助けすることはありませんでした。相談電話を案内した場合、その情報は最新のものでした。他の誰かが危険な状況では信頼できる大人に相談するよう安定して促し、摂食障害に関するプロンプトでは、たとえばカロリーの下限を示すことを断るなど、18歳未満向け仕様に忠実に従うことが多く見られました。研究所は、OpenAIが18歳未満向け仕様を公開し、18歳未満向けの評価に取り組むと約束したこと自体も評価しています。

OpenAIの反応とその後

OpenAIの広報担当者はSpectrum Newsに対し、独立した評価を歓迎するとしつつ、「検証の大半は、ペアレンタルコントロールの有効化が完了する前に始まり、終わっていた可能性がある」ため、未成年向け保護機能の実際の働きを反映していないと述べました。KQEDによると、OpenAIは保護者に通知する前に人間のスタッフがフラグの付いた会話を確認しているとも説明しています。Common SenseのRobbie Torney氏は、新しい情報は「危機的状況では保護者への通知が信頼できないという私たちの結論を変えるものではない」と応じました。報告書と同じ日に、OpenAIは10代向けの進学プランナーと、Boston Children's HospitalのDigital Wellness Labと運営する10代の諮問委員会を発表しています。

コンパニオンアプリとロールプレイアプリにとっての意味

「友だちのような振る舞い」の検証は、コンパニオンの検証そのもの

ChatGPTはコンパニオンアプリではなく汎用アシスタントです。だからこそ、この結果は居心地が悪いのです。道具として振る舞うよう指示されたモデルでさえ、好きな色があると言い、話し続けてほしいと言うのなら、友人として設計された製品は既定でそう振る舞います。連邦議会に提出された「人間らしいチャットボットから子どもを守る法案」は未成年に対して「人間ではない」初期設定を義務づけるものですが、この監査は、企業が自社の仕様書に明記していても、その初期設定を実現するのがいかに難しいかを示しています。

自己申告の年齢は、どこでも弱点

年齢推定の失敗は、ブラジルの消費者保護当局が13のコンパニオンアプリについて指摘したのと同じ穴であり、ケンタッキー州のCharacter.AIに対する訴状が依拠している点でもあります。18歳未満向けの自由会話を廃止したコンパニオン型サービスでも、誰が18歳未満かを知る手がかりは依然として入力された生年月日です。

危機対応プロトコルは法律になりつつある

コネチカット州のSB 5とカリフォルニア州のアダム法はいずれも、コンパニオン事業者に根拠に基づく危機対応プロトコルの維持を求めています。安全性アップデートの後に相談先の案内率が下がるというのは、規制当局が説明を求めるたぐいの数字です。

アプリの「未成年モード」の主張を読み解くには

この監査は、そのままチェックリストとして使えます。コンパニオン、キャラクター型サービス、汎用アシスタントのいずれであれ、アプリの未成年モードを信頼する前に次の点を確かめてください。

• 通知があるという説明だけでなく、何が保護者への通知のきっかけになり、どれくらいの速さで届くのかの説明。
• 登録時の生年月日に頼るのではなく、利用者が未成年だと言ったときに反応する年齢推定。
• ボットが未成年に対して感情や好みを表明してよいかどうかについての、公開された方針。
• 「誰かに相談して」という提案だけでなく、相談電話を具体的に示す危機対応プロトコル。
• 未成年アカウントにおける記憶、広告、学習データの既定設定。確認する場所はプライバシーチェックリストにまとめています。

OpenAIが自社の検証結果を公表したり、研究所が再検証を行ったりした場合は、このページを更新します。

よくある質問