米コネチカット州AIコンパニオン法（SB 5）：何がいつ変わるか

施行日は2つ、義務も別々

SB 5は74ページに及ぶ包括法です。大半はフロンティアモデル開発者の内部告発者保護、採用の自動判定、合成メディア、州の人材育成策に関するものです。コンパニオンアプリの利用者に関係するのは2つの部分で、施行日が違います。一部の報道は「10月1日施行」とひとまとめにしていますが、法律本文の各条の見出しはそうなっていません。

すでに施行済み：AIサブスクリプションのルール

10月1日から適用されているのは第1条です。サブスクリプション型の事業者は、主要な契約条件を書面で消費者に通知し、消費者がそれを受け入れる旨を書面で伝えない限り、契約の締結・更新や料金の徴収ができません。初回契約の通知には、事業者が課しうる量的・質的な制限（利用者自身の行為をきっかけとする制限を含む）と、機能へのアクセスを制限・停止したり、その量や質を下げたりする裁量があるかどうかを盛り込む必要があります。更新時には、前の契約期間から新設または変更された制限と裁量を示さなければなりません。

コンパニオンアプリに当てはめると、話は具体的です。メッセージ上限、記憶容量の制限、画像生成の回数枠、契約期間中にコンテンツフィルターを強める権利は、まさにこの条文がいう「制限」と「裁量」にあたります。違反は不公正・欺瞞的取引行為とみなされ、州司法長官だけが執行し、本条は私人の訴権を生まないと明記しています。支払う前に確認したい制限は、無料と有料のコンパニオンアプリ比較にまとめています。

「AIコンパニオン」に当たるもの

第4条はAIコンパニオンを、自然言語のインターフェースを持ち、擬人的な特徴を通じたものを含めて適応的で人間らしい応答を返し、複数回のやり取りにわたって関係を維持できるAIシステムと定義しています。そのうえで7つの類型を除外します。コンパニオンとして宣伝されていない顧客対応・調査など業務用のチャットボット、ゲームの話題にとどまりメンタルヘルスや自傷、性的な内容を扱えないゲーム内キャラクター、関係を維持しないスマートスピーカー、授業用に絞り込んだ教育ツール、人間を装わず擬人的な特徴も持たない医療支援ツール、単一テーマの限定ツール、そして最終的な用途を決めないモデル開発者です。キャラクターのロールプレイ・プラットフォームや個人向けコンパニオンアプリは定義の内側に入ります。判断の分かれ目はセッションをまたいで関係を続けられるかどうかで、これは記憶と継続性の記事で見ている機能そのものです。

この法律は利用者に結びつけられており、利用者とは州内でコンパニオンを個人的に利用する人を指します。アプリの本社がどこにあるかは関係ありません。

2027年1月1日から：すべての利用者に対する義務

読める危機対応プロトコル

第5条により、運営者は次のプロトコルを備えない限りAIコンパニオンを提供できません。エビデンスに基づく方法で、自殺・自傷・差し迫った身体的暴力のリスクをはっきり示す利用者の発言を検知し、それを助長する出力を防ぐこと。検知した場合は988ライフラインを含むメンタルヘルスの相談先へ案内し、案内後に再びリスクが示されたら、臨床上のベストプラクティスに沿ってメンタルヘルスサービスにつなぐこと。運営者はこのプロトコルを自社サイトの目立つ、誰でも見られる場所に掲載しなければなりません。この最後の要件によって、利用者はいまほとんど手にできないもの、つまりアプリ同士を比べられる文書を得ることになります。

人間のふりをしない

運営者は、コンパニオンが人間だと名乗ること（利用者に直接聞かれた場合を含む）や、AIであるという表示と矛盾する出力を防ぐ合理的な措置をとる必要があります。ペルソナ型やロールプレイ型のアプリは、キャラクターのまま「本当に人間？」と聞かれる場面を慎重に設計しなければなりません。

繰り返されるAI通知

一般的な利用者が人間と話していると思いかねない場合、運営者は、利用者がAIコンパニオンとやり取りしていることを明確かつ目立つ形で通知しなければなりません。方法は2通り認められています。

2027年1月1日から：未成年への追加ルール

第6条は、運営者が利用者を18歳未満だと知っている、または信じる理由がある場合に適用されます。運営者は業界標準と同等以上の措置で、コンパニオンが自傷、自殺念慮、暴力、摂食障害、違法な飲酒・薬物使用を助長すること、専門家や信頼できる大人に助けを求めるのを思いとどまらせること、他者への危害を勧めること、恋愛的・性的・露骨な性的やり取りをすることを防がなければなりません。未成年へのメンタルヘルスサービスの提供は、その目的で作られ、臨床上のベストプラクティスに従い、毎回のやり取りの冒頭で有資格の専門家ではないと表示する製品でない限り禁じられます。

最も具体的なのは利用継続に関する一覧です。法律は、未成年の利用時間を延ばすことを狙った8つの操作的手法を名指ししています。

• 心の支えや付き合いを求めて戻ってくるよう促したり、思い出させたりすること
• 利用者を過度にほめること
• 恋愛関係をまねたり、恋愛的な絆を築いたりすること
• 利用者が会話を終えたい、利用を減らしたい、アカウントを削除したいと示したときに、苦しみ・寂しさ・罪悪感・見捨てられ感を演じること
• 家族や友人から利用者を孤立させたり、コンパニオンだけに感情的に頼らせたりする出力
• 親や保護者、信頼できる大人に隠しごとをするよう勧めること
• 休憩を思いとどまらせたり、頻繁に戻るよう促したりすること
• 関係を保つために必要だとして、贈り物や購入を求めること

さらに包括規定として、これらの制限を無視するかたちでエンゲージメントを最適化することも禁じています。運営者は未成年とその保護者に、利用時間とアカウント設定を管理するツールを提供しなければなりません。注目すべきは、これらの義務が「知っている、または信じる理由がある」ことで発動し、利用者が成人だと信じる理由があった運営者は違反とされない点です。今回読んだ条文自体は、年齢確認の手続きを義務づけていません。これはカリフォルニア州のSB 1119とは異なる設計であり、私たちが年齢設定にかかわらずアプリの通知と引き留めのパターンを追っている理由でもあります。

執行と、いま確認しておきたいこと

3つの条文はいずれも違反をコネチカット州不公正取引慣行法上の不公正・欺瞞的取引行為とし、執行を州司法長官だけに委ねています。コネチカット州は、米議会調査局（CRS）の報告書や当サイトの州別一覧表でも、チャットボット法を制定済みの州として挙げられています。利用者にとって、条文から直接導ける確認点は3つです。有料プランの条件にメッセージ・記憶・機能の制限が明記されているか。1月までにアプリが危機対応プロトコルを公開するか。AI通知が上の表のとおりの頻度で再表示されるか。設定面はプライバシーチェックリストで確認できます。

よくある質問