カリフォルニア州AIコンパニオン規制｜安全対応・未成年者・表示義務

カリフォルニア州は2025年10月13日、AIコンパニオンチャットボットの運営者に表示義務と安全対応を課すSB 243にニューサム知事が署名し、2025年制定法第677章として成立させました。同法は、州のBusiness and Professions Codeに新章（第22.6章、第22601条から第22606条）を追加するもので、緊急施行条項を含まないため、2026年1月1日に施行されています。本稿では、規制対象となる「companion chatbot」の定義と適用除外、事業者に課される義務、私訴権（private right of action）を中心とするエンフォースメント、そして日本企業がカリフォルニア州のユーザーへコンパニオン型AIサービスを提供する場合の接点を、法文に即して整理します。

何が制定されたか

SB 243は、州上院議員Steve Padilla氏が2025年1月30日に提出し、州上院を同年5月23日に、州下院を同年9月10日に通過した後、知事の署名により同年10月13日に成立しました。法的性質は、カリフォルニア州のBusiness and Professions Codeを改正する制定法であり、日本のような行政指針やガイドラインではなく、私訴権を伴う制定法上の義務です。同法は、AIコンパニオンとの関わりの中で未成年者の自傷行為に至った事案が報告されたことを背景として提出された経緯があります。施行時期は二段階に分かれており、表示義務や安全プロトコルに関する規定は2026年1月1日から適用される一方、後述する州への年次報告義務は2027年7月1日から適用が開始されます。

規制対象と適用除外

第22601条は、「companion chatbot」を、自然言語による対話インターフェースを備え、利用者の入力に適応的かつ人間的な応答を返し、擬人的な特徴を示すことを含めて利用者の社会的欲求を満たすことができ、複数回のやり取りにわたって関係性を継続できるAIシステムと定義しています。同条は「operator」を、カリフォルニア州内の利用者にコンパニオンチャットボットのプラットフォームを提供する者と定義しています。

適用除外は3類型です。カスタマーサービス、事業の運営、提供元情報に関する生産性分析、社内調査又は技術支援のみに用いられるボットが除かれるほか、ゲーム内の話題への応答に限られ、メンタルヘルス、自傷行為又は性的な内容を扱うことができず、ゲームと無関係な話題での対話を継続できないビデオゲーム内ボットも対象外です。加えて、複数回にわたる関係性の継続や、利用者の感情的反応を誘発する可能性のある出力を伴わない、音声起動型の単体家電製品としての音声アシスタントも除外されています。したがって、業務用のFAQボットや、ゲーム内の案内機能に限定されたボットは、法文上は対象から外れると読めます。他方で、利用者との継続的な関係構築や情緒的な結びつきを前提に設計・訴求されているコンパニオン型のAIサービスは、除外事由に該当しない限り対象に含まれると考えられます。

事業者の義務内容

第22602条（a）は、利用者が人間と対話していると誤信しうる場合に、当該チャットボットが人工的に生成されたものであり人間ではない旨を明確かつ目立つ形で通知することを求めています。同条（b）は、自殺念慮、自殺又は自傷行為に関するコンテンツの生成を防止するプロトコルの整備を求め、利用者への通知及び自殺予防ホットライン等の危機対応窓口への案内を含む内容を、運営者のウェブサイト上で公表することを義務付けています。同条（c）は未成年者向けの追加義務であり、AIと対話している旨の開示に加え、少なくとも3時間ごとに休憩を促す通知を行うこと、未成年者へ向けた性的に露骨な内容の生成を防止する措置を講じることを定めています。第22604条は、全ての提供プラットフォームにおいて、コンパニオンチャットボットが一部の未成年者には適さない場合がある旨の表示を求めています。

第22603条は、2027年7月1日以降、運営者が州の自殺予防局に対し、前年中に第22602条に基づき発した危機対応窓口への案内の回数、自殺念慮の検知・除去・対応に関するプロトコル、及びエビデンスに基づく自殺念慮の測定方法等を年次報告することを義務付けています。第22606条は、同章に基づく義務が他の法令上の義務に累積するものであり、他の法令上の責任を免れさせるものではないと定めています。

エンフォースメントと私訴権

第22605条は、同章の違反により現実の損害を被った者に対し、民事訴訟を提起する権利を認めています。請求できる救済は、差止命令、実損害額と1件の違反につき1,000ドルとのいずれか大きい額の損害賠償、及び弁護士費用と訴訟費用です。行政機関による是正措置を経ることを前提とせず、被害を受けた個人が直接提訴できる設計であり、報道及び法律事務所の解説によれば、同時期に制定されたニューヨーク州の同種規制には私訴権の定めがない点で対照的とされています。本稿執筆時点で、第22605条に基づく訴訟が実際に提起された事例は確認できていません。AIコンパニオンサービスを巡っては、同法の成立前から複数の訴訟が係属していますが、それらが第22605条を根拠とするものかは本稿で確認した資料からは特定できません。

日本企業への接点

日本法には、コンパニオン型AIチャットボットの表示義務や自傷行為対応プロトコル、私訴権を定める規制は現時点で存在しません。個人情報保護法、景品表示法、民法上の不法行為責任等の既存法令が問題となる場面はあり得ますが、SB 243のような業種横断的な専用規制ではないという点で状況が異なります。

他方で、SB 243の「operator」の定義はカリフォルニア州内に法人を置くことを要件としておらず、州内の利用者に対してプラットフォームを提供する者を対象としています。したがって、日本の事業者がカリフォルニア州の居住者からアクセス可能なコンパニオン型AIサービスを提供している場合、州外からの提供であることを理由に適用対象から外れるとは限りません。翌日以降に確認すべき事項として、まず自社サービスが第22601条の定義及び3類型の適用除外のいずれに当たるかを、機能面から具体的に判定する手順を持つことが挙げられます。この判定は、AIサービスを始める会社が最初に作るべき法務チェックリストで扱う適用法令の洗い出しの一環として位置付けられます。

判定の結果、対象に含まれ得ると判断した場合は、利用規約上でAIである旨の表示条項が現行の記載で足りるかを確認する必要があります。この点は生成AIサービスの利用規約で最初に見るべき法務論点と共通する検討事項です。あわせて、自傷行為・自殺念慮に関する検知と危機対応窓口への案内フローを実装済みか、実装していない場合にどの部署がこれを整備するかを、生成AI利用ポリシーの作り方で扱う社内運用ルールの整備手順に沿って確認することが実務上の出発点になります。なお、利用者に人間と誤信させる設計を避けるという開示義務の考え方は、AIによるなりすましを扱うディープフェイク・なりすまし広告の法務の議論とも重なる部分があります。

今後確認すべき動き

執筆日現在、次の点が未確定又は継続確認を要する事項です。

• 2027年7月1日から始まる州自殺予防局への年次報告について、報告様式や具体的な記載事項に関する行政上の指針が公表されるか
• 第22605条の私訴権に基づく訴訟の提起及びその判断内容
• ニューヨーク州のAIコンパニオン規制（2025年11月5日施行）や、報道によればオレゴン州が2026年3月に制定した同種の私訴権付き規制など、他州の制度がカリフォルニア州の規制内容とどこまで平仄を合わせるか
• カリフォルニア州司法長官その他の規制当局による解釈指針や執行事例の公表状況

これらは、いずれも本稿執筆時点で確定していない事項であり、確定した段階で、自社サービスへの当てはめを改めて確認する必要があります。