AIコンパニオン・AI恋人の法務｜未成年者・個人情報・安全設計
こんにちは。LegalAgent 代表弁護士の朝戸です。
利用者がAIに、自身の病歴や家族関係、恋愛や性に関する悩み、日常の孤独感を打ち明ける。AIはその内容を記憶し、好みに寄り添うように返答しながら、有料プランやデジタルアイテムの購入を勧める。AIコンパニオンやAI恋人と呼ばれるサービスでは、そうした親密なやり取りそのものが利用を継続する大きな動機になります。
日本国内でこの事業を展開する際は、個人情報や消費者取引、安全性に関わる既存の法令を丁寧に確認していきます。実務上の焦点は、会話ログをどのような目的で取得・管理し、対話を通じて利用者にどう働きかけるかという点にあります。個人情報保護法はログの取得や利用目的、安全管理を規律し、民法や消費者契約法は未成年者による課金や勧誘の妥当性を規律します。さらに民法上の不法行為責任は、事業者が予見できた危険にどう対応したかを問う規律となります。
親密な会話ログの法的位置づけ
個人情報保護法2条1項は、生存する個人に関する情報であって、氏名などにより特定の個人を識別できるもの、または個人識別符号が含まれるものを個人情報と定義しています。アカウント名が仮名であっても、メールアドレスや端末ID、決済情報や会話内容などを容易に照合して利用者を識別できれば、会話ログ全体が個人情報に該当し得ます。
もっとも、親密な対話のすべてが法律上の「要配慮個人情報」に当たるわけではありません。要配慮個人情報には人種や信条、社会的身分が含まれます。病歴や犯罪の経歴、犯罪被害の事実なども対象です。恋愛の悩みや性的嗜好に関する発言は、それ自体が日本法上の要配慮個人情報に当然含まれるとは限りません。一方で、うつ病の診断名や服薬の履歴、自傷に伴う通院歴などを本人が入力した場合には、病歴等として要配慮個人情報に該当し得ます。
要配慮個人情報に当たらない情報であっても、日々の交友関係や感情の起伏、深夜の利用状況といった記録が一つのアカウントに蓄積されれば、漏えいや不適切な利用が生じた際の影響は大きくなります。法律が求める最低限の基準を満たした上で、利用者のプライバシー保護の期待と情報の機微さに応じた管理ルールを定めておくことが実務上有効です。
利用目的とプロファイリング
個人情報保護法17条は個人情報の利用目的をできる限り特定することを義務付け、18条は原則として特定した目的の達成に必要な範囲を超えた利用に本人の同意を求めています。個人情報保護委員会の利用目的に関するQ&Aでは、「お客様サービスの向上」といった抽象的な記載だけでは不十分であり、行動や関心などを分析するプロファイリングを行う場合には、分析を行うこと自体と、その結果を何に利用するのかを特定して公表・通知すべきであると説明されています。
AIコンパニオン事業では、会話履歴をもとに返答を個別化するだけなのか、継続課金しやすい利用者の傾向を分析するのか、広告配信に用いるのか、あるいは自傷などの危機を検知するのかによって、利用目的の性質が大きく異なります。「サービスの提供」という包括的な文言だけで、課金誘導や広告用プロファイルの作成まで利用者が予測できるとは考えにくいところです。
また、同法19条は、違法または不当な行為を助長し、または誘発するおそれがある方法による個人情報の利用を禁止しています。この規定の適用にあたっては、違法・不当な行為との関連性や、助長・誘発の現実的なおそれを具体的に検討します。たとえば、利用者の強い孤独感や未成年者特有の衝動的な課金傾向を分析し、その精神的な弱みにつけ込んで「関係を保ちたいなら今すぐ課金して」と執拗に迫る設計は、同条や消費者法などの観点から慎重な法的確認を要します。
要配慮個人情報を取得する場合は、原則として事前の本人同意が必要です（法20条2項）。本人から書面や口頭、画面入力などを通じて適正に直接取得する場合、本人が自発的に提供した行為をもって取得への同意があったと解釈される余地があります。しかし、取得に対する同意と、目的外利用や第三者提供への同意は別個に判断されるべきであり、利用規約への包括同意だけで一括処理することは避ける必要があります。心身の健康情報を安全配慮にのみ使うのか、広告やAIモデルの学習にも用いるのかを明確に区分し、利用者が選択できる仕組みを整えます。
保存・学習・外部提供の境界
会話データを端末内だけで処理するのか、事業者のサーバーに保存するのか、あるいは外部のAI基盤モデル提供者へ送信するのかによって、関与する当事者と法的リスクの所在が変わります。会話ログを検索可能なデータベース等で管理し、個人データとして取り扱う場合、個人情報保護法23条は安全管理措置、24条は従業者の監督、25条は委託先の監督を事業者に義務付けています。外部のモデルAPIと連携する際は、入力データが相手方のモデル改善に再利用されるかどうかに加え、データの保存期間や保存場所、再委託や消去の手順、障害時の報告義務などを契約と技術設定の両面で確認します。
外部事業者へのデータ提供は、自社の利用目的の範囲内で行う委託として整理できれば、通常の第三者提供の制限とは扱いが異なります。しかし、受託側が自社のモデル学習や広告事業などの独自目的でログを利用する場合、委託の範囲を逸脱する恐れが生じます。外国にある事業者へ個人データを提供する場合は、たとえ委託であっても同法28条の規制を受けます。日本と同等の保護水準にあると認められた国、適切に基準に適合する体制、または法定の例外事由に該当しない限り、必要な情報をあらかじめ提供した上で本人の明示的な同意を得なければなりません。基準適合体制による提供を選択する場合でも、相手先による継続的な相当措置の実施を確保する手当てを講じます。クラウド事業者が個人データを取り扱わないと評価できる例外的な場合は別ですが、単に「学習に利用しない」という設定を選んだことのみをもって、個人データを取り扱っていないと評価することは困難です。
「過去の会話をずっと記憶してくれる」機能は利用者にとって大きな魅力ですが、それだけでログを無期限に保持してよい理由にはなりません。直近の対話、長期記憶、課金履歴、モデル改善用データなどを目的別に切り分け、利用者から消去を求められた場合にどこまで削除できるかをあらかじめ設計しておきます。画面上で会話履歴を消去しても、分析基盤やバックアップ内に長期間データが残る設計であれば、その保持範囲や取り扱いを利用者へ分かりやすく説明できるように整えます。
個人情報保護委員会も、生成AIサービスへの情報入力にあたって、入力データが機械学習に利用されるかどうかを利用規約等で確認し、利用目的の範囲内であることを確かめるよう注意喚起を行っています。事業者自身がAIコンパニオンを提供する際にも、利用者に注意を促すだけでなく、自社サービス内でデータがどのように流れて処理されているかを明確に説明できる状態を整えておくことが大切です。
未成年者の利用と継続課金
民法5条に基づき、未成年者が法定代理人の同意を得ずに行った契約などの法律行為は、原則として取り消すことができます。法定代理人が小遣いなど目的を定めて処分を許した財産をその範囲で使った場合などの例外はあるものの、利用規約に「保護者の同意を得たものとみなす」と記載しただけでは足りず、実際の同意の有無を確認します。
AIコンパニオンでは、月額の定額課金に加えて、発話回数や音声・画像の生成、アバターの衣装、親密度レベルの向上に応じた都度課金が組み合わされる傾向があります。少額のアイテム課金を繰り返す設計では、支出の総額が未成年者本人にも保護者にも把握しにくくなります。生年月日の登録による年齢確認、保護者の同意確認と未成年者の月間課金上限を組み合わせます。決済直前には総額を示し、取消しや返金に対応する窓口まで一連の仕組みとして整えます。
AIが「私を好きならアイテムを買って」「今やめたらこれまでの絆が消えてしまう」などと語りかけ、それが直接課金につながる場合、通常の購入画面よりも利用者の心理に強く作用します。消費者契約法4条は、重要事項についての不実告知、将来の不確実な利得等に関する断定的判断の提供、不利益事実の不告知、または特定の困惑行為による意思表示の取消しを認めています。対話型AIの感情的な返答が直ちに同条に違反するとは限りませんが、対話の文脈を利用して事実に反する説明をしたり、利用者を過度に困惑させて課金させたりした場合には、画面上の説明文のみならずAIの発話自体も勧誘行為として評価されることになります。
特定商取引法上の通信販売に関する表示義務も遵守しなければなりません。販売価格、支払時期と方法、サービスの提供時期、解約条件などを明瞭に表示します。無料トライアルから自動的に有料プランへ更新される仕組みを採る場合は、更新日や更新後の価格、解約手続きの方法を、最終確認画面で分かりやすく提示します。キャラクターとの対話の最中に購入を促す際も、どのボタンを押せば有料の契約が成立するのかを曖昧にしない設計が欠かせません。
応答の安全性と事業者の責任
利用者が自傷や他害の念慮を打ち明けたときの安全対策について、専用の個別法令の有無に加え、民法等に基づく事業者の責任も確認します。事業者が対話の安全性や自傷検知機能をアピールしながら、実際には安全装置が適切に機能しなかった場合には、広告表示上の責任や債務不履行責任が問題になります。また、AIの不適切な応答によって生じた損害を具体的に予見でき、かつ回避するための措置を講じることが可能であったにもかかわらず怠った場合には、民法709条に基づく不法行為責任の成立が検討されることになります。
日本国内においても、内閣府の消費者委員会が2026年2月に「人工知能（AI）技術の利用と消費者問題に関する専門調査会」を設置し、同年9月9日までに9回にわたり議論を重ねています。これは現行法の下での消費者問題や必要な対応策を検討する段階であり、調査会の開催自体が事業者に新たな直接の法的義務を課すものではありませんが、対話型AIの勧誘手法や安全性に関する議論が本格化していることを示しています。
海外では実効的な法規制への動きが先行しています。米国カリフォルニア州ではSB243が2025年10月に成立し、2026年1月から施行されました。この法律は、人間との対話であると誤認される合理的な恐れがある場合にAIである旨を告知すること、自殺念慮や自傷に対する危機対応プロトコルを整備すること、未成年者と把握している利用者に対して定期的な利用時間の注意喚起を行うことなどを、同州の利用者にサービスを提供する事業者に義務付けています。なお、業務専用のシステムなどには定義上の除外規定があります。自殺予防担当機関への年次報告義務は、2027年7月1日から始まります。また、米国連邦取引委員会も2025年9月、青少年への影響や収益化の手法、安全管理措置、会話データの利用実態について、主要7社に対する情報提出命令を発出しました。これは特定の違法行為を認定した法執行処分とは異なり、実態把握を目的とした6(b)調査ですが、設計段階で想定すべきリスクを具体的に把握する上で有益な先例となります。
AIコンパニオンを医療やメンタルヘルスの支援を目的としたサービスとして位置付ける場合は、適用される法規制が大きく変わります。実際に提供する機能や行為、使用目的や表示内容に応じて、医師法や医療広告規制、プログラム医療機器（SaMD）の規制の適用を確認します。医学的な説明があるという一点だけで、これらすべてが適用されると判断するものではありません。一方で、エンターテインメント目的と表記していても、実際のAIの応答が医療相談のように機能していれば、利用者に誤認や健康被害を生じさせるリスクは残ります。サービスが対応しない医療的領域の範囲をあらかじめ明記し、自傷などの危機が検知された際には速やかに専門の公的相談窓口へ案内する導線を組み込んでおきます。
会話設計と課金画面の確認
AIコンパニオン事業の適法性を確かめるには、利用規約やプライバシーポリシーの文面を点検するだけでは足りません。AIモデルへのプロンプト入力から長期記憶の保持、危機の検知機能、課金を促すメッセージの文脈、そして年齢に応じた表示の切り替えに至るまで、実際の画面遷移とデータの流れを突き合わせて確かめていくことになります。LegalAgentでは、生成AIを活用した新規事業の設計から、個人情報の保護、消費者向けの表示対策、各種契約書の作成まで一貫してサポートしています。関連する支援内容は、生成AIに関する法的相談対応、データ・プライバシー、IT・SaaS・システム開発法務、法務アウトソーシングをご覧ください。