条文番号・出典は必ず自分で確認する｜生成AIの落とし穴

こんにちは。LegalAgent 代表弁護士の朝戸です。

生成AIに法令や法務の疑問を投げかけると、条文番号や判例、出典を流暢に答えてくれます。「2026年1月1日施行の取適法では、対象取引の支払期日を給付受領日から60日以内のできる限り短い期間内に定めます」「最高裁の判決が存在します」といったように、具体的で正確そうに見える回答が即座に返ってくるため、非常に頼もしく見えます。

ところが、ここに大きな落とし穴があります。提示された条文番号や判例名が、実際には存在しない架空のものである場合がある点です。AIに「個人情報保護法第○条」と案内され、念のため公式の法令データベースで検索してみると、まったく異なる規定であったり、条文自体が存在しなかったりする事態が起こり得ます。回答の日本語が自然で堂々としているため、疑わずにそのまま信じてしまいやすい点に危うさがあります。

法務に対する社内外の信頼は、結論の良し悪しだけでなく、その判断を支える根拠の確かさによって支えられています。生成AIの出力から調査の候補を探しつつ、条文や判例、行政資料の存在と正確な文言は、それぞれの公式な一次情報に当たって直接確定する作業が欠かせません。

番号が具体的でも、実在するとは限らない

生成AIは、実在しない条文番号や裁判例をもっともらしく作り出してしまうことがあります。専門的には「ハルシネーション（もっともらしい誤り）」と呼ばれる事象です。文章の体裁が極めて自然であるため、前提知識がないと誤りに気づくのは容易ではありません。

特に警戒したいのは、引用が具体的かつ精緻であるほど、人はそれを疑わずに受け入れやすくなる心理です。「○○法第○条第○項」や「最高裁○年○月○日判決」といった詳細な表記が並ぶと、本物の出典であるかのような印象を受けます。たとえば、偽装請負の判断基準を尋ねた回答に通達番号と日付が書かれていても、その表記だけでは実在する通達か分かりません。番号の形式や表記規則が整っているからといって鵜呑みにせず、必ず自ら原典に当たって確かめる姿勢が大切です。

AIがこうした誤りを起こす背景には、回答生成の仕組みがあります。モデル自身の学習データに基づいて文章を組み立てる場合だけでなく、外部検索や提供資料を参照する機能を備えたモデルであっても、参照先からの引用過程で文言の取り違えや要約時の誤解が生じることがあります。また、AIが提示したURL自体が存在しなかったり、無関係なページを指していたりする不整合も起こります。

さらに、法令の適用時期という観点も見落とせません。法令や解釈基準は改正によって随時更新されますが、過去の法令や古いガイドラインの内容を、現行のものとして出力してしまうことがあります。新法の施行後に調査する場合でも、検討対象となる過去の取引には旧法が適用されることがあります。施行日と経過措置を調べ、どの時点の取引にどの条文を使うかを確かめます。

法令・判例・行政資料ごとの確認先

裏取りを確実に行うには、何を確認すべきかを明確にしておく必要があります。実務において特に一次資料での確認を要する項目は次のとおりです。

• 条文番号（法令名・条項）：e-Gov法令検索などの公式データベースで条番号と規定内容が合致しているか
• 判例（裁判所名・言渡年月日・事件番号）：公的判例集や裁判所の公式判例検索で実在性、事案の適合性、判示内容を確認できるか
• 法令上の数字（期間・金額・算定基準）：条文や公的資料の原文と正確に一致しているか
• ガイドライン・通達・告示：発出元省庁の公式サイトで最新版の正式名称や通達番号を確認できるか
• 法改正の施行日と適用関係：対象となる取引の時点に適用される規定か

冒頭の取適法の例なら、正式名称は「製造委託等に係る中小受託事業者に対する代金の支払の遅延等の防止に関する法律」で、支払期日は第3条で確認します。対象となる事業者・取引について、2026年1月1日以降の発注か、従前の下請法が適用される取引かを分けます。対象取引では、検査の有無にかかわらず給付受領日（役務は提供日）から60日以内のできる限り短い期間に期日を定めます。60日以内なら、先に合意した支払日を過ぎてもよいという意味ではありません。

情報の種類ごとに、確認先を選びます。法令の条文であればe-Gov法令検索で現行条文および過去の条文履歴を確かめ、判例であれば裁判所の裁判例情報や信頼できる判例データベースで判決文の全文を確認します。判例検索でヒットしない場合でも、公的データベースに未掲載の裁判例が存在する可能性はあるものの、未確認の判決を法的な根拠として引用することは避けるべきです。また、省庁のガイドラインは法的な拘束力を持つ法令とは性質が異なるため、最新の公表資料に当たって法的性格や適用範囲を把握します。

ここで守るべき順序は、AIの出力を「探すための足がかり」にとどめ、最終的な判断根拠を、法令本文や実際の判決文で確かめることです。原文を開けば、番号の誤りだけでなく、例外や前提の抜けにも気づきやすくなります。

確認対象を拾い出す指示文

最初からAIに対して不確かな記述を正直に申告させるプロンプトを用いることで、後の確認作業をスムーズに進められます。次は、不確かな引用を明示させる指示文です。誤りを必ず防げる指示ではないため、原典確認と組み合わせて使います。

次のテーマについて説明してください。条件は次の3点です。

- 条文番号や判例を挙げる場合、それが不確実なら「要確認」と明記すること
- 推測で条番号や判例名を作らないこと
- 確実でない場合は「条文名のみ」を挙げ、番号は断定しないこと【ここに質問を記入】

「要確認」と明記させておくことで、どの箇所を重点的に裏取りすればよいかが直ちに把握できます。ただし、この指示を与えてもすべての不確実な記述に印が付くとは限らないため、確認の手間を補助する工夫として捉える姿勢が大切です。

次の指示文では、回答から出典確認が必要な箇所を抜き出させます。対象が一覧になれば、担当者が確認先を開く際の手掛かりになります。

次の文章の中から、条文番号・判例・法令上の数字・ガイドライン名など、出典の確認が必要な箇所だけを一覧にしてください。各項目について、引用されている内容と、確認に使うべき一次情報(例:e-Gov法令検索、裁判所サイト等)を併せて示してください。

なお、実際の確認は人が一次情報に当たって行います。【ここに確認したい文章を貼り付け】

このプロンプトを活用すると、長文の回答から確認対象と確認先が整理され、原典照合の作業を効率的に進められます。AI自身に再確認や点検を行わせる場合でも、その自己点検結果自体を独立した証拠とみなすことはできません。抽出された項目は、必ず担当者が一次情報へアクセスして確かめます。

実務で起こりやすい失敗として、AIが提示した条文番号を疑わずに社内文書や相手方への回答へ転記してしまう例や、判例の結論だけを信じて事案の違いを見落としてしまう例が挙げられます。判例名が実在していても、前提となる事実関係や手続き上の争点が異なれば、自社の事案にそのままあてはめることはできません。また、確認の過程で社内の秘密情報や個人情報を不用意にプロンプトへ入力しないよう配慮することも大切です。「AIがそう回答した」という事実は社内外に対する説明の根拠にはならず、最終的な出典確認と判断の責任は人が負う前提を崩さない運用が健全だと考えています。