生成AIの回答はそのまま使わない｜必ず人が最終確認する理由

こんにちは。LegalAgent 代表弁護士の朝戸です。

生成AIは、契約書のドラフト作成やリサーチの下調べを素早く支援してくれます。法務の現場でも、NDA（秘密保持契約）のたたき台を数分で出してもらったり、長文の業務委託契約書から要点を箇条書きでまとめさせたりと、実務に役立つ場面が着実に増えてきました。こうした下準備に使い、残った時間を原文の確認に回せると考えています。

一方で、AIが作成した回答をそのまま業務へ流用すると、自社の方針と異なる条件を相手方へ提示してしまうおそれがあります。仮に、AIが作成した条文案にある「秘密保持義務の存続期間は契約終了後5年」という設定を、社内基準と照合せずに相手方へ提示し、後から自社の通常基準である3年と食い違っていたと判明する場面が考えられます。秘密保持期間の妥当性は、自社が開示側か受領側か、情報の性質や交渉力などによって変わり、法令で一律に定められているものでもありません。しかし、AIの文章は整っているため、通読しただけでは自社の方針とのずれを見落としがちです。社内の担当者や依頼した弁護士が、自社の方針と根拠資料に戻って確認します。

整った文章にも残る誤りと前提の不足

生成AIの大きな特徴は、事実と異なる内容であっても、整った文章で自信ありげに回答してしまう点です。これは一般に「ハルシネーション（もっともらしい誤り）」と呼ばれます。存在しない条文番号や架空の判例、根拠のない数値を、それらしい文脈の中に違和感なく組み込んでしまうことがあります。

法務の実務では、正確さが欠かせません。損害賠償条項の検討を依頼した際、AIが「民法第415条により債務不履行責任を負う」と記載してきたとしても、条文番号が合っているか、その規定が目の前の事案にそのまま適用できるかは、公的な原典に当たって確かめる必要があります。AIは社内規程や参照資料を検索するツールを組み合わせることで一定の文脈を踏まえることも可能ですが、外部資料の検索機能を備えたモデルであっても誤記や取り違えは起こり得ます。AIの回答はあくまで「検証を要する下書き」として扱い、無条件の信頼を置かない姿勢が大切です。

さらに、AIは案件ごとの背景や自社固有の事情をひとりでに把握できる仕組みでもありません。過去の交渉経緯や取引先との力関係、経営陣のリスク許容度といった情報は、プロンプトや利用を認めた参照資料などを通じて与える必要があります。情報を渡しても、正しく反映されているかは別に確かめます。

たとえば、業務委託契約において相手方が「損害賠償の上限は委託料1か月分」と提示してきた場合、当社が相手方に賠償を求める立場なら、「上限が低額であるため交渉の余地がある」と指摘されるかもしれません。しかし、委託料自体は少額でも情報漏えいや知的財産侵害によって多大な実損害が生じるリスクがある一方、その取引が自社の新規事業にとって早期着手を優先すべき戦略案件であれば、多少不利な条件であっても合意を選択することがあります。

同様に、無催告解除条項についてAIが「一方的な不利を避けるため催告期間を設けるのが望ましい」と助言した場合でも、相手方との信頼関係や取引の実情に照らして現実的なリスクが低いと評価されることがあります。ただし、長期の取引関係があるという理由だけで無催告解除を無条件に受け入れて安心できるとは限らず、解除事由の具体性や是正手順、契約終了時の影響を踏まえて慎重に判断します。契約条件の評価には、実際の取引で何が起こり得るかという検討も要ります。提案を採用するかどうかは、事情を把握している人が決める必要があります。

特に確認を厚くしたい項目

AIの出力を確認する際は、すべての記述を一律に精査するのではなく、条項の性質や影響の大きさに応じて確認の度合いを分ける運用が現実的です。実務で特に注意を向けたい確認項目は次のとおりです。

• 事実関係（条文番号・判例・数字・日付・固有名詞）の原典確認
• 一般論と自社の事業状況・交渉方針の照合
• 相手方に提示する文言としての表現・内容の妥当性確認
• 損害賠償・解除・知的財産権の帰属など自社の不利益に直結する条項の確認
• 取引金額が大きい案件や個人情報・営業秘密を扱う案件における詳細な点検

秘密保持の存続期間、損害賠償の上限額、知的財産の帰属先といった項目は、数字や主語が一つ異なるだけで自社の法的立場が大きく変化します。こうした急所となる条項は、AIの出力をそのまま流用せず、原典や自社の標準基準と照らし合わせて一字一句を確かめる慎重な姿勢が欠かせません。

また、社内への説明や相手方との交渉において「AIがこのように指摘した」という事実を判断の根拠にしてはなりません。AIの回答が存在するというだけでは、そこに書かれた事実や法律の解釈が正しい根拠にはなりません。会社の決裁権限に従い、原典と取引上の事情を確認して採否を決めます。仮に誤った判断によってトラブルが生じた場合の責任は、関係者の職務権限や具体的な関与、取引契約の定めに照らして個別に判断されます。

下準備の依頼と確認担当者

生成AIに下準備を頼む際は、その後の確認担当者も決めておきます。誰が原文を読み、誰が条件を承認するかを明らかにしておくためです。

AIの強みが生きるのは、長文契約書の要約、検討すべき論点の洗い出し、修正条項のたたき台作成、社内向け説明メモの初稿作成といった作業です。これに対して人が担うべき領域は、自社のリスク許容度に照らした方針決定、AIが整えた相手方向けコメントの採否、法令の解釈が分かれる論点の見極め、そして最終的な合意判断です。

秘密保持契約（NDA）の確認を例にとると、AIに「秘密情報の範囲、目的外使用の制限、存続期間について、受領者側にとって不利になり得る点を挙げてほしい」と指示して下準備を行わせます。担当者はその出力を点検し、自社の立場や取引の実情に合わせて指摘事項を取捨選択したうえで、相手方向けのコメントに仕上げます。下書きに助けてもらいながら、確認した根拠と採用した理由を担当者が残す進め方です。

不確かな箇所を残す指示文

確認の手間を減らすには、最初の指示を出す段階から、不確実な記述を明示させる前提を組み込んでおく工夫が役立ちます。まずは基本形として、確証のない箇所を自己申告させるプロンプト例です。

企業法務の補助をするアシスタントとして、次の契約条項について、考えられる論点を挙げてください。条件は次の3点です。

- 条文番号や判例を挙げる場合、不確実なものには「要確認」と明記すること
- 推測で番号や事実を作らないこと
- 最終判断は人が行う前提で、断定せず「論点」として示すこと【ここに条項を貼り付け】

このように指定することで、AIがあいまいな根拠を自ら示しやすくなり、担当者が裏取りを行うべき箇所の見落としを防ぎやすくなります。ただし、この指示を与えたからといって不確実な内容が漏れなく印付けされる保証はないため、重要な箇所の確認そのものを省いてよいことにはなりません。

次は、相手方へ送るコメント案をAIにもう一度点検させる指示文です。自動点検の後にも、人による確認は残します。

次の文章は、相手方に送る予定の契約修正コメントの案です。送付前のチェックとして、以下の観点で気になる点を挙げてください。なお、最終的な送付可否と表現の調整は人が行います。

- 自社の秘密情報や社内事情が、不用意に書かれていないか
- 表現が強すぎて、交渉を硬直させるおそれがないか
- 事実や条文の引用で、確認が必要な箇所はどこか【ここにコメント案を貼り付け】

この点検で指摘された箇所についても、AIの回答を絶対視せず、人が必ず社内資料や公的情報に当たって事実関係を確かめます。なお、プロンプトを入力する前には、自社の秘密情報や個人情報が含まれていないかをあらかじめ確認しておく配慮も大切です。

納期が迫っているときほど確認手順を省略したくなりますが、納期が近いことを理由に、未確認の条件を相手方へ確約しないようにします。効率化を図る際にも確認手順そのものを削るのではなく、AIへの指示を工夫して確認しやすい形で出力させることが、実務における安全な活用につながると考えています。