AIエージェントの権限設計｜発注・送信を任せる前に決めること
こんにちは。LegalAgent 代表弁護士の朝戸です。
AIエージェントを業務システムに組み込むときは、処理能力の高さを見る前に、どこまでの行為をAIに直接実行させ、どこで人の確認や承認を挟むかを決める必要があります。この線引きを後回しにして発注や顧客対応の自動化を進めると、誤った発注やメッセージ送信が起きた際に、社内で誰も止める手立てがなかったという事態に陥りかねません。
民法上の位置づけと意思表示の帰属
企業がAIエージェントに発注や契約手続きを任せようとするとき、頭の中で「AIを自社の代理人にする」と捉えてしまう場面があります。しかし、民法が定める代理制度は、代理人自身が権利義務の帰属主体となり得る「人」（法人を含みます）であることを前提に組み立てられています。
民法99条1項は、代理人が権限内において本人のためにすることを示して行った意思表示は、本人に対して直接その効力を生じると定めています。同条2項は、相手方が代理人に対して行った意思表示についても同様に扱うとしています。ここで想定されている代理人は、本人から独立して意思表示を行う主体であり、少なくとも権利義務を担える者です。実際、民法111条が代理権の消滅事由として代理人の死亡や後見開始の審判を定めていることからも、独立した主体としての人が想定されていることが分かります。
現在の日本法において、AIそのものに独立した法人格は認められていません。AIエージェントが発注メールの送信や見積の承諾、送信ボタンの押下を行った場合を考えます。その行為は利用者が設定・運用するシステムを介して行われたものとして、利用者に効果が帰属するかを判断します。AIだけを独立した法的主体と位置づけ、その行為を利用者から法的に切り離す考え方は採りにくいのが現状です。もっとも、現行の民法上の代理制度をそのままAIに重ね合わせ、「AIが自律的に判断したのだからAI独自の行為だ」と捉える説明も、法制度の前提と噛み合いません。
実務では、システムを使ってどの行為を行うかを決め、業務プロセスと社内承認ルールを整えます。それと並行して、自社の意思表示として扱われる条件や誤作動時の対外的な効力を検討します。
実行範囲の仕分けと法規制への配慮
権限設計の第一歩は、AIエージェントが自律的に完了させてよい行為と、担当者の承認を経てから送る行為を分けることです。この区分は、システム機能の名前ではなく、行為がもたらす法的・経済的な影響の大きさを見て行います。
発注業務を例にとると、日頃から取引のある相手への定型的な追加発注と、新しい取引先との基本契約締結とでは、金額や条件によって、手違いが起きたときの損失の規模が異なります。顧客対応でも、よくある質問への定型回答と、返金や契約条件の変更に関わる回答とでは、対外的な効果の重みが違います。この差を見極めずに「発注をAIに任せる」と大まかに決めてしまうと、意図しない高額な契約や不利な条件変更まで自動で進んでしまいます。
実務では、次の3つの視点で行為を仕分けます。この境界が、自動実行と承認待ちを分ける基準になります。
- 外部に対する意思表示を伴う行為か、社内の情報整理にとどまる行為か
- 取消しや撤回が容易な行為か、実行後に元の状態へ戻すのが難しい行為か
- 既に合意した取引条件の範囲内か、新たな条件を定める行為か
この仕分けを怠ると、定型的な処理と人が判断すべき例外的な処理が混ざり合い、手違いが生じた際にどの工程で止めるべきだったのかを説明できなくなります。
あわせて、外注先との取引に関わる法令の確認も欠かせません。発注先が取適法の中小受託事業者や、フリーランス法の特定受託事業者に該当する場合、AIを介した発注であっても、取引条件の明示や支払期日の管理を省くことはできません。事業者の資本金や規模、取引類型、従業員の使用状況などを確認したうえで、発注時に必要事項を書面や電磁的方法で示し、期日内に報酬を支払える運用を整えます。フリーランス法3条の取引条件明示は、特定受託事業者に業務委託を行う事業者に課されます。4条の報酬支払期日等は、発注者が特定業務委託事業者に該当する場合に適用されます。発注者の従業員使用状況や役員構成、相手方の該当性に加え、義務ごとの継続期間等の条件を確認します。社内の金額基準を下回っているからといって適用を免れるわけではないため、法定の記載事項が抜けた発注はシステム上で送信を止める仕組みにしておくことが実務的な備えになります。
金額閾値と承認フローの設計
行為の性質を仕分けた後は、金額や件数に応じた具体的な基準を定めます。「高額な取引は人が確認する」といった曖昧な指示にとどめると、担当者ごとに判断がばらつき、歯止めのない自動化と変わらない状態になりかねません。
実務では、以下の3つの基準を組み合わせて設定します。
- 1件ごとの金額基準（平均的な発注単価の一定倍を超えるものは自動実行しない）
- 期間内の累積金額基準（同じ取引先への一定期間内の発注合計が基準額を超えたら承認を挟む）
- 対象取引の基準（新規取引先、支払条件や契約条項の変更を含む場合は金額にかかわらず承認を挟む）
これらの基準を設けたうえで、上限を超えたときは処理を自動で停止させ、担当者の確認待ち画面へ切り替える仕組みを用意します。基準を超えたかどうかの判定自体をAIの出力に委ねてしまうと、AIが判断を誤った際に停止できなくなるため、判定と停止の制御はAIの外側にある業務システムのプログラムとして組み込む形が適しています。
承認画面には、判断に必要な情報を表示します。AIがどのデータを参照してその発注書や回答文を作成したのか、承認者が画面上で確認できる状態にしておく必要があります。提示された根拠を確かめずに承認ボタンを押すだけの運用が定着すると、手続だけが形式的に残り、人が介在する実質的な意味が失われてしまいます。
ログ記録と誤作動時の責任関係
権限設計と並行して進めるべきなのが、実行ログの記録です。ログ監査全般の考え方はAIエージェントのログ監査と責任分界のチェックポイントで解説していますが、権限設計においては「どの権限とルールに基づいて実行されたか」をログへ紐づけて残す作業が中心になります。
発注やメッセージ送信の記録には、適用された金額条件や承認者の氏名、承認日時、画面上に提示されていた参照情報を残します。自動実行された場合でも、その時点のモデル・判定ルールの版と設定値を記録に残すことが大切です。ログに含まれる個人情報や営業秘密については、利用目的と保管範囲を定めたうえで、閲覧できる担当者を限定し、保管期間を定めて管理します。後から判定ルールを変更したときでも、過去の各処理が変更前後のどちらのルールに基づいて動いたかを後から追跡できるようにしておきます。
こうした記録がないと、誤発注が起きた際に、ルールの設定が甘かったのか、承認者の確認漏れだったのか、システムの不具合だったのかを切り分けが難しくなります。原因を特定できない状態は、社内の改善を妨げるだけでなく、取引先への説明でも不利に働きます。
もし誤作動が起きてしまった場合、取引先に対して「AIが勝手に行ったことであり、当社の意思ではない」と弁解しても、その主張がそのまま通るとは考えにくいのが実情です。民法110条の権限外の表見代理や112条の代理権消滅後の表見代理は、人による代理行為を前提とした規定であり、AIの挙動にそのまま当てはまるものではありません。AIの出力が自社の意思表示とみなされるかどうかは、システムの設定や運用実態、相手方との事前の取り決め、実際の取引経緯などを総合して判断されます。取引先から見れば、普段と同じ連絡窓口やアカウントから届いた発注であれば、人の手作業か自動送信かを判別できない場合もあります。
一方で、民法95条の錯誤取消しの要件に照らし、法律行為の目的や取引上の社会通念に照らして重要な錯誤があり、重大な過失がない場合や相手方の認識等による例外に該当する場合などには、意思表示を取り消せる余地もあります。基礎事情についての錯誤では、その事情が法律行為の基礎とされていることの表示も条件になります。相手方の信頼があるからといって、自社があらゆる誤作動の結果を背負うと決めつける筋道も立ちません。契約の効力が認められるかと、損害賠償責任を負うかは分けて検討されます。経済産業省のAI利活用における民事責任の手引きでも、利用者の責任について、業務プロセスの組み立てや人の関与、事前の説明状況などを具体的に検討していますが、これは一律に裁判所を拘束する法的な判断基準とは異なります。
取引先との契約条項と導入手順
自社がAIエージェントを使う場合だけでなく、取引先がAIエージェントを使って連絡や発注を行ってくる場面に備え、基本契約の中で取り決めを交わしておくことも実務的な対策です。
具体的には、AIエージェントを通じて行われた発注や請求、契約変更の連絡について、どのような手続きを経たものを正式な意思表示として扱うかを契約書で定めておきます。あわせて、システムの誤作動によって数量や金額に誤りが見つかった場合の訂正や撤回の手順、連絡期限、ログ情報の開示範囲などを合意しておきます。開示に際しては、個人情報や第三者に対する秘密保持義務にも配慮します。こうした条項は、手違いが生じたときに双方が修正に対応するための手当てです。取り決めがない場合も、通常の通信経路を使ったという事実だけで結論は決まらず、設定・運用や具体的な取引経緯から効力を検討します。
AIエージェントの導入を検討する際は、まず対象業務を洗い出して外部への意思表示を伴うかを仕分ける作業から始めます。そのうえで、日頃の取引規模に見合った金額基準と承認の節目を定め、既存の取引基本契約に手当てが必要かを確認しながら進める順序が安全です。
業務全体の進め方については、AIエージェントを法務業務に入れる前に決めるべきことでも触れています。AIエージェントの権限の線引きや契約条項の整備について具体的な確認を希望される場合は、生成AIに関する法的相談対応で個別に対応しています。社内の運用ルールや利用規程の作成を含めた継続的な支援をお探しの場合は、法務部における生成AI活用支援業務をご活用ください。