はじめに

「生成AIの利用ガイドラインは作った。でも、AIエージェントを入れるとなると、あのルールのままで大丈夫なのだろうか」。導入を任された担当者の方から、こうした声をよく聞きます。

不安を感じるのは自然なことです。ChatGPTのような対話型AIは、人が質問して答えを受け取り、その答えをどう使うかは人が決めていました。一方、AIエージェントは目標を与えられると、自分で手順を考え、社内システムやメール、データベースを操作して仕事を進めます。つまり「答えるAI」から「動くAI」に変わったのです。動くAIには、入力してはいけない情報を決めるだけのルールでは足りません。何を操作してよいのか、どこで人が確認するのか、問題が起きたら誰が止めるのかまで決めておく必要があります。

とはいえ、ゼロからルールを考える必要はありません。経済産業省と総務省が策定した「AI事業者ガイドライン」という国の指針があり、企業が押さえるべき考え方が整理されています。

本記事では、AIエージェントの社内ルールを国の指針に沿って作る方法を、次の流れで解説します。

• なぜ今、AIエージェント向けの社内ルールが必要なのか（最新データ）
• ルールがないと何が起きるのか（国内外の事案）
• 国の指針をどう社内ルールに落とし込むか
• 明日から使える5ステップと条項のひな形
• ルールを形骸化させない運用のコツ（先行企業の実例）

読み終えるころには、自社のルールに何が足りず、何から手をつければよいかが見えているはずです。

1. なぜ今、AIエージェントの社内ルールが必要なのか

活用は広がり、効果もはっきり出ている

まず、企業のAI活用がどこまで進んでいるかを確認しましょう。帝国データバンクが2026年5月に公表した「生成AIに関する企業の動向調査」によると、業務で生成AIを活用している企業は34.5％でした。大企業では46.5％、従業員1,000人超の企業では63.6％に達しています。さらに、活用企業の86.7％が「効果が出ている」と答えています。

大手企業に絞るとさらに進んでいます。PwC Japanグループの「生成AIに関する実態調査2026」では、売上高500億円以上の国内企業で生成AIの活用・推進度が87％に上りました。同調査では、活用の中心が文書要約などの単発利用から、業務システムと連携して仕事を自動で進める「AIエージェント化」へ移っていることも示されています。

それでも、ルールづくりが追いついていない

一方で、課題もはっきりしています。先の帝国データバンクの調査では、懸念として「専門人材・ノウハウ不足」（54.1％）、「情報の正確性」（50.4％）が上位に挙がり、社内ルールや責任の所在が整っていないことも課題とされました。

総務省の情報通信白書でも、生成AIの活用方針を定めている日本企業は約半数にとどまり、米国と比べて大きな差があると指摘されています。会社が公式のルールや環境を用意しないと、従業員が個人アカウントのAIに業務データを入れてしまう「シャドーAI（会社が把握していないAI利用）」が広がりやすくなります。

「生成AI利用ルール」のままでは足りない理由

多くの企業がすでに作っている生成AIの利用ルールは、主に「何を入力してはいけないか」「出力をどう確認するか」を決めたものです。これは人がAIを道具として使う前提のルールです。

AIエージェントでは、AI自身が次のような「行動」をとります。

• 社内ファイルやデータベースを読み書きする
• 社外にメールやメッセージを送る
• 申請の受付や金額計算などの処理を実行する

行動するAIには、人の従業員と同じように「権限」「承認」「記録」「責任」のルールが必要です。これが、既存ルールの延長ではなく、AIエージェント向けにルールを作り直すべき理由です。

2. ルールなき運用が招くリスク：3つの事案に学ぶ

「うちはまだ試験導入だから」と思う方もいるかもしれません。しかし、AIの出力や動作が原因で企業が責任を問われた事例は、すでに海外で出ています。

AIの回答は「会社の意思表示」になる：エア・カナダの判決

2024年2月、カナダ・ブリティッシュコロンビア州の民事解決審判所は、航空会社エア・カナダに賠償を命じました（Moffatt v. Air Canada）。

発端は、同社サイトのチャットボットが、忌引割引について「通常料金で購入後、90日以内に申請すれば差額が返金される」と案内したことです。実際の規定では事後の返金は認められていませんでした。同社は「チャットボットは独立した存在で、その発言に会社は責任を負わない」「正しい規定は別ページに載せていた」と主張しましたが、審判所はこれを退けました。チャットボットはサイトの一部であり、会社はその情報の正確さに責任を負うと判断し、合計約812カナダドルの支払いを命じています。

金額は小さくても、意味は大きい判決です。顧客に向けて動くAIの発言は、会社の発言として扱われる。「AIが勝手に答えた」は言い訳にならないということです。

更新1回でガードレールが外れる：英国DPDの事例

2024年1月、英国の宅配大手DPDのサポート用AIが、利用者に誘導されて暴言を使い、自社を「世界最悪の配達業者」と批判する詩まで作ってしまいました。やり取りの画像はSNSで広く拡散され、BBCなど大手メディアも報じています。同社はシステム更新後のエラーが原因と説明し、AI機能を停止しました。

ここから学べるのは、AIの安全対策（ガードレール）は一度作れば終わりではないということです。システムを更新するたびに確認する手順と、異常時にすぐ止める判断基準が必要です。

人の確認を省いた瞬間に信用を失う：米国Mata v. Avianca事件

2023年6月、米国ニューヨーク南部連邦地裁は、ChatGPTが作り出した実在しない判例を確認せずに裁判所へ提出した弁護士らに、5,000ドルの制裁金を科しました。弁護士は、判例が本当にあるかをAI自身に尋ね、「実在する」という答えを信じてしまっていました。

AIがもっともらしい誤りを出力すること（ハルシネーション）は、エージェントでも起こり得ます。外部に出すものや重要な判断に使うものは、必ず人が一次情報で確認する。この当たり前のことを、ルールとして明文化しておく必要があります。

3つの事案に共通する教訓

事案	起きたこと	社内ルールで備えるべきこと
エア・カナダ	顧客向けAIの誤案内で賠償	外部向けAIの回答範囲と正確性の確認手順
DPD	更新後に安全対策が機能せず炎上	更新時のテストと緊急停止の基準
Mata v. Avianca	未確認の出力を外部に提出	人による最終確認の義務化

3. 国の指針「AI事業者ガイドライン」をどう読むか

ガイドラインの位置づけ

AI事業者ガイドラインは、経済産業省と総務省が2024年4月に第1.0版を取りまとめ、2025年3月に第1.1版へ改訂した、企業向けのAIガバナンスの指針です。法律のような罰則はありませんが、企業がAIを安全に使うための共通の考え方として参照されています。改訂が続いているため、社内ルールを作る際は最新版を確認してください。

自社は「AI利用者」か「AI提供者」か

ガイドラインは、AIに関わる事業者を「AI開発者」「AI提供者」「AI利用者」の3つに分けています。外部のAIエージェント製品をそのまま社内で使う企業は、主に「AI利用者」にあたります。

ただし注意が必要です。社内データや業務システムとつないで、独自のタスクを自動で実行するエージェントを作り、社員や顧客に使わせる場合、その企業は「AI提供者」としての役割も実質的に担うことになります。立場が変われば求められる責任も広がります。自社がどちらにあたるかを最初に整理しておくと、ルールの範囲を決めやすくなります。

指針の要請を社内ルールの5領域に翻訳する

ガイドラインが掲げる原則は抽象的なので、そのままでは社内ルールになりません。AIエージェントの場合は、次の5つの領域に置き換えると実務に落とし込みやすくなります。

社内ルールの領域	指針の主な要請	AIエージェントで決めること
利用範囲	人間中心、プライバシー・知的財産の保護	使ってよいツール、入力禁止情報、任せない業務
権限設定	セキュリティ確保	最小限のアクセス権、認証情報の管理
承認フロー	人間の自律、自動化への過信の抑制	人が承認すべき操作の基準
ログ・監査	透明性、説明責任、追跡可能性	操作記録の保存と定期チェック
責任体制	ガバナンス構築、早期対応	責任者、緊急停止、事故時の報告手順

経済産業省はガイドラインとあわせて、共通指針のチェックリストも公開しています。自社のルール案をこのチェックリストと照らし合わせると、抜け漏れを確認できます。

4. AIエージェント社内ルールの作り方：5ステップ

ここからは、前章の5領域を実際のルールにしていく手順を解説します。

ステップ1：対象業務と「任せない業務」を決める

最初に決めるのは、AIエージェントに任せる業務の範囲です。ポイントは、任せる業務だけでなく任せない業務を明記することです。

• 使ってよいツール：会社が法人契約したサービスのみ（個人アカウントは禁止）
• 入力してはいけない情報：個人情報、取引先の機密情報、パスワードや認証キーなど
• 任せない業務：法的な判断、人事評価の確定、契約の締結など

「任せない業務」をはっきりさせると、現場は「それ以外は使ってよい」と判断しやすくなり、かえって活用が進みます。

ステップ2：権限を最小にする

AIエージェントには、仕事に必要な最小限のアクセス権だけを与えます。これを「最小権限の原則」と呼びます。人の新入社員に全システムの管理者権限を渡さないのと同じ考え方です。

具体的には、閲覧だけでよい業務には書き込み権限を与えない、部署ごとにアクセスできるデータを分ける、外部サービスとつなぐための認証情報はエージェントごとに分けて管理する、といった設定をルールに書き込みます。

パナソニック コネクトの事例が参考になります。同社は、製品図面と仕様書の内容が一致しているかを確認する照合業務に、自社開発の「Manufacturing AIエージェント」を導入しました。以前は熟練者が1図面あたり最大340分かけて目視で確認していましたが、エージェントがPDFの図面から情報を抜き出して突き合わせることで、約10分まで短縮しています（最大97％削減）。ミスが許されない製造の現場でこれが実現できたのは、全社共通のデータ基盤の上でアクセス権や安全な実行環境を整えたうえで、エージェントを「照合の支援役」として位置づけたからだと言えます。

ステップ3：人が承認する分岐点を決める

次に、AIに最後まで任せる操作と、人の承認を必要とする操作の境目を決めます。人が途中で確認・承認する仕組みを「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」と呼びます。

判断の目安は「影響の大きさ」と「取り消しやすさ」です。次のような表を作っておくと、現場で迷いません。

操作の例	影響範囲	取り消し	承認ルール
社内資料の検索・要約	社内・本人のみ	容易	承認不要
社内向け文書の下書き作成	社内	容易	利用者が確認して使用
社内データベースの更新	社内・複数部署	やや困難	担当者の承認が必要
社外へのメール送信・回答	社外	困難	送信前に必ず人が承認
支払い・金額の確定	社外・金銭	困難	責任者の承認が必要

大阪市と日立製作所による実証は、この考え方の好例です。大阪市では通勤届の申請・審査が年間約1万件あり、職員の大きな負担になっていました。実証では、AIエージェントが申請の入力を案内し、規程に照らしたチェックや金額計算を支援する一方で、最終的な判断は職員が行う形をとっています。その結果、申請・審査の業務時間を最大約40％短縮できる見込みが確認されました。「チェックと計算はAI、最終承認は人」という役割分担は、多くの事務業務に応用できます。

ステップ4：ログを残し、定期的に監査する

AIエージェントが「何を考え、何を実行し、どんな結果になったか」を記録に残すことも欠かせません。記録すべき項目は、指示内容、エージェントが実行した操作（どのシステムに、何をしたか）、その結果、承認した人と日時です。

記録は残すだけでは意味がありません。月に1回など頻度を決めて、一部を抜き出して点検する「サンプリング監査」をルールに入れておきましょう。問題が起きたときに原因をたどれることが、国の指針が求める「説明責任」を果たす土台になります。

ステップ5：責任者と緊急停止の手順を決める

最後に、誰が責任を持つのかを決めます。全社のAI活用を統括する責任者や委員会を置き、各業務には利用部門の責任者を決めます。

あわせて、DPDの事例のような異常が起きたときに備え、次の点を明文化します。

• どんな状態になったら止めるか（不適切な出力、想定外の操作、大量の誤処理など）
• 誰の判断で止めるか（現場の担当者でも止められるようにする）
• 止めた後、誰に報告し、社外への説明が必要かを誰が判断するか

「迷ったら止めてよい」と現場に明示しておくことが、被害を最小限にする一番の近道です。

ひな形：社内ルールに盛り込む条項の例

5つのステップをまとめると、社内ルールの骨組みは次のようになります。自社の規模や業務に合わせて調整してください。

1. 目的と適用範囲（対象となる部署・ツール・業務）
2. 用語の定義（AIエージェント、利用者、管理者など）
3. 利用できるツールと入力禁止情報
4. AIエージェントに任せない業務
5. アクセス権限の付与と見直しの手順
6. 人の承認が必要な操作の基準（承認ルール表）
7. 出力内容の確認義務（外部提出前の一次情報確認）
8. 操作記録の保存期間と監査の方法
9. 責任者と役割分担
10. 異常時の緊急停止と報告の手順
11. 教育・研修の実施
12. ルールの見直し時期

5. ルールを形骸化させない運用のコツ

ルールは作って終わりではありません。現場に定着させるには運用の工夫が必要です。

管理職から先に学ぶ：ＳＯＭＰＯホールディングス

ＳＯＭＰＯホールディングスは、国内グループ会社の社員約3万人を対象にAIエージェントの導入を始めました。単一グループの国内展開としては国内最大規模の取り組みです。注目したいのは、ツールを配る前に、管理職以上に向けたAIエージェントの研修を受講必須にした点です。

現場の業務を設計し直すのは管理職です。管理職がエージェントにできること・できないこと、与える権限の範囲、リスクを理解していなければ、ルールはただの文書になってしまいます。国の指針が求める「教育・リテラシーの確保」を、組織の上から実行した例と言えます。

方針を明文化し、最終判断を人に残す：伊藤忠商事

伊藤忠商事は「責任あるAIのための基本理念（AIポリシー）」を策定し、公表しています。その中心にあるのが、AIは人の能力を広げる道具であり、最終的な判断と責任は人が持つという「人間主体」の考え方です。そのうえで、ガバナンス体制、業務ごとのガイドライン、全社研修、安全なAI環境、アクセス権の管理、定期的なモニタリングを一体で整えています。

全社の方針を先に示し、細かなルールは業務ごとに作る。この二段構えにすると、現場の実情に合わせやすく、ルールが古くなりにくくなります。

見直しのサイクルを決めておく

AIエージェントの機能も国の指針も、変化が速い分野です。半年に1回など見直しの時期を決め、次のような機会にもルールを点検しましょう。

• 新しいエージェントや連携先システムを追加したとき
• ガイドラインが改訂されたとき
• 社内でヒヤリとした事例や問い合わせが出たとき

現場から「このルールだと仕事が進まない」という声が出たら、それは見直しのチャンスです。守れないルールは形骸化します。安全と使いやすさのバランスを、運用しながら調整していきましょう。

まとめ：国の指針を土台に、小さく始めて育てる

AIエージェントは「答えるAI」から「動くAI」への進化です。だからこそ、AIエージェントの社内ルールには、入力の注意だけでなく、権限・承認・記録・責任という「行動のルール」が欠かせません。

本記事のポイントを振り返ります。

• AI活用は広がり効果も出ているが、ルールや責任体制の整備が追いついていない
• 海外では、AIの誤った案内や未確認の出力をめぐって企業や専門家が責任を問われた例がある
• 国の「AI事業者ガイドライン」は、利用範囲・権限・承認・ログ・責任体制の5領域に置き換えると社内ルールに落とし込みやすい
• ルールは5ステップ（任せない業務の明記、最小権限、承認の分岐点、ログと監査、責任者と緊急停止）で作れる
• 管理職の研修や定期的な見直しで、ルールを生きたものにする

最初から完璧なルールを目指す必要はありません。まずは次のことから始めてみてください。

1. 自社が「AI利用者」か「AI提供者」かを整理する
2. 導入予定のAIエージェントが行う操作を書き出し、承認ルール表を作る
3. 経済産業省のチェックリストで、既存の生成AI利用ルールとの差分を確認する

一つの業務で小さく試し、運用しながらルールを育てていくことが、AIエージェントを安全に、そして成果につなげる近道です。国の指針に沿ったルールを整えたうえで、AIエージェントを頼れる同僚として迎え入れましょう。