その処理AIに渡して大丈夫？

その処理、 AIに渡して大丈夫か？ 社内 ？ AIに“そのまま”任せない ― 現場で使える3つの考え方 AI かなめ 最近はAI推進を担当しています。以前はRPAの導入支援をしていました

今日は3つだけ持ち帰ってください 1 そのまま任せず、 条件を付けて渡す 2 渡してよいかを、 2つの問いで見分け る 3 失敗は、 運用で防ぐ AIを使うな、という話ではありません。正しく線を引いて使う話です。 その処理、AIに渡して大丈夫か？ 2

AIに頼むことは、データを社外へ送ることです よくある例：「社員一覧のCSVを貼り付けて、列の意味を調べてもらった」 あなたの パソコン CSV・文章・ ファイル 社外の事業者のコンピューター（クラウド） 送信 1 そこで処理される 2 一定期間、ログとして残る 3 監視などで人が見る場合もある（製品・契約による） 生成AI ＝ 文章・プログラム・画像などを、指示に応じて作るAI M365 では 会社のアカウントで、画面の上に緑の盾が出ている Copilot Chat を使う。社外のAIへ機密情報を貼ろうとしたときは、Purview で 警告・ブロックすることもできる その処理、AIに渡して大丈夫か？ 3

「学習に使わない」設定でも、データは社外に出ています オプトアウト（学習に使わない設定）で… 止まるもの 止まらないもの ○ × × AIの学習への利用 社外への送信 ログとしての保存 個人情報・取引先との契約・社内の未公開情報は、送る前に止める M365 では Copilot は学習に使わないことが契約に入っている。それでもやり取りは記録され、管理者が Purview で監査・保持の対象にでき る その処理、AIに渡して大丈夫か？ 4

M365 の Copilot は、社内データを今の契約の中で扱います Microsoft 365 の契約の範囲（メールや文書を預けているのと同じ約束） × 社員 Copilot メール・チャット・文書 AIモデルの 学習には 使わない 1 入力・回答・参照した社内データは、Microsoft 365 のほかのデータと同じ契約の範囲で処理・保存される 2 基盤のAIモデルの学習には使われない 3 不正利用の監視のために人が中身を見る仕組みは、Copilot では使わない設定になっている ただし、参照できるのは「使う人が見られる社内データ全部」。ここに次の穴がある M365 の Copilot ＝ Word・Excel・Teams などに組み込まれたAI（今の公式文書での名前は「Microsoft Copilot」） 出典：Microsoft 公式文書（2026年11月時点）。製品の仕様と管理者の設定は変わることがある その処理、AIに渡して大丈夫か？ 5

それでも、権限・約束の外・出力の3か所は自分たちで締めます 1 権限 Copilot は、本人が見られるものを 全部探して使う。 「全員に共有」のままのファイル も、回答に出てくる 締め方 共有の範囲を見直し、機密の ファイルにはラベルを付ける 2 約束の外へ出る道 • Web検索：AIが作った検索語が Bing へ。データ保護の取り決め の対象外 • エージェント・外部連携：提供 元ごとの規約 • 他社のAIモデル：別の条件が付 く 締め方 使うものは管理者が決める。 Web検索は必要に応じて止める 3 出力 回答は正しいとは限らない。文書 に紛れ込んだ命令への対策も、す べての場面で効くとは限らない 締め方 人が確かめてから使う。誰が受 け入れるかを決めておく Copilot が穴を作るのではない。もともとあった穴が見えるようになる 出典：Microsoft 公式文書（2026年11月時点）。製品の仕様と管理者の設定は変わることがある その処理、AIに渡して大丈夫か？ 6

Purview で、AIに渡すものと残る記録を管理できます M365 には、Purview（パービュー）という機能があります。 ファイルやメールに「社外秘」などの機密ラベルを付け、扱い方を決める仕組み。AI の利用にも使えます 見つける 止める 残す 社内でどのAIがどう使われているか、 共有しすぎのリスクがどこにあるかを 一覧で見る 機密ラベルを付けたファイルやメール を、Copilot に使わせない Copilot とのやり取りを監査の記録に残 し、保持・削除・調査の対象にする 2 注意 持ち帰り：見分ける 会社で管理している Windows の PC か ら、社外の生成AI（ChatGPT など）へ機 密情報を貼ろうとしたら、警告・ブ ロックする 1 持ち帰り：条件を付けて渡す 3 持ち帰り：運用で防ぐ • ラベルがないファイルは守れない。まずラベルを付ける • 設定の反映に、最大4時間かかることがある • 直接アップロードしたファイルは、DLP が検査しない • 使える機能は、契約によって違う 機密ラベル ＝ ファイルやメールに付ける「社外秘」などの印 ／ DLP ＝ 情報漏えいを防ぐ設定 出典：Microsoft 公式文書（2026年11月時点）。製品の仕様と管理者の設定は変わることがある その処理、AIに渡して大丈夫か？ 7

今まで安全と言われてきたのは、人が歯止めだったからです 従来：人が社内で処理 AIに置き換えると • データは社内から出ない • データが社外のAIへ送られる • 人と人、会社と会社の間に「契約」という歯 止めがあった（秘密を守る約束・責任の所 在） • 会社の契約の外のAIに、そのまま渡してしま うことがある • AIが作ったプログラムは中身が分からない • 承認や停止までAIが判断する • 自分で書いたプログラムは中身が分かる • 承認や停止は、別の人が担う そのまま ○ 歯止めが効いていた × 歯止めが外れる 従来の処理の流れ自体は悪くない。前提が変わったことが問題 その処理、AIに渡して大丈夫か？ 8

AIにそのまま任せると、歯止めは4か所で外れます 48個のパターンを、4つの型に分けてみました 型1 型2 型3 型4 データがAIに 渡ってしまう AIが作ったものを 検査せずに動かす AIに権限や判断 まで渡してしまう AIを前提にした 運用の穴 23 6 13 6 件 確認や分析のために、実 際のデータや文書がその まま社外へ その処理、AIに渡して大丈夫か？ 件 AIが作ったプログラムに、 外部への通信や大量削除 が紛れる 件 送信・削除・承認をAIの判 断に任せる 件 文書の中の命令に従う、AI が止まると業務も止まる 9

型1「データがAIに渡ってしまう」 パターン：スキーマだけをAIに渡す よくある例：社員一覧のCSVを貼って列の意味を聞く ／ 会議の文字起こしを貼って要約させる ／ 顧客リストを渡して案内文を作らせる 実データの代わりに「列の定義」だけを渡せば足ります 代表例（プログラムを作らせる） そのまま任せると：社員情報のCSVを丸ごとAIに渡す → 社員名・メールアドレス・給与が社外へ 条件を付けると：CSVは社内に置いたまま、列の名前と型だけを渡してプログラムを作らせる 人が社内で処理 従来型 CSV取得 列構造確認 仕様作成 ローカル AI時代 CSVを社内保持 AIに任せる 列・型を抽象化 送信審査 AIが加工コード 生成 実装 実CSV試験 ローカル 独立検査 社内で実CSV処 理 列の定義（スキーマ）＝ 列の名前・データの型・桁数などの、データの構造 ／ 送信審査 ＝ AIへ渡す前に、内容と送信先が許可の範囲かを確かめる関門 M365 では Copilot に直接アップロードしたファイルの中身は、Purview の DLP でも検査されない。ここでも、渡すのは列の定義だけにする その処理、AIに渡して大丈夫か？ 10

型1「データがAIに渡ってしまう」 パターン：集計値のみ外部分析 そのまま任せると：売上の明細をAIに渡して集計させる → 顧客・取引先・金額が社外へ 集計した数字でも、個人が特定されることがあります 社員が1人の部署の 平均給与 ＝ その人の 給与そのもの • 明細ではなく集計値だけを送るのは、良い工夫 • ただし、件数が少ないと元の人や取引が分かる • 少ない件数の集計は、送る前に外すか、ほかと合わせる その処理、AIに渡して大丈夫か？ 11

型1「データがAIに渡ってしまう」 パターン：集計値のみ外部分析 場面：売上傾向分析 社内で集計し、開示可能な統計値だけを審査して送る 人が社内で処理 従来型 売上データ取得 集計 ローカル AI時代 社内で集計 担当者が傾向分析 AIに任せる 少数集計等を評価 送信審査 ローカル 許可済み統計値をAI 分析 そのまま任せると 売上明細をAIへ渡して集計させる 何が問題か 顧客・取引先・金額等の明細が送信される。集計値でも少数件数から特定取引が推測される。 結果確認 送信審査 ＝ AIへ渡す前に、内容と送信先が許可の範囲かを確かめる関門 その処理、AIに渡して大丈夫か？ 12

型1「データがAIに渡ってしまう」 M365 の中ならデータは守られる。では、手順は気にしなくてよいのか？ M365 の中で守られていても、手順そのものに条件を付けておきます 1 Copilot が使えなくなった ら？ → 別のAIで、同じ作業を続ける M365 の守り ＝ 場所の守り その中で使っている間だけ効く 2 同じ手順のまま（実データ をそのまま渡す）なら？ → データは、その別のAIの事業者 へ送られる 3 それは M365 と同じように 守られる？ いいえ M365 の契約の約束は、ほかのAIサー ビスには及ばない 条件を付けて渡す ＝ 手順の守り どのAIを使っても効く だから、M365 を使っていても、型1の対策（実データを渡さない）は要ります その処理、AIに渡して大丈夫か？ 13

渡してよいかは「何を渡すか」と「何を任せるか」の2つで見分 けます 何を渡すか 何を任せるか 問い1 問い2 実データを渡さずに、 目的を達成できないか？ AIが作ったものや判断を、 そのまま使ってよいか？ 迷ったら、自分だけで決めず、情報システムやセキュリティの担当に相談する M365 では 「何を渡すか」は仕組みでも決められる。機密ラベルを付けたファイルやメールを、Copilot に使わせない設定（Purview の DLP）がある その処理、AIに渡して大丈夫か？ 14

型2「AIが作ったものを検査せずに動かす」 パターン：生成コードの外部通信検査 ／ ローカル変換プログラム AIが作ったプログラムは、中身を確かめてから使います そのまま任せると：動作確認で正しく動いたので、そのまま社内で使う 何が問題か：見た目は正しくても、裏で外部へ通信したり、ほかのファイルを読んだりする 条件を付けると 1 中身を調べる 動かさずにプログラムを読む （静的解析） M365 では 2 通信を断って試す 通信できない場所で動かす 3 確かめてから使う 結果を確かめた人が受け入れる Copilot で作った Excel の数式・マクロ・自動化の手順も同じ。動いたことと、中身が正しいことは別 その処理、AIに渡して大丈夫か？ 15

型2「AIが作ったものを検査せずに動かす」 パターン：生成コードの外部通信検査 場面：社内でAI生成コード実行 静的解析に加え通信遮断環境で動的挙動を検証する 人が社内で処理 従来型 通信コード確認 AIに任せる AI時代 AIがコード生成 静的解析 テスト 実行 ローカル 通信先宣言・実装照 合 静的解析 通信遮断環境で挙動 検証 そのまま任せると AI生成コードを動作確認だけで社内実行する 何が問題か 見かけ上は正しく処理しても、バックグラウンド通信や別ファイルの読取が隠れている場合がある。 受入 静的解析 ＝ 動かさずにプログラムを調べること その処理、AIに渡して大丈夫か？ 16

型2「AIが作ったものを検査せずに動かす」 パターン：ローカル変換プログラム 場面：複数CSVの結合 生成コードを検査し、通信を制限した社内環境で実行する 人が社内で処理 従来型 CSV確認 ローカル AI時代 CSV構造抽象化 実装 ETL設計 AIに任せる 送信審査 AIがETLコード 生成 ローカル処理 ローカル 通信・依存検査 ローカルで結合 結果検証 そのまま任せると AIにCSV結合の実行まで任せる 何が問題か 生成スクリプトが外部パッケージ取得・HTTP送信・予期しないファイル読取を行い、実CSVが流出・破損する 可能性がある。 ETL ＝ データを取り出し、変換して、別の場所へ入れる処理 る関門 その処理、AIに渡して大丈夫か？ ／ HTTP送信 ＝ インターネットへの送信 ／ 送信審査 ＝ AIへ渡す前に、内容と送信先が許可の範囲かを確かめ 17

AIが作ったコードは、読むより先に、仕様と目的に照らして確か めます 人が持つもの 1 2 3 AIが作る 目的 何ができれば成功か 仕様を 渡す 仕様 してはいけないこと、AIに渡 してよいデータも書く 受け入れの例 コード 何度でも 作り直せる 関門1 関門2 決めたとおりか 目的が果たせた か 機械が検査する 作り直すたびに全部 禁止したことも調べる 使う人が、本番と同じ 形のデータで使って確 かめ、受け入れる この入力なら、この出力 不合格・不具合は、受け入れの例に足して、仕様から直す（コードを手で直さない） コードを読むのは、危ない箇所（送信・削除・権限など）と、不合格の原因を調べるときに絞る 受け入れの例 ＝「この入力なら、この出力になる」「この場合は止まる」を具体的に並べたもの その処理、AIに渡して大丈夫か？ 18

型3「AIに権限や判断まで渡してしまう」 パターン：実行前の独立認可 ／ PR・成果物の独立承認 PR ＝ プログラムの変更の取り込み依頼（マージ ＝ 取り込むこと） 「実行してよい」の判断はAIに任せず、人と仕組みが持ちます AI AIとは別のルール 人の承認 実行／中止 「送信してよい」 「削除してよい」 決まりに合うかを判定 大事な操作だけ 記録を残す そのまま任せると AIが「送信してよい」「削除してよい」と判断したら、そのまま実行する 何が問題か AIの判断ミスが、送信や削除としてすぐに現実に起きる 条件を付けると 大事な操作の前に、別のルールと人の承認を通す。「テスト済みです」の申告だけで完成と みなさない M365 では エージェントは、管理者が許可したものだけが使える。送信・更新をするエージェントを入れる前に、誰が承認するかを決め る その処理、AIに渡して大丈夫か？ 19

型3「AIに権限や判断まで渡してしまう」 パターン：実行前の独立認可 場面：AIが送信・削除要求 AIから独立したポリシー判定と、必要時の人間承認を必須にする 人が社内で処理 従来型 ユーザーが操作指示 AIに任せる AI時代 AIが送信・削除要求 アプリが権限確認 実行 ローカル 独立したポリシー判 定 必要時に人間承認 実行・拒否 そのまま任せると AIの「実行してよい」という判断をそのまま採用する 何が問題か AIが自己承認して送信・削除・権限変更を行い、誤判断が即時に副作用を生む。 記録 ポリシー判定 ＝ AIとは別の仕組みが、決まりに合うかを判定すること その処理、AIに渡して大丈夫か？ 20

型3「AIに権限や判断まで渡してしまう」 パターン：PR・成果物の独立承認 場面：AIコード修正完了 独立レビュー・試験基準保護・受入承認を設ける 人が社内で処理 従来型 実装 AIに任せる AI時代 AI実装 PR作成 レビュー テスト マージ ローカル 独立レビュー 検証基準・テス ト保護 受入ゲート そのまま任せると AIが「レビュー済み・テスト済み」と言えばマージする 何が問題か 自己レビューで欠陥を見逃したり、AIがテストを弱めて成功扱いにしたりする。 承認 マージ PR ＝ プログラムの変更の取り込み依頼（マージ ＝ 取り込むこと） その処理、AIに渡して大丈夫か？ 21

型4「AIを前提にした運用の穴」 パターン：検索文書の指示無効化 ／ 通信遮断下の代替処理 文書に書かれた「命令」に、AIは従ってしまうことがあります 穴1 穴2 文書の中の命令に従う AIが止まると業務も止まる AIに社内文書を検索させたとき、その文書に「外部 へ送信せよ」と書かれていると、AIが従うおそれが ある クラウドのAIが止まったり、使える量を超えたりす ると、AIに頼っていた業務がそのまま止まる 対策 検索で拾った文章は「データ」として扱い、命 令としては受け付けない 対策 AIを使わない手順を、先に用意しておく プロンプトインジェクション ＝ 文書などに命令を紛れ込ませ、AIを操ろうとする攻撃 M365 では メールや共有ファイルにも命令は紛れ込む。Copilot にも対策はあるが、すべての場面ではない。社外から来たメールを Copilot に使わせない Purview の設定もある（試験提供の段階） その処理、AIに渡して大丈夫か？ 22

型4「AIを前提にした運用の穴」 パターン：検索文書の指示無効化 場面：悪意あるRAG文書 検索結果は非信頼データとして扱い、命令権限を付与しない 人が社内で処理 従来型 検索文書取得 ローカル AI時代 アプリがデータとして処理 AIに任せる 非信頼入力として隔 離 RAG文書取得 AIが回答案を作成 ローカル 注入命令を権限に反 映しない 回答・操作を検証 そのまま任せると 検索結果の文章をAIへの指示として扱う 何が問題か 文書内の「外部へ送信せよ」等の攻撃文がプロンプトインジェクションとなり、ツール実行を誘導し得る。 RAG ＝ 検索した文書をもとにAIが答える仕組み その処理、AIに渡して大丈夫か？ ／ 非信頼入力 ＝ 命令としては扱わないデータ 23

型4「AIを前提にした運用の穴」 パターン：通信遮断下の代替処理 場面：クラウドAI停止 ローカルLLM・非AI処理への縮退手順と受入条件を用意する 人が社内で処理 従来型 サービス障害 冗長系・手動処理 復旧 ローカル AI時代 クラウドAI停止 障害判定 ローカルLLM等へ縮 退 制限記録 そのまま任せると クラウドAIに業務処理を全面依存させる 何が問題か API停止・通信障害・利用制限で業務が停止し、手作業や代替モデルへ切り替えられない。 API ＝ ほかのシステムからAIを呼び出す窓口 その処理、AIに渡して大丈夫か？ ／ ローカルLLM ＝ 社内の機器で動かすAI ／ 復旧判定 縮退 ＝ 機能を落としてでも業務を続けること 24

条件は「作るとき」と「動かすとき」の2回かけます 作るとき（AIでプログラムや資料を作る） 1 2 3 M365 では 動かすとき （実データで動かす環境） 実データを入力から外す 例：実CSVではなく、架空の行と列の定義で頼む AIとは別の方法で検査する 例：集計の答えを、別の方法と固定のデータで照らし合わせ る 受け入れる人と合格の条件を決める 例：品質の担当者が、テスト結果と通信の制限を確かめる 引き渡し 止める条件と 再開の条件を決める 例：禁止された通信を見つけたら止 め、原因を確かめてから再開する 全部を一度にやらなくてよい。まずは 「誰が確かめて受け入れるか」から 「動かすとき」の記録は、Purview の監査で残せる。設定を変えても、反映まで時間がかかることがある（DLP は最大4時間） その処理、AIに渡して大丈夫か？ 25

明日から、自分の業務を1つ選んで3つの問いで点検してください 1 実データを渡さずに済まないか？ 2 AIが作ったものを、誰がどう確かめるか？ 3 間違えたり止まったりしたとき、誰が気づいて止める か？ 条件を付けて渡す 見分ける 運用で防ぐ 最初の一歩 AIに任せている、または任せたい業務を1つ選び、この3つの問いへの答えを書き出す M365 では まず自分の部署の共有の範囲と、機密ラベルの付け方を見直す その処理、AIに渡して大丈夫か？

使う前に、組織の規程と最新の公式情報を確かめてください ご注意 • この資料は、考え方を整理するためのものです • 特定の製品の安全性を保証するものでも、業務でのAI利用を承認するものでもありません • 実際の利用では、所属組織の規程と最新の公式情報を確認してください ご清聴ありがとうございました その処理、AIに渡して大丈夫か？ 27