Microsoft Build 2025の話題 / M365セキュリティ&ゼロトラスト勉強会 25

M365セキュリティ&ゼロトラスト勉強会 22 - Microsoft デジタル防衛レポート（MDDR）2024を読もう- 2025年2月11日 石川 陽一

ディスクレーマ等 意見は私石川陽一の私見です。 機能等の理解が浅い、間違い等を 含む可能性があります。

youtube.com/@YoichiIshikawa 石川 陽一 ＠ishiayaya • Microsoft MVP for Data Platform (Power BI), Security (SIEM & XDR) • 2022/7～アント・キャピタル・パートナーズ株式会社 • ISACA 東京支部 副会長・理事 • Power BI、Power Platform、M365 Defender • 東京・町田在住、富山・奥中出身 • 心臓にIoTデバイスICD埋め込みあり • コミュニティ M365セキュリティ&ゼロトラスト勉強会 • コラボ・コミュニティ Power BI Weekly News with Yugo and Suto

• チャットコメント カンゲイ • 質問はチャットで先頭に[Q]を • 大事な話は脱線ある場合も • せっかくなので楽しく • 感謝の気持ちで

• YouTubeにライブまたは後日公開します。 • その他SNSにライブ配信する場合があります。 • スライドがある場合あとで共有します。 • ハッシュタグは「#m365sec」です。 • YouTubeはチャンネル登録とすべての通知オン、 いいねを是非!

〇 今日のアジェンダ ✓ Microsoft Build 2025の話題 ✓ 次回、6月7日（土）19時予定 テーマは （仮）早くも2025年前半終了! いろいろ振り返ります ✓ まずはアイスブレーク & 最近のトピックス

昨日、別の勉強会の登壇話をダイジェストで

AIエージェント時代の サイバーセキュリティ 2025年は「AIエージェント元年」と呼ばれ、自律的に判断・行動するAIエ ージェントが急速に実用化されています。この技術革新は、サイバーセキュ リティ分野において攻撃と防御の両面で根本的な変化をもたらしています。 Malwarebytesのセキュリティ専門家Mark Stockleyは「将来的には、サイバ ー攻撃の大部分がエージェントによって実行される世界に住むことになる」 と予測しており、早ければ2025年中にもこの転換点を迎える可能性があると しています。

2025年はAIエージェント元年

従来の生成AIのイメージ パイロットを支援する コパイロット

AIエージェントのイメージ 丸投げ上司 ちょいちょい突っ込みを入れる

AIエージェント 悪 攻撃 正義 防御

悪のAIエージェント

「フィッシング対策協議会 | 報告書類 | 月次報告書 | 2025/04 フィッシング報告状況」より https://www.antiphishing.jp/report/monthly/202504.html

• https://www.antiphishing.jp/report/monthly/202504.html

フィッシング対策協議会 | 報告書類 | 月次報告書 https://www.antiphishing.jp/report/monthly/

• https://www.antiphishing.jp/report/monthly/

正義のAIエージェント （前回#24のSecurity Copilot Agentsなど） その前にAIデザインツール「Gamma」に 作成してもらったスライド7枚をベースに AIエージェントの特徴を確認しましょう

• https://gamma.app/docs/AI-h1a7vwsq3om0omu

サイバー脅威インフレーション現象 従来の攻撃 AIエージェント攻撃 実行時間：数日〜数週間 実行時間：数時間〜数日 必要なスキル：高度な技術知識 必要なスキル：プロンプト設計能力 同時攻撃数：限定的 同時攻撃数：大規模並列実行 適応性：静的 適応性：動的・学習型 コスト：高額（専門人材） コスト：低コスト（計算資源のみ） 最新の学術研究では、AIエージェントに よる攻撃が「Cyber Threat Inflation（ サイバー脅威インフレーション）」と呼 ばれる現象を引き起こしていることが明 らかになっています。これは、攻撃に要 する時間、専門知識、リソースが劇的に 削減されることで、攻撃の頻度と規模が 急激に拡大する現象です。

AIエージェントとは何か 認識（Perception） 環境の状態を理解・分析 記憶（Memory） 過去の経験や情報を蓄積・活用 推論（Reasoning） 複雑な問題を論理的に解決 行動（Action） 外部ツールやシステムとの相互作用 AIエージェントは、大規模言語モデル（LLM）を基盤として、上記の4つのコア機能を持つ自律システムです。 現代のAIエージェントは以下のモジュール構成を持ちます： • • • • • • LLMコア（推論エンジン） メモリモジュール（短期・長期記憶） 計画モジュール（戦略策定） ツールモジュール（外部システム連携） 知識ベース（RAG対応） 実行環境（サンドボックス） MIT Technology Reviewによると、AIエージェントは従来のボットと比較して以下の点で大きく異なります： • • • • 適応性: 予期しないシナリオにリアルタイムで対応 検知回避: 既存のシグネチャベース防御をバイパス 学習能力: 攻撃の成功・失敗から継続的に改善 高速実行: 人間よりも高速にコマンドを処理

AIエージェントによるサイバー攻撃 Palo Alto Networks Unit 42の研究では、AIエージェントが直面する7つの主要脅威が特定されています。 プロンプト注入 直接攻撃: ユーザー入力に悪意ある指示を埋め込み 間接攻撃: 外部データソース（Web、ファイル） 経由での指示注入 ツール誤用 SQLインジェクション、リモートコード実行 API乱用、認証回避 意図破壊・目標操作 エージェントの計画プロセスを歪曲 リソース過負荷 本来の目的から逸脱した行動を誘導 計算資源の枯渇攻撃 サービス拒否状態の誘発 アイデンティティ詐称 認証情報の窃取 正規ユーザー・エージェントへのなりすまし エージェント通信汚染 マルチエージェント間通信への悪意ある情報注入 協調作業の妨害 予期しないRCE攻撃 コードインタープリタ機能の悪用 任意コードの実行

具体的攻撃シナリオ SecurityWeekの報告によると、AIエージェントによるフィッシング攻撃は54%のクリック率を達成し、人間が作成したもの（12%）を大幅に上回っています。 OSINT収集 SNSから標的情報を自動抽出 個別化コンテンツ生成 受信者に最適化されたメールを作成 送信 成功するまで継続的にメール送信 反応分析 応答を学習して次の攻撃を改善 最新の攻撃パターンでは、AIエージェントが複数の通信チャネルを組み合わせて攻撃を行います： 1. 第1段階: 個別化フィッシングメール送信 2. 第2段階: 無視された場合、緊急性を高めたフォローアップメール 3. 第3段階: ディープフェイク音声による電話攻撃 4. 第4段階: SMS、SNS、DM等での追加接触 MIT研究では、新しい脅威概念として「Autonomous Persistent Threats（自律的持続的脅威）」が提唱されています。従来のAPTが国家レベルの攻撃者による持続的 攻撃を指すのに対し、新しいAPTは完全自律実行、オープンソースモデル活用、適応型持続性という特徴を持ちます。

AIエージェントによるサイバー防御 Palo Alto Networksでは、AIエージェントのセキュリティを確保するための5層防御戦略を提案しています。 プロンプト強化 システムプロンプトによる制約設定 コンテンツフィルタリング 入出力の監視と制限 ツール入力サニタイズ 危険なパターンの検出と除去 脆弱性スキャニング コードとシステムの定期的な検査 サンドボックス化 実行環境の厳格な隔離 MIT研究で提案された新しい防御手法として、Defensive Prompt Injection (DPI)があります。これは攻撃者のAIエージェントが接触するサービ ス（SSH、FTP等）に防御的な指示を埋め込み、エージェント自体を逆に乗っ取る手法です。

マルチエージェント防御システム SecurityWeekの推奨する防御エージェント構成です。 エージェント種別 主要機能 動作モード 監視エージェント 攻撃面変化の評価 継続監視 検知エージェント 異常活動の発見 リアルタイム 分析エージェント 脅威インテリジェンス分析 バッチ処理 対応エージェント インシデント自動対応 イベント駆動 学習エージェント 攻撃パターンの学習 機械学習 従来の静的な教育コンテンツに代わり、AIが個別最適化した教育を提供します： • リスクスコア連動: 個人の脆弱性に応じたコンテンツ生成 • 動的シナリオ: 最新の脅威に基づくリアルタイム訓練 • 適応型学習: 失敗パターンから自動的に補強プログラムを作成 AIエージェントによる24時間365日の自律的脅威ハンティングでは、仮説生成、証拠収集、相関分析、リスク評価、対応提案といったプロセスが自 動化されます。

現在の課題と将来展望 • AIエージェントが直面する技術的制約には、コンテキスト窓制限、知識カットオフ、ハルシネーション、推論速度制限などがあります。 • 現在のサイバーセキュリティ運用では、自動化された攻撃者に対して人間中心の防御体制で対抗するという構造的な不均衡が生じています。 • AIエージェントによる攻撃や誤動作における法的責任の所在が不明確であり、開発者責任、利用者責任、プラットフォーム責任の範囲を明確にする必要があります。 • AIエージェントによるサイバー攻撃は国境を越えて展開されるため、技術標準の統一、情報共有体制、法執行協力といった国際的な協調体制が不可欠です。 • 将来予測として、短期的にはエージェント攻撃の実用化と防御AIの普及、中期的には完全自律攻撃の実現とAI vs AI戦争、長期的には量子AIエージェントと完全自律防御の 出現が考えられます。 • 組織への提言としては、AI攻撃検知機能導入、多層AIエージェント防御、セキュリティ教育のAI化などが挙げられます。また、セキュリティ人材のスキル転換、 インシデント対応プロセス見直し、経営層の理解促進も重要です。

今後、様々なセキュリティベンダーから AIエージェントが発表されると予想されます

最後に GensparkのAIエージェント 「AIスライド」で 作成したAIエージェント資料を みてみましょう

• https://mzlqctuh.gensparkspace.com/