Everything starts with securityでAIを導入しよう！

"Everything starts with security" でAIを導入しよう！ 🌟 2025/08/23 ゆるWeb勉強会@札幌 #30 🌟

自己紹介 👨‍💻 👤 もりやま ロール： バックエンドエンジニア 趣味： AWS(Serverless)、キャンプ、筋ト レ 🎯 属性 • • • • 🔍 転職しました！@Serverworks 🏅 All AWS Certifications Engineers (もどき) 🧙 提唱者（INFJ-T） 🍶 日本酒

"Everything starts with security" セキュリティは最優先事項！（Shift Left, Secure by Design）

生成AI使ってますか？ 🤖

所属する企業で 生成AI使ってますか？ 挙手お願いします！🙋 🤖

会社の許可、 とっていますか・・・？ 🤖 勝手にAIツールを使っていることを 「 」って言います！

シャドーAIとは？ 企業のIT部門や情シスに許可や監視なしに 従業員が業務でAIツールを使用すること。 シャドーITのAI版。

シャドーAIの危険性 🔐 機密情報漏洩 🚨 AIツールに入力した機密情報が学習に利用され、意図せぬ情報流出を招く 🛡️ セキュリティ脆弱性 生成AIがサイバー攻撃の侵入口になり得る ⚖️ コンプライアンス違反 著作権、個人情報保護法、GDPR等の法規制違反リスク

⚠️ シャドーAIが抱える特有の問題 これらのリスクはシャドーAIかどうかに関わらず存在するが、 シャドーAIの方が... 📈 発生しやすい ⏰ 対応が遅れる 必要な教育が行き届かない、無料版を 誰が何を使っているか把握できないた 使いがちなので問題が発生しやすい め、問題発生時の事象把握に時間がか かる

（例えば） きちんとオプトアウトしていますか？ 🔍 きちんと周知していないと、オプトアウトせずに使 ってる人がいるかも。。

Cursor コードエディターのデフォルト設定 ⚠️ 個人ユーザーはプライバシーモ 注意！ ードOFF 初期設定ではコードが学習に使用される可能性 → 手動でプライバシーモードを有効化する必要 👥 チームユーザーは自動で保護 チームメンバーはプライバシーモードが自動で有効 🚨 企業では必ずオプトアウト設定を！

Amazon Q Developer AWSのコードアシスタント ⚠️ Free Tierはデフォルトでデー 注意！ タ共有ON コンテンツ・テレメトリ共有が有効に設定されている → IDE設定でオプトアウト可能 💼 Pro Tierは自動で保護 Proユーザーのコンテンツは学習に使用されない AWS Documentation → ⚠️ Free TierユーザーはIDE設定でオプトアウトを！

• https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/opt-out-IDE.html

Claude AnthropicのAIアシスタント ✅ デフォルトでプライベート 入力・出力は訓練に使用されない 👍 フィードバック時は別 サムズアップ/ダウンで会話が10年保存、訓練に使用される可能性 🔧 対策: 👍 👎 ボタンを押さない • 機密情報を含む会話では • 企業利用では組織ポリシーで禁止を検討 ⚠️ 企業ではフィードバック機能の使用に注意！

きちんとバージョンアップしてますか？

🔴 Claude Codeの脆弱性事例 🚨 CVE-2025-54794 CVSS 7.7 🚨 CVE-2025-54795 CVSS 8.7 パス制限バイパス脆弱性 OSコマンドインジェクション プレフィックス検証の脆弱性により、指定ディレクトリ外のファイ echo コマンドを悪用した承認プロンプトバイパス ルアクセスが可能 例: /project → /project_malicious 脆弱性情報詳細 echo "\"; malicious_command; echo \"" GB Hackers Report

• https://gbhackers.com/claude-ai-flaws/

安易に野良MCPとか使っていない？

🔴 MCPの脆弱性事例 複数の高危険度脆弱性が発見 MCP（Model Context Protocol）における主要な脆弱性 🚨 CVE-2025-6514 CVSS 9.6 🚨 CVE-2025-49596 CVSS 9.4 mcp-remote リモートコード実行 MCP Inspector 認証なしアクセス 信頼できないMCPサーバーへの接続時にOS命令実行が可能 localhost UIの認証不備によりリモートコード実行が可能 📅 2025年7月発見・公開 📅 2025年4月発見 → 6月13日修正 ⚠️ CVE-2025-53109 CVSS 8.4 ⚠️ CVE-2025-53110 CVSS 7.3 Filesystem MCP シンボリックリンク回避 Filesystem MCP ディレクトリ制限回避 任意ファイルの読み書きによるコード実行が可能 承認済みディレクトリ外へのアクセスが可能 📅 2025年6月1日発見 → 7月1日修正 📅 2025年6月1日発見 → 7月1日修正

なんでシャドーAI起きちゃうの？ 生産性を向上させたい思い 💪 🤷 その想いはすごく大切！ ✨ だからこそ、正しい方法で導入しよう！ 事故が起きちゃうと導入できなくなっちゃうよ！！

当たり前かもですが、、 導入方法を紹介！

導入事例紹介 📈 Phase 1: 準備・計画段階 🚀 🌱 スモールスタート 📋 ルール策定 • 社内で正式に利用宣言 • IPAガイドラインをベースに制定 • 反社チェック、PMS等のルール遵守 • 東京都ガイドラインも参考 • 各部署調整は後回し（スピード重視） • チーム内利用ルールを明文化 • Claude Team planで開始 • セキュリティポリシー策定 💡 ポイント: まずは小さく始めて、ルールを整備しながら実績を積む

導入事例紹介 📈 Phase 2: 実証・承認段階 ⭐ 🔥 実際の利活用 🎯 経営層への提案 • Claudeとの壁打ち・相談 • 段階的アプローチ（部長→役員→社長） • RAGを使った資料調査 • 成果をパワポで具体的に報告 • PoC実施・検証 • 「月額XXX円/人」で予算交渉 • コード調査・リファクタリング • 3ヶ月毎の効果測定を約束 • 要件定義書・設計書雛形作成 • ROI・生産性向上を数値化 • 単体テスト作成支援 💡 ポイント: 実績を積んでから経営層に具体的な効果と予算を提示

導入事例紹介 📈 Phase 3: 拡張・運用段階 🔍 ツール体系的検証 💬 対話系 Claude 📝 議事録 Notta 🌟 💻 開発系 Cursor, Claude Code, Amazon Q 📋 効率化 Notion AI, NotebookLM 📢 継続的な情報共有 • セキュリティアップデート通知 • 脆弱性情報の即座共有 • 新機能・ツール情報提供 • 利用実績・効果測定報告 • ベストプラクティス共有 💡 ポイント: 予算確保後は多様なツール検証と継続的な情報共有で運用を安定化

導入成功のポイント 🎯 1️⃣ 準備段階でのルール策定 📋 スモールスタートと並行してセキュリティルールを明文化。IPAガイドライン等を活用 2️⃣ 実績ベースでの経営提案 📊 具体的な成果を数値化し、ROIと月額コストで経営層に提案。3ヶ月毎の効果測定も重要

段階的アプローチで スピードとセキュリティを両立！ 準備 → 実証・承認 → 拡張・運用の3ステップ

まとめ 🎊 🚫 シャドーAIはリスクが大きい 💡 でも、生産性向上の想いは大切 ✅ セキュリティを大前提にスピード感を持ってAIを導入しよう！ AIと正しく付き合って、 みんなで生産性を上げよう！

おまけ：Slidevでプレゼン資料作成 🎨 Slidev Markdownでスライドを作成 📝 Markdownで簡単 🤖 Claude Code連携 ⚙️ カスタマイズ性 🚀 ライブリロード 💾 エクスポート 🌐 Webベース ✨ このプレゼンテーションもSlidev + Claude Codeで作成！

ご清聴ありがとうございました 🙏