--- title: AI Execution Accountability Framework — Discussion Draft tags: author: [Shun Kimura](https://image.docswell.com/user/k1-c) site: [Docswell](https://www.docswell.com/) thumbnail: https://bcdn.docswell.com/page/KJ4WYQ8Q71.jpg?width=480 description: 社内の壁打ち用に作った討議資料ですが、なんだかんだ仕事に活用する機会がなかったので供養します published: October 10, 26 canonical: https://image.docswell.com/s/k1-c/Z9NDXY-2026-10-10-060401 --- # Page. 1 ![Page Image](https://bcdn.docswell.com/page/KJ4WYQ8Q71.jpg) INSIGHT REPORT AI Execution Accountability Framework AIを用いた業務遂行の説明責任をどう担保するか 企業におけるAI活用類型・リスク・知識エリアの定義ドラフト。能力の民主化を許し、責任の委譲は許さない 本資料は壁打ちのための参考資料であり、特定の規格や制度を提案するものではない Shun Kimura · 2026年9月14日 # Page. 2 ![Page Image](https://bcdn.docswell.com/page/LE1Y6P2L7G.jpg) AGENDA Outline 01 02 03 04 05 06 07 08 09 背景と課題 フレームワークの全体像 AI活用類型 リスク分類 Knowledge Areas Risk → Knowledge Mapping Proficiency と Accountability 運用モデルと示唆 既存標準・研究との整合 AI Execution Accountability Framework AIが生んだ「能力のショートカット」 Action から逆算する仕組み A0〜A5 の6段階 8つの Risk Dimension と Risk Class K01〜K12 の知識エリア ケース別マッピングとマトリクス 能力レベルと責任の連鎖 Policy から Evidence までの流れ 各要素の元ネタと権威ある参照先 2 # Page. 3 ![Page Image](https://bcdn.docswell.com/page/GEWGW2RQJ2.jpg) SECTION 01 背景と課題 非エンジニアがコードを書く時代に、企業は何を恐れているのか 01 # Page. 4 ![Page Image](https://bcdn.docswell.com/page/47ZL5DR3J3.jpg) 01 BACKGROUND 非エンジニアのコーディングが日常になった 起きていること 業務効率化のために非エンジニアが日常的にコードを書く Claude Code などで認証付きWebアプリまで作れてしまう 個人のExcel自動化から社内システムまで範囲が拡大 企業側の懸念 情報漏洩、脆弱性、データ破壊のリスク 誰が成果物に責任を持つのかが不明確 結果として「一律禁止」か「野放し」の二択になりがち 必要なのは「生成AIリテラシー研修」ではなく、AIによって拡張された能力に対するガバナンス 参考 「Vibe coding」は Karpathy が2025年2月に提唱。Collins Dictionary の Word of the Year 2025 に選出され、一般語になった AI Execution Accountability Framework 4 # Page. 5 ![Page Image](https://bcdn.docswell.com/page/YJ6W91RZJV.jpg) 01 BACKGROUND AIが生んだ「能力のショートカット」 従来 AI時代 Knowledge Skill 知識がなければ、そもそも実行できなかった Action AI Knowledge 知識を経由せずに、実行できてしまう Skill Action 経由しない AIによって、本人が理解していない領域まで業務を遂行できてしまう。これが本質的な問題である 参考 Perry ら (ACM CCS 2023) は、AI支援ありの被験者はより安全でないコードを書きながら、自分のコードは安全だと考える傾向を報告 AI Execution Accountability Framework 5 # Page. 6 ![Page Image](https://bcdn.docswell.com/page/GJ5MN489J4.jpg) 01 BACKGROUND （具体例）営業担当が顧客管理ツールを作る場合 「顧客管理ツールを作って」の一言で認証付きWebアプリが完成する。しかし、作った本人が以下を理解しているとは限らない SQL Injection 認可（Authorization） 秘密情報管理 個人情報 依存パッケージ ログ管理 入力値を介してDB操作が乗っ取られる 顧客情報の取扱い・保管・削除の義務 他人の顧客データが見えてしまう 脆弱性やライセンス問題を含むOSSの混入 API Key やパスワードのコード直書き 誰が何をしたかを後から追跡できない 「作れる」と「安全に運用できる」「責任を負える」は別の能力である 参考 Pearce ら (IEEE S&P 2022) は Copilot 生成コード1,689件の約40%に脆弱性を確認。Veracode (2025年、2026年春更新) は生成コードの約45%にセキュリティ欠陥を報告 AI Execution Accountability Framework 6 # Page. 7 ![Page Image](https://bcdn.docswell.com/page/9E295VK57R.jpg) “ PRINCIPLE AIによって実行能力を獲得することと、 その行為に対する説明責任を負えることは別である。 組織は、AIを利用して業務を遂行する者に対し、 その行為のリスクに応じた最低限の知識・判断能力を要求する。 参考: OECD AI Principles 原則 1.5 Accountability、AI事業者ガイドライン 共通の指針「アカウンタビリティ」、Elish (2019) Moral Crumple Zones AI Execution Accountability Framework 7 # Page. 8 ![Page Image](https://bcdn.docswell.com/page/D7Y4K3N6EM.jpg) SECTION 02 フレームワークの全体像 禁止ではなく、「行為 → リスク → 必要知識 → 責任」を逆向きにつなぐ 02 # Page. 9 ![Page Image](https://bcdn.docswell.com/page/VENYRVV1J8.jpg) 02 FRAMEWORK OVERVIEW Action から始める逆向きの仕組み Action Risk Required Knowledge Accountability 何をAIにやらせるか どんな影響があり得るか 何を理解している必要があるか 誰が責任を負うか 従来は知識が実行の前提条件であり、Knowledge → Skill → Action の順に積み上がった AI時代は実行が先に来るため、行為のリスクから必要な知識を逆算する リスクごとに必要な知識を定義し、その知識を持つことを行為の条件にする 参考 NIST NICE Framework (SP 800-181 Rev.1) は Work Role を Task と Knowledge / Skill の記述で定義する。行為から必要知識を導く構造の先例 AI Execution Accountability Framework 9 # Page. 10 ![Page Image](https://bcdn.docswell.com/page/Y79PM66YE3.jpg) 02 FRAMEWORK OVERVIEW AI Execution Accountability Standard 全体像 01 02 03 04 05 人間の説明責任 活用類型 A0〜A5 8つの Risk Dimension 4段階の Risk Class K01〜K12 Principles Use Classification Risk Taxonomy Risk Assessment Knowledge Areas 06 07 08 09 10 P0〜P4 Actor・Reviewer・Owner Review・Approval・ Prohibited 領域別カリキュラム 研修・評価・レビュー・承 認の記録 Proficiency Accountability Controls Learning Evidence 01〜04 で「何がどれだけ危ないか」を定め、05〜07 で「誰が何を知り、誰が責任を負うか」を定め、08〜10 で運用と証跡に落とす 参考 NIST AI RMF 1.0 の GOVERN / MAP / MEASURE / MANAGE、ISO/IEC 42001:2023 AI Execution Accountability Framework 10 # Page. 11 ![Page Image](https://bcdn.docswell.com/page/G78DLZZK7D.jpg) SECTION 03 AI活用類型 ツールではなく、「AIにどの程度の能力・権限を与えたか」で分類する 03 # Page. 12 ![Page Image](https://bcdn.docswell.com/page/L7LMLDDPJR.jpg) 03 AI USE CLASSIFICATION 6段階のAI活用類型 Level AI活用類型 例 基本リスク A0 情報取得・学習 調査、質問、要約 誤情報 A1 コンテンツ生成 メール、資料、文章 誤情報・著作権・機密 A2 業務成果物生成 Excel、分析、契約書ドラフト 誤判断・データ漏洩 A3 ツール・自動化作成 GAS、Python、Vibe Coding セキュリティ・データ破壊 A4 システム開発・統合 Webアプリ、API、DB、SaaS連携 情報漏洩・脆弱性・障害 A5 Agent / 自律実行 AIがメール送信、DB更新、デプロイ 権限濫用・誤操作・連鎖障害 Level が上がるほど、AIが「読める情報」「実行できる操作」「影響を与える範囲」が広がる 参考 段階分けは Parasuraman ら (2000) の自動化レベル、SAE J3016 の運転自動化レベル 0〜5、Mitchell ら (2025) の Agent 自律度5段階を参考にした AI Execution Accountability Framework 12 # Page. 13 ![Page Image](https://bcdn.docswell.com/page/4EMYMPP2EW.jpg) 03 AI USE CLASSIFICATION 分類の軸は「AIに与えた能力と権限」 ツール分類にしない理由 同じ Claude でも、文章校正と本番DB操作ではリスクが全く違う 「コードを書いたかどうか」も本質ではない 問うべきは、AIが何を読み、何を実行できる状態にあるか Agent は独立したリスク領域 OWASP GenAI Top 10 は Excessive Agency を独立リスクとして扱う 過剰な機能・過剰な権限・過剰な自律性の3要素 A5 では AI固有リスクと従来のアプリケーションセキュリティが合流 する 参考 OWASP Top 10 for LLM Applications 2025 の LLM06 Excessive Agency、OWASP Top 10 for Agentic Applications 2026 (2025年12月) AI Execution Accountability Framework 13 # Page. 14 ![Page Image](https://bcdn.docswell.com/page/PER9V115J9.jpg) SECTION 04 リスク分類 すべてのAI利用を、共通の Risk Dimension で評価する 04 # Page. 15 ![Page Image](https://bcdn.docswell.com/page/P7XQZYYXEX.jpg) 04 RISK TAXONOMY 8つの Risk Dimension Information Correctness Security Authorization Execution External Impact Legal / Compliance Reversibility 機密・個人情報を扱うか AI やコードが実際に操作を実行する か 間違った結果による影響は何か 顧客・取引先・一般ユーザーへ影響 するか 外部から攻撃される可能性があるか 法令・契約・知財に関係するか 他人のデータやシステムへアクセス するか 間違った場合に簡単に元へ戻せるか 各 Dimension について、該当の有無と影響の大きさを問う 参考 ISO 31000 と ISO/IEC 23894:2023 のリスクマネジメント、機密性・完全性・可用性の三要素、EU AI Act のリスクベースアプローチ AI Execution Accountability Framework 15 # Page. 16 ![Page Image](https://bcdn.docswell.com/page/37K983397D.jpg) 04 RISK TAXONOMY Risk Class の算出 4段階の Risk Class（定義例） OWASP GenAI Top 10 との対応 Low 影響が本人に限られ、容易に戻せる Prompt Injection Security / Execution Moderate 部門内に影響し、復元に手間がかかる Sensitive Information Disclosure Information High 機密情報・外部ユーザー・本番に関わる Improper Output Handling Security / Correctness Critical 復元不能な操作や重大な外部影響 Excessive Agency Authorization / Execution / Reversibility 参考 NIST FIPS 199 (2004) の影響度 Low / Moderate / High を基礎に、復元不能な操作や重大な外部影響を Critical として追加した AI Execution Accountability Framework 16 # Page. 17 ![Page Image](https://bcdn.docswell.com/page/LJ3W2GG9J5.jpg) SECTION 05 Knowledge Areas 禁止事項を増やすのではなく、「この行為をするなら、この知識を」 05 # Page. 18 ![Page Image](https://bcdn.docswell.com/page/8JDKZ118EG.jpg) 05 KNOWLEDGE AREAS 12の Knowledge Area（1/2） ID Knowledge Area 内容 K01 AI Fundamentals LLM、Hallucination、Context、確率的出力 K02 Information Handling 機密情報、個人情報、データ分類 K03 AI Security Prompt Injection、Data Leakage、Agent Security K04 Application Security XSS、SQLi、CSRF、入力検証 K05 Identity & Access Authentication、Authorization、OAuth、最小権限 K06 Secrets Management API Key、Token、環境変数、Credential 管理 AI Execution Accountability Framework 18 # Page. 19 ![Page Image](https://bcdn.docswell.com/page/VEPKDQQW78.jpg) 05 KNOWLEDGE AREAS 12の Knowledge Area（2/2） ID Knowledge Area 内容 K07 Data & Database DB、バックアップ、Migration、データ削除 K08 Software Supply Chain npm / pip、OSS、依存関係、ライセンス K09 Infrastructure & Deployment Cloud、Network、Environment、公開範囲 K10 Testing & Verification Test、Review、AI出力の検証 K11 Privacy / Legal / IP 個人情報、著作権、ライセンス、契約 K12 Operations & Incident Response Logging、監視、Rollback、Incident AI Execution Accountability Framework 19 # Page. 20 ![Page Image](https://bcdn.docswell.com/page/27VV15597Q.jpg) 05 KNOWLEDGE AREAS 教材はモジュールとして組み合わせる （具体例）社内Webアプリを作る人（A4）に配信するモジュール（抜粋） K01 AI Fundamentals K02 Information Handling K06 Secrets Management K05 Identity & Access K04 Application Security K09 Infra & Deployment 「Vibe Coding 研修」のような巨大な一枚岩の教材は作らない Knowledge Area ごとに独立したモジュールを用意する 活用類型とリスクに応じて、必要なモジュールだけを組み合わせて配信する 参考 SWEBOK V4.0 (2024) の18領域、CyBOK v1.1 (2021) の21領域。知識を Knowledge Area に分割する先例 AI Execution Accountability Framework 20 # Page. 21 ![Page Image](https://bcdn.docswell.com/page/5JGL26647L.jpg) SECTION 06 Risk → Knowledge Mapping 何をAIにやらせるかが決まれば、必要な知識は導出できる 06 # Page. 22 ![Page Image](https://bcdn.docswell.com/page/47QYP44REP.jpg) 06 MAPPING ケース別マッピング Case 内容 Risk Knowledge A ChatGPT で社内メール作成 Information / Correctness K01 K02 B Claude Code で自分用 Excel 自動化 Execution / Reversibility K01 K02 K07 K10 C Claude Code で社内 Web アプリ開発 Security / Authorization / Information / Execution K01 K02 K04 K05 K06 K07 K08 K10 D Agent に Gmail・Slack・Drive を接続 Information / Authorization / Security / Execution / External Impact K01 K02 K03 K05 K06 K10 K12 同じ人でも、やらせる行為が変われば要求される知識が変わる AI Execution Accountability Framework 22 # Page. 23 ![Page Image](https://bcdn.docswell.com/page/KE4WYQQQJ1.jpg) 06 MAPPING 活用類型 × Knowledge Area（叩き台） 活用類型 A0 情報取得・学習 K01 K02 A1 コンテンツ生成 P1 P1 A2 業務成果物生成 P1 P2 A3 ツール・自動化作成 P1 P2 A4 システム開発・統合 P1 P2 A5 Agent / 自律実行 P2 P2 K03 K04 K05 K06 K07 K08 K09 K10 K11 K12 P1 P1 P2 P2 P1 P2 P2 P2 P2 P2 P2 P2 P1 P1 P1 P2 P1 P1 P2 P1 P1 P2 P2 P1 P2 リスクを認識できる P2 安全に実行できる 叩き台。セルは類型ごとに Actor 本人へ要求する基準セット。前頁のケースはこれを Risk 評価で絞り込んだもの。High 以上では該当領域の P3 Reviewer を必須とする P1 AI Execution Accountability Framework 23 # Page. 24 ![Page Image](https://bcdn.docswell.com/page/L71Y6PPLJG.jpg) SECTION 07 Proficiency と Accountability 教材を読んだことと、責任を担保できることは別である 07 # Page. 25 ![Page Image](https://bcdn.docswell.com/page/G7WGW22QE2.jpg) 07 PROFICIENCY & ACCOUNTABILITY 知識だけでなく、能力レベルを定義する Level 名称 定義 P0 Untrained（未学習） 該当領域の学習・評価を受けていない P1 Awareness リスクを認識できる P2 Practitioner AIを使いながら安全に実行できる P3 Reviewer 他人の成果物をレビューできる P4 Owner 設計判断・例外承認・事故対応ができる 制度への落とし込み例 Webアプリを作るなら Application Security P2 以上。ただし外部公開する場合は P3 のレビューが必要 参考 Dreyfus モデル (1980) の5段階、Bloom のタキソノミー、SFIA 9 (2024) の7段階の責任レベル (Follow から Set strategy まで) AI Execution Accountability Framework 25 # Page. 26 ![Page Image](https://bcdn.docswell.com/page/4JZL5DD3E3.jpg) 07 PROFICIENCY & ACCOUNTABILITY Accountability Model uses Actor Employee generates / executes AI review Artifact / Action Risk Classification approve Reviewer Human Review Owner Accountable Owner Required Knowledge Actor / Reviewer / Owner の3つの人間の役割と AI で、責任の所在を表現する Artifact や Action は Risk Classification を経て Required Knowledge が決まり、必要なレビューを通過する 最終的に人間の Owner が結果に対する説明責任を負う。AI は責任主体になれない 参考 EU AI Act 第14条 人間による監督、IIA Three Lines Model (2020) の役割分離 AI Execution Accountability Framework 26 # Page. 27 ![Page Image](https://bcdn.docswell.com/page/YE6W911ZEV.jpg) 07 PROFICIENCY & ACCOUNTABILITY リスクに応じて責任主体を分離する 低リスクでは Actor = Reviewer = Owner 本人が作り、本人が確認し、本人が責任を持つ 例えば自分用の Excel 自動化や社内向けメール Self Review と記録だけを要求する 高リスクでは主体を分離する 非エンジニア → AIで実装 → Engineer Review → System Owner 承認 理解範囲を越える場合は、理解している人間がレビューする Reviewer は該当 Knowledge Area で P3 以上を持つ者 これが Accountability Chain。全社員をエンジニアにする必要はなく、営業担当がコードを書いてもよい 参考 職務分離 (Segregation of Duties) と四眼原則。Bainbridge (1983) Ironies of Automation は、自動化が進むほど人間に残る監督の仕事は難しくなると指摘 AI Execution Accountability Framework 27 # Page. 28 ![Page Image](https://bcdn.docswell.com/page/GE5MN449E4.jpg) 07 PROFICIENCY & ACCOUNTABILITY Risk Class に応じた Controls（例） Risk Class 要求する Control 責任主体の構成 Low Self Review Actor = Reviewer = Owner Moderate Peer Review Actor と別の人物が確認する。同部門でよい High Expert Review + Approval 該当領域の P3 以上がレビューし、Owner が承認 Critical Approval 必須、または Prohibited Action P4 の Owner による事前承認なしには実行できない。禁止対象もここで定義 Control の履行は Review Log と Approval Log に記録し、Evidence として残す 参考 ITIL の変更管理における標準変更 / 通常変更 / 緊急変更の区分。リスクの大きさに応じて承認経路を変える考え方 AI Execution Accountability Framework 28 # Page. 29 ![Page Image](https://bcdn.docswell.com/page/97295VV5JR.jpg) “ PHILOSOPHY 能力の民主化は許すが、 責任までAIに委譲することは許さない。 AI活用を禁止しない。 Vibe Coding できる範囲を、Knowledge と Risk によって段階的に解放する。 AI Execution Accountability Framework 29 # Page. 30 ![Page Image](https://bcdn.docswell.com/page/DJY4K3367M.jpg) SECTION 08 運用モデルと示唆 教材にとどまらず、AI時代の職能資格・権限管理の考え方へ 08 # Page. 31 ![Page Image](https://bcdn.docswell.com/page/V7NYRVK1E8.jpg) 08 OUTLOOK Policy から Evidence まで一本でつなぐ Policy Risk Knowledge 企業が「何をAIにやらせたいか」を登録する Risk Assessment により必要な Knowledge Area が自動決定される 対象社員に教材を配信し、Assessment を実施する Learning Qualification Permission Evidence 合格者に AIツールと権限を付与する 高リスク操作だけ Reviewer を要求する 研修・評価・レビュー・承認の記録を Evidence として保全する 参考 ISO/IEC 42001:2023 7.2 Competence は、必要な能力の特定・確保と、その証跡の文書化を要求する。NIST AI RMF の GOVERN 機能 AI Execution Accountability Framework 31 # Page. 32 ![Page Image](https://bcdn.docswell.com/page/YJ9PM6VY73.jpg) 08 OUTLOOK 「使わせたいが怖い」と「もっと自動化したい」を両立する 企業側は「使わせたいが怖い」 リスクに応じた知識要件と Reviewer の介在で、成果物の安全性と責任の所在を担保する 従業員側は「AIでどんどん自動化したい」 一律禁止ではなく、Knowledge を身につけるほど扱える Level と権限が広がる 組織全体は「誰が責任を持つのか」を明確にしたい Accountability Chain と Evidence により、事故時にも説明可能な状態を保つ 単なる「AI研修」ではなく、AI時代の職能資格・権限管理基盤に近いものになる 参考 EU AI Act 第4条 AI literacy (2025年2月適用)、AI事業者ガイドライン 第1.2版の共通の指針「教育・リテラシー」 AI Execution Accountability Framework 32 # Page. 33 ![Page Image](https://bcdn.docswell.com/page/GJ8DLZPKJD.jpg) SECTION 09 既存標準・研究との整合 本フレームワークの各要素は、どの標準・研究の考え方に根ざしているか 09 # Page. 34 ![Page Image](https://bcdn.docswell.com/page/LJLMLD1PER.jpg) 09 ALIGNMENT AIガバナンス標準との整合 NIST AI RMF 1.0 (2023) GOVERN / MAP / MEASURE / MANAGE の4機能 で、ライフサイクル全体のAIリスクを管理する → 活用類型ごとのリスク評価と Evidence の構造 ISO/IEC 42001:2023 AIマネジメントシステムの国際規格。7.2 Competence は必要な能力の特定・確保と、その 証跡の文書化を要求する → Learning → Qualification → Evidence の骨格 EU AI Act (2024/1689) 第4条 AI literacy (2025年2月適用)、第14条 人間に よる監督、リスクに応じた段階的義務 → 行為別の知識要件と Human Review 参考 NIST AI 600-1 Generative AI Profile (2024)、OECD AI Principles (2019年採択、2024年改訂) の原則 1.5 Accountability AI Execution Accountability Framework 34 # Page. 35 ![Page Image](https://bcdn.docswell.com/page/47MYMPW27W.jpg) 09 ALIGNMENT 国内の法令・ガイドラインとの整合 AI事業者ガイドライン 第1.2版 AI推進法 (2025年) デジタル庁・JDLA のガイド 個人情報保護委員会 総務省・経済産業省、2026年3月。共通の指針に「アカウンタビリティ」「教育・ リテラシー」を含む。AI開発者 / AI提供者 / AI利用者の3主体 → AI利用者の内部を Actor / Reviewer / Owner に分解 デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック」(α 版、2025年6月改訂)、JDLA「生成AIの利用ガイドライン」第1.1版 (2023年10月) → A0〜A2 の Information / Correctness / Legal AI Execution Accountability Framework 正式名称は「人工知能関連技術の研究開発及び活用の推進に関する法律」。2025 年6月公布、9月全面施行。事業者に国の施策への協力の努力義務 → 企業の自主的なガバナンス整備の背景 「生成AIサービスの利用に関する注意喚起等について」(2023年6月)。個人情報 を入力する際の留意点を提示 → K02 と K11 の根拠 35 # Page. 36 ![Page Image](https://bcdn.docswell.com/page/P7R9V1Y5E9.jpg) 09 ALIGNMENT セキュリティ標準との整合 OWASP GenAI Security Project Top 10 for LLM Applications 2025 と Top 10 for Agentic Applications 2026 (2025年12月)。 Prompt Injection、Excessive Agency、Agent Goal Hijack など → Risk Taxonomy と K03 AI Security AI Execution Accountability Framework OWASP Top 10 / ASVS、NIST SSDF Web アプリケーションの脆弱性分類、検証標準、 安全なソフトウェア開発フレームワーク (SP 800218) → K04〜K09 の中身 NIST NICE Framework SP 800-181 Rev.1 (2020)。サイバーセキュリティ の Work Role を Task・Knowledge・Skill の記述 で定義 → 行為 → 必要知識 → 役割の構造 36 # Page. 37 ![Page Image](https://bcdn.docswell.com/page/PJXQZYGX7X.jpg) 09 ALIGNMENT 知識体系・能力枠組みとの整合 SWEBOK V4.0 / CyBOK v1.1 ソフトウェア工学の18領域 (IEEE CS、2024)、サ イバーセキュリティの21領域 (2021) を Knowledge Area として体系化 → K01〜K12 の分割単位 AI Execution Accountability Framework SFIA 9 (2024) Follow / Assist / Apply / Enable / Ensure, advise / Initiate, influence / Set strategy の7段階の責任レ ベル → P0〜P4 の Proficiency EU DigComp 2.2 (2022) 市民向けデジタル能力の枠組み。8段階の熟達度 と、AI に関する事例を追加 → 非エンジニア向けリテラシーの粒度 37 # Page. 38 ![Page Image](https://bcdn.docswell.com/page/3JK98349JD.jpg) 09 ALIGNMENT 各要素の元ネタ（1/2） 要素 参照した考え方・標準 背景 (AI生成コードの安全性) Pearce ら (2022)、Perry ら (2023)、Veracode (2025 / 2026) の実証研究 基本原則 (人間の説明責任) OECD AI Principles 1.5 Accountability。Elish (2019) の Moral Crumple Zone は、自動化の失敗の責任が最も近い人間に集まる 構造を警告 活用類型 A0〜A5 Parasuraman ら (2000) の自動化レベル、SAE J3016 の運転自動化レベル 0〜5、Mitchell ら (2025) の Agent 自律度5段階 Risk Dimension / Class ISO 31000・ISO/IEC 23894 のリスク評価、FIPS 199 の影響度 Low / Moderate / High、EU AI Act のリスクベースアプローチ AI Execution Accountability Framework 38 # Page. 39 ![Page Image](https://bcdn.docswell.com/page/LE3W2GL9E5.jpg) 09 ALIGNMENT 各要素の元ネタ（2/2） 要素 参照した考え方・標準 Knowledge Area K01〜K12 SWEBOK / CyBOK の Knowledge Area、OWASP ASVS・NIST SSDF、NICE Framework の Knowledge 記述 Proficiency P0〜P4 Dreyfus (1980) の5段階、Bloom のタキソノミー、SFIA 9 の7段階の責任レベル Accountability Chain IIA Three Lines Model (2020)、職務分離と四眼原則、EU AI Act 第14条 人間による監督、Bainbridge (1983) Controls ITIL の変更管理における標準 / 通常 / 緊急変更。リスクに応じて承認経路を変える Learning → Evidence ISO/IEC 42001 7.2 Competence、EU AI Act 第4条 AI literacy、AI事業者ガイドライン「教育・リテラシー」 AI Execution Accountability Framework 39 # Page. 40 ![Page Image](https://bcdn.docswell.com/page/8EDKZ1N87G.jpg) REFERENCES 参考文献（1/3）標準・法令 01 02 03 04 05 06 07 08 NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), AI 100-1, 2023 NIST, AI RMF: Generative Artificial Intelligence Profile, AI 600-1, 2024 ISO/IEC 42001:2023 AI management system、ISO/IEC 23894:2023 Guidance on risk management Regulation (EU) 2024/1689 (EU AI Act), Art. 4, 14, 26 OECD, Recommendation of the Council on Artificial Intelligence, 2019 (rev. 2024) 総務省・経済産業省, AI事業者ガイドライン（第1.2版）, 2026 人工知能関連技術の研究開発及び活用の推進に関する法律 (令和7年法律第53号), 2025 NIST, FIPS PUB 199: Standards for Security Categorization of Federal Information and Information Systems, 2004 AI Execution Accountability Framework 40 # Page. 41 ![Page Image](https://bcdn.docswell.com/page/V7PKDQ5WJ8.jpg) REFERENCES 参考文献（2/3）ガイドライン・知識体系 01 02 03 04 05 06 07 08 09 デジタル庁, テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）, 2024 (2025年6月改訂) 日本ディープラーニング協会, 生成AIの利用ガイドライン 第1.1版, 2023 個人情報保護委員会, 生成AIサービスの利用に関する注意喚起等について, 2023 OWASP, Top 10 for LLM Applications 2025; Top 10 for Agentic Applications 2026 OWASP, Application Security Verification Standard (ASVS); NIST, SP 800-218 Secure Software Development Framework NIST, SP 800-181 Rev. 1: Workforce Framework for Cybersecurity (NICE Framework), 2020 IEEE Computer Society, SWEBOK Guide V4.0, 2024; CyBOK v1.1, 2021 SFIA Foundation, SFIA 9, 2024; European Commission JRC, DigComp 2.2, 2022 The IIA, The IIA's Three Lines Model, 2020; SAE International, J3016 AI Execution Accountability Framework 41 # Page. 42 ![Page Image](https://bcdn.docswell.com/page/2JVV15P9JQ.jpg) REFERENCES 参考文献（3/3）研究・調査 01 02 03 04 05 06 07 08 Parasuraman, Sheridan & Wickens, A Model for Types and Levels of Human Interaction with Automation, IEEE Trans. SMC-A, 2000 Bainbridge, Ironies of Automation, Automatica 19(6), 1983 Elish, Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction, Engaging Science, Technology, and Society 5, 2019 Dreyfus & Dreyfus, A Five-Stage Model of the Mental Activities Involved in Directed Skill Acquisition, 1980 Pearce et al., Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions, IEEE S&P, 2022 Perry et al., Do Users Write More Insecure Code with AI Assistants?, ACM CCS, 2023 Morris et al., Levels of AGI, 2023; Mitchell et al., Fully Autonomous AI Agents Should Not be Developed, 2025 Veracode, 2025 GenAI Code Security Report (Spring 2026 Update) AI Execution Accountability Framework 42 # Page. 43 ![Page Image](https://bcdn.docswell.com/page/5EGL26P4JL.jpg) DISCUSSION Thank you 本資料は壁打ちのための参考資料です。 活用類型、Risk Dimension、Knowledge Area の粒度や、参照すべき標準の抜け漏れについてご意見をお寄せください。 AI Execution Accountability Framework · Insight Report · Shun Kimura · 2026年9月14日 # Page. 44 ![Page Image](https://bcdn.docswell.com/page/4JQYP42R7P.jpg)