生成AI時代の人間とAIの共創 - 生成AIアプリケーションの設計原則とAIと協働作業の未来 -

生成AI時代の人間とAIの共創 - 生成AIアプリケーションの設計原則とAIと協働作業の未来 - B-frontier 研究所 高橋 浩

目的 • 既存のアプリケーションに生成AIを組込むケースが増えている。 • また、生成AI活用を意図した新しいアプリケーションもぞくぞ く登場している(各種Q&A、プログラム生成、コピーライティ ング、タスク自動化、画像生成、など)。 • そこで、効率的かつ安全に生成AIアプリケーションを構築する ための設計原則や人間とAI共創のビジョンにニーズが高まって いる。 • 但し、生成AIは従来とはかなり異質の特性を持つ。 • 現状は、これらを充分に考慮した設計原則が提示されていない。 • そこで、本稿は生成AIの特性を充分に考慮した生成AI時代の人 間とAIの共創の具体化に取組む。 2

目次 1. はじめに 2. 生成AIアプリケーションの設計原則 2.1 設計原則作成の方法論 2.2 設計原則 3. 人間とAIの協働作業の未来 4. 今後に向けた示唆 3

１．はじめに 生成AIの特徴と新たな視座 • 生成AIの従来AIと大きく異なる点は、新しいコンテンツを生成でき ることである。 • この特徴は明確であるものの、次のような点は明らかでない。 • 人間は生成コンテンツをどのように理解できるのか？ • 人間はこの機能をどのように制御できるのか？ • 人間はこの機能とどのように共創できるのか？ • これらを具体化し、人間が単独で生成AIを活用するだけでなく、多 数ユーザーが生成AIと協働作業できればより効果的かもしれない。 • しかし、現状では、人間と生成AIが協働でどのようなコラボレー ションが達成できるかは明らかではない。 4

生成AIの特徴と新たな視座(続) • これらの側面が順次進展して行けば、次のようなことが達成される 可能性がある。 • AIシステムの潜在能力は単に意思決定からより総合的機能へ • 更に、人間と生成AIの共創は多様な側面へ • AIシステムの役割は正しい答え探索から更に高度な創造的コンテン ツ生成へ • これは、従来の、機械学習アプリケーションの設計から、可変的で 不確実な生成AIアプリケーションの設計や人間と生成AIとの共創へ 焦点が移動することを意味する。 5

代表的研究の取組み例 • HCIとAIの両分野に関心のある研究者、実務者が一堂に会し、人間とAIの 共創に関するシステム構築、利用、評価について議論するワークショップ が2020年から毎年開催されてきた。 ACM IUI(Intelligent User Interfaces)配下のワークショップ HAI-GEN 2025 6thワークショップの一コマ HAI-GEN(Human-AI Co-Creation with generative models)ワークショップ 参加者 論文数 HAI-GEN2025 6thワークショップ 90人 14件 HAI-GEN2024 5thワークショップ 50人 8件 HAI-GEN2023 4thワークショップ 54人 8件 HAI-GEN2022 3thワークショップ 45人 12件 HAI-GEN2021 2ndワークショップ 35人 7件 HAI-GEN2020 1stワークショップ 代表的推進者 Justin D. Weisz IBM Research Werner Geyer IBM Research Michael Muller IBM Research 6

“生成AI時代の人間とAIの共創”の代表的論文の紹介 • HAI-GENワークショップの活動を基盤にしてまとめられた論文が多 数ある。それらの中から代表的論文を２つ紹介する。 Design Principles for Generative AI Applications by JD Weisz, J He, M Muller, G Hoefer, R Miles, W Geyer et al. 生成AIアプリケーションの設計原則 Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems, 2024 Justin D. Weisz IBM Research AI and the Future of Collaborative Work: Group Ideation with an LLM in a Virtual Canvas by Jessica He, ……, M Muller, JD Weisz et al. AIと協働作業の未来：仮想キャンバスでのLLMによるグループアイデア 創出 Proceedings of the 3rd Annual Meeting of the Symposium on Human-Computer, 2024 Michael Muller IBM Research 7

２．生成AIアプリケーションの設計原則 生成AIのHCI(人間・機械相互作用)における課題 • 生成AIには次のような課題がある。 • 設計者やユーザーは生成AIの内部動作を理解する能力が限られる。 • 生成結果はシステムのバージョンによって異なる可能性がある。 • 時期などの不明確・不確定な文脈要因によっても生成結果が異なる 可能性がある。 • また、創造プロセスは本質的に曖昧であることから、生成結果が目 標達成と言うよりは、驚きや問題発見の要素が含まれる可能性があ る。 生成的であると同時に変動的であることを前提とする必要がある。 8

生成AIアプリケーションの設計に向けて • 生成AIは既に分野によっては人間と同等あるいはそれ以上のコンテ ンツ生成能力を持っており、人々は真に新たな方法でAI活用が可能 になっている。 • また、生成AIの自然言語プロンプトインタフェースは、コンピュー タ登場以来数十年ぶりの新たなUI(ユーザーインタフェース)と言う ことができる。 • そして、新たなUIは、実行制御をユーザーから生成AIへ移行させる、 従来とは根本的に異なるパラダイムである。 • そこで、人々が生成AIアプリケーションと効果的かつ安定的に相互 作用するためのUIはどのような原則に従うべきかが提示される必要 がある。 9

生成AIアプリケーションの設計に向けて(続) • 焦点は、個別分野向けでなく、一般的な生成AIアプリケーショ ン向け設計原則とする。 • 生成AIの生成的＆可変的特性を踏まえて、次のような前提で開 発する。 • ユーザー入力が変化しなくても出力の性質や品質が変化することを前 提とする(生成的可変性対応)。 • 結果、① 適切なユーザー制御のレベル、② アルゴリズムの透明性のレ ベル、③ 効果的なインタラクションに関するユーザー認識の見直し、 などへの考慮が必要になる。 • そのため、生成AIアプリケーションは生成的可変性に逆らうのではな く、寧ろ、それらと共存するための新たなスキルの獲得、意図に合致 する生成物を生むための作法などを学ぶ必要がある。 10

２.1 設計原則作成の方法論 設計原則作成の進め方 • 前述の方針の下で、設計原則の策定に取組む。 • 課題は複雑なので、第一弾として、関連論文、先行製品の調査などか ら初期モデルを作成する。 • それをたたき台として、次のプロセスで設計原則の作成を行う。 Step１ • 初期設計原則の作成 • 文献検索、業界動向調査などから作成 Step２ • 外部および内部のフィードバックを通じた設計原則の改定 • 学会ワークショップへの開示とIBM社内での議論から改訂 Step３ • 明確さ関連性を評価して設計原則を改訂 • 設計原則評価手法を開発して評価実践から改訂 Step４ • 生成AIアプリケーションへの適応実践 • 具体的に生成AIアプリケーションに適応を実践した結果から改訂 11

Step1:初期設計原則の作成 • 文献検索と業界動向調査の組合せで作成した。 • 文献検索： • Google Scholarなどで「生成AI」「設計ガイドライン」「人間中 心のAI」などのキーワードで検索し、ヒットした文献から有用な ものを厳選した。 • ユーザーニーズを把握する研究と、それらのニーズをサポー トする具体的UXデザイン間に差異があるものが多かった。 • 業界動向： • 以下の代表的生成AIアプリケーションの各種データを利用した。 • 会話形式のQ&A：ChatGPT, Google Bard • テキスト画像ジェネレーター: DALL-E, Dream Studio, Midjourney, Adobe Firefy Generative Fill • 他に、IBM watsonx.ai Prompt Lab（LLMのためのプロンプトプレイグラウンド）, Github Copilot（自然言語からソースコードへ）, AIVA（音楽ジェネレータ • これらから共通の設計パラメターを特定した。 12

Step2:外部および内部のフィードバックを通じた設計原則の改定 • ワークショップでの議論と企業内での議論を実施した。 • ワークショップ（外部フィードバック）： • 「生成AIモデルを用いた人間とAIの共創」ワークショップに初期モ デルを公開して議論した。 • 学界、産業界の約50名の研究者が参加した。 • 企業内（内部フィードバック）： • ワークショップからのフィードバックバージョンをIBM社内に公開 して議論した。オンラインディスカッションチャネルを作成 • IBM社内の1000人以上の設計実務家が参加 • この議論に基づいて更に設計原則の改訂を行った。 13

Step3:明確さ関連性を評価して設計原則を改訂 • 設計原則を評価するためのヒューリスティック評価手法を開発し評価した。 • 評価手法： • 研究文献と実世界実践間にある潜在的ギャップを考慮し、設計実 践者向けの明確さと商用生成AIアプリケーションとの関連性に焦 点を当てた。 • 評価対象アプリケーションは業界動向調査(Step1)で取り上げた製品 • 評価演習の実施： • 組織内外から18人の設計実務者を採用し、評価者には使い慣れたア プリケーションを自ら選択してもらい、標準的手法で個別に評価を 完了した。 • 評価者は全ての原則評価を合算して計286件の事例を特定した。 14

Step4:生成AIアプリケーションへの適応実践 • ２つの異なるチームによる２つのワークショップ開催で実施した。 • ワークショップ1(既存LLMプロンプトツールの評価)： • 対象製品としてはIBM watsonx.ai Prompt Labを採用した。 • ブレーンストーミングで46のデザインアイディアを特定した。 • ワークショップ2(将来のLLMベース対話ツールについて)： • 企業内のUXリサーチ支援グループが担当した。 • ブレーンストーミングで56のデザインアイディアを特定した。 15

生成AIアプリケーション設計のための枠組み • 以上の作業で作成された設計原則の全体構成を以下に示す。 生成AIの観点からの既知問題に対する新たな解釈の視点 設計のた めの6つ の原則 A1: 責任ある設計 A2: メンタルモデル 設計 A3: 適切な信頼と依 存のための設計 生成AIシステムの独自特性の視点 A4: 生成の多様性を 考慮した設計 ユーザー 目標の支 援 A5: 共創のための 設計 A6: 不完全性を考慮 した設計 B1:探索 B2:最適化 16

設計原則開発までのステップ • Step1からStep４までの作業経緯を以下に示す。 Step1 文献検索 責任ある 設計 メンタルモ デル設計 Step2 フィード バック 説明のた めの設計 複数の出力の ための設計 人間の制御の ための設計 不完全性を考 慮した設計 探索のた めの設計 適切な信 頼と依存 のための 設計 Step3 明確さ関 連性評価 最適化のた めの設計 生成の多 様性を考 慮した設 計 共創のた めの設計 生成の多様 性を考慮し た設計 共創のため の設計 ユーザー 目標 ユーザー 目標 探索のため の設計 最適化のた めの設計 Step4 アプリケー ション実践 最終結果 責任ある 設計 メンタルモ デル設計 関連戦略の改訂 適切な信頼 と依存のた めの設計 原則と関連戦略 の改訂 原則(既存のAI問題に 対する新たな解釈） 不完全性を 考慮した設 計 原則(生成AIの新た な特性) ユーザー目標 17

2.2 設計原則 A1:責任ある設計 【概要】AIシステムがユーザーの真の問題を解決し、ユーザーへの 危害を最小限に抑えることを保証する。 • 人間中心のアプローチを採用する： • テクノロジーやその機能ではなく、ユーザーのニーズと問題点を理解することで、ユー ザーのために設計する。 • 価値観の葛藤を特定し、解決する： • AIシステムの作成、導入、利用に関わる人々の異なる価値観を考慮し、バランスをとる。 • 新たな行動を明らかにするか、制限する： • 意図されたユースケースを超える生成機能をユーザーに提示するか、制限するかを決定 する。 • ユーザーへの危害をテストし、監視する： • 関連するユーザーへの危害（例：バイアス、有害なコンテンツ、誤情報）を特定し、そ れらをテストおよび監視するメカニズムを組み込む。 18

A2:メンタルモデルの設計 【概要】ユーザーの経歴と目標を考慮し、AIシステムを効果的に活 用する方法を伝える。 • ユーザーに生成の多様性について理解を深めてもらう： • AIシステムの動作を理解し、同じ入力に対して複数の多様な出力を生成する可能性があ ることをユーザーに理解してもらう。 • 効果的な使用方法を指導する： • コンテキストに応じたメカニズムとドキュメントを通して機能や例を説明し、ユーザー がAIシステムを効果的に活用する方法を習得できるように支援する。 • ユーザーのメンタルモデルを理解する： • ユーザーの既存のメンタルモデルを基に、アプリケーションの機能、限界、そして効果 的な活用方法について、ユーザーがどのように考えているかを評価する。 • ユーザーについてAIシステムに学習させる： • ユーザーの期待、行動、好みを把握することで、AIシステムとユーザーとのインタラク ションを改善する。 19

A3:適切な信頼と依存のための設計 【概要】品質問題、不正確さ、バイアス、過少表現などの問題に対して 懐疑的になるよう指導することで、ユーザーがAIシステムの出力に頼るべ きか頼るべきでないかを判断しやすくする。 • 説明を用いて信頼を調整する： • AIシステムの機能と限界を説明することで、AIシステムがさまざまなタスクをどれだけ うまく実行できるかを明確かつ率直に伝える。 • 出力の根拠を示す： • 出力の生成に使用されたソース資料を特定することで、特定の出力が生成された理由を ユーザーに示す。 • 過度の依存を避けるために、摩擦を利用する： • 重要な意思決定ポイントでユーザーの行動を遅らせるメカニズムを設計することで、 ユーザーが出力を見直し、批判的に考えるように促す。 • AIの役割を明確に示す： • ユーザーのワークフローにおいてAIシステムが果たす役割を決定する。 20

A4:生成の多様性を考慮した設計 【概要】ユーザーが生成モデルを使いこなし、異なる多様な出力を 生成できるように支援する。 • 複数の出力を活用する： • ユーザーにとって見えにくい、あるいはユーザーに見える複数の出力を生成することで、 ユーザーのニーズに合った出力が生成される可能性を高める。 • ユーザーの行動を視覚化する： • ユーザーが作成した出力を示し、新たな出力の可能性へと導く。 • キュレーションとアノテーションを可能にする： • 出力の整理、ラベル付け、フィルタリング、および/または並べ替えのための、ユーザー 主導型または自動型のメカニズムを設計する。 • 出力間の違いや変動に注目させる： • 同じプロンプトから生成された出力がどのように異なるかをユーザーが認識できるよう に支援する。 21

A5:共創のための設計 【概要】ユーザーが生成プロセスに影響を与え、AIシステムと協働 できるようにする。 • ユーザーが効果的な結果仕様を作成できるように支援する： • ユーザーがニーズに合った出力を効果的に生成できるように促す。 • 汎用的な入力パラメータを提供する： • ユーザーが出力数や出力を生成するために使用する乱数シードなど、生成プロセスの汎 用的な側面を制御できるようにする。 • ユースケースとテクノロジーに関連する制御を提供する： • ユーザーがユースケース、ドメイン、または生成AIのモデルアーキテクチャに固有のパ ラメータを制御できるようにする。 • 生成された出力の共同編集をサポートする： • ユーザーとAIシステムの両方が、生成された出力を改善できるようにする。 22

A6:不完全性を考慮した設計 【概要】ユーザーが期待通りの出力結果を得られない場合でも、理 解し、対処できるように支援する。 • 不確実性を可視化する： • 出力結果が期待通りでない可能性があることをユーザーに警告し、検出可能な不確実性 や欠陥を特定する。 • ドメイン固有の指標を用いて出力を評価する： • ユーザーが測定可能な品質基準を満たす出力を特定できるよう支援する。 • 出力結果を改善する方法を提供する： • 編集、再生成、代替案の提供など、ユーザーが欠陥を修正し、出力結果の品質を向上さ せる方法を提供する。 • フィードバックメカニズムを提供する： • AIシステムのトレーニングを改善するために、ユーザーからのフィードバックを収集す る。 23

ユーザーの目標と設計原則 • 生成AIはそれ自体が目的となる場合と別の目的達成の手段となる場合 の２つの異なる使用目的がある。 B1: 探索：生成された成果物を用いて特定の分野について 学習したり、インスピレーションを得たりすること • 例：学習はプログラミング、医療など。インスピレーショ ンはブレーンストーミングやプレイライティングなど。 B2: 最適化：成果物を生成することが目的 • 生成AIが完璧な出力を生成するとは限らず、満足の行く結 果を得るにはある程度の改良が必要になるので、この使用 法を「最適化」とする。 24

ユーザーの目標と設計原則（続） • 但し、多くのアプリケーションは両方の用途をサポートし、 ユーザーはアプリケーションを使用する際に、B1、B2両方 を交互に使用する可能性もある。 • この性質があるため、A1～A6（設計原則）とB1,B2（ユー ザー目標）に一定の区別を設ける。 25

A(設計原理)とB(ユーザー目標)の関係 • AとBの関係の例を示す。 • A6(不完全性)はB1(最適化)と深い関係がある： • 理由：最適化(B1)が必要な理由は生成AIの出力が不完全(A6)だから • A4(多様性 or 可変性)はB2(探索)と深い関係がある： • 理由：生成の多様性 or 可変性(A4)は探索(B2)の重要な実現要因だから • A3(適切な信頼と依存)はB1(最適化)と深い関係がある： • 生成された出力が重要な領域(コード、カスタマーサービスなど)で特に当てはま る。 • A5(共創)はB1(最適化)、B2(探索)の両方に深い関係がある： • ユーザーが特定の基準に合わせて生成された出力を最適化する必要がある場合 に重要になる。 26

生成AIアプリケーションの設計原則(中間まとめ) • 生成AIを組み込むアプリケーション設計のための6つの原則を提示し た。 • 3つは、生成AIの観点から既知の課題を新たな視点で捉えたもの、3 つは、生成AIアプリケーションに特有の課題を特定したものである。 • 設計原則は、人間とAIの協働と共創に関する関連文献、設計実務家 からのフィードバック、実際の生成AIアプリケーションに対する実 践の反復プロセスを用いて策定された。 • 生成AIは既存アプリケーションに急速に組み込まれて来ている。 • また、生成AIを使用した全く新しい製品が作成されるに連れて、生 成AIを安全かつ効果的にユーザーの利益のために活用に資する原則 の役割は増加している。 27

3．人間とAIの協働作業の未来 生成AI時代の人間とAIの協働作業 • 生成AIパラダイムは制御がユーザーからAIモデルに移行することで、 新たな共創の形が実現できる可能性がある。 • その一方、効果的かつ安全に成果を達成するための方法や共創の仕 方は定かではない。 • そのため、意図に基づく共創体験の設計や実装および評価が必要に なってくる。 • これらに関する知見は従来存在してこなかったので、多様な実験や 実践で蓄積して行く必要がある。 28

仮想キャンパスでの生成AIによるグループアイディア創出 • そこで、実験の企画を行う。 • 多数ユーザーによる共同作業に生成AIを導入することは生成AI活用 の新たな可能性を切り拓く。 • 例えば、リモートワークが定着している現在、生成AIをグループア イディア創出タスクに活用することは重要である。しかし、不確実 性も伴う。 • AI支援によるグループワークは、Murall, Miro, Microsoft Whiteboardなどで提供されており、生成AI機能導入も始まっている。 • 但し、現状はあまり創造性やアイディア創出のレベルは高くないよ うである。 • しかし、人間とAIの協働作業の未来を俯瞰するには、このような課 題へのより深い検討が必要になる。 29

仮想キャンパスでの生成AIによるグループアイディア創出(続) • そこで、多数ユーザーの共同作業に生成AI支援を行うことから生じ る固有の利点、リスク、ニーズの具体化を実験を通して行う。 • 具体的には、既存製品の利用ではなく、実験目的にフォーカスした キャンパスツール「Collaboration Canvas」を構築する。 • そして、この環境下で共同利用チームが生成AIを通して対話してグ ループ作業を行う。 • 例として、事前トレーニングの必要性が少なく、一般的なグループ アイディア創出(ブレーンストーミング)を取り上げる。 • 被験者は業務の一環としてグループアイディア創出ワークショップ を促進してきたり、定期的にワークショップに参加していた専門家 17人を招聘し、実験に参加してもらう。 • その後、彼等へのインタビュー調査で実態を把握する。 30

Collaboration Canvasの概要 • 複数ユーザーが生成AIを利用してブレインストーミングを行える機 能を独自に構築している。 • 処理過程を完全に制御したいだけでなく、機関内生成AIプラット フォームとも接続する必要があるためこの方法を採用する。 • ユーザーインタフェースを図１に示す。 • 一般機能を保有しているが、ブレーンストーミングに意識を集中さ せるため、意図的にブレーンストーミングに必須な「テキストと付 箋」機能に制限して実験を行う。 • ユーザーには生成AIで付箋生成を指示できる２機能を提供する。 • 共有キャンパスに直接新しい付箋を生成する（図２） • プライベートパネルを使用して付箋を生成する（図３） • こうすることで、付箋の作成と改良のために、ユーザーが共同作業 でどのような行動を取るかを観察することができる。 31

図１：Collaboration Canvasのユーザーインターフェース ４つのインタフェース切り口がある。 B 付箋はキャンバス上に配置したり移動し たりできる C A ロボットア イコンをク リックする と、AIを 使って付箋 を生成する ためのプラ イベートパ ネルが表示 される ユーザー はサイド バーから 様々な色 の新しい 付箋を追 加するこ とができ る D 現在キャンバスに参加しているユーザーを表す 32

図２：共有キャンバス内の生成AI機能 ユーザーは共有キャンバスに直接付箋を生成できる。 A B キャンバスを右クリックし、「生成」を選択 するとモーダルダイアログが開き、プロンプ トを指定して特定の数の付箋を要求できる 「メモを生成」をクリックすると、 共有キャンバスに新しい付箋が作 成される C 1つ以上の付箋を選択すると、ポップアップツール バーが表示され、新しいプロンプトで選択した付箋を 再生成できます。このようにして、ユーザーは人間ま たはAIによって生成された付箋を繰り返し使用できる 33

図３：プライベートパネル 付箋を生成するためのプライベートパネルもある。 このパネルでは、生成された付箋をグループと共有する前に、その内容を確認できる。 A B このパネルは、LLMに指示を出して 新しい付箋を生成するためのプライ ベートなスペースを提供する 後続のプロンプト間でコンテキスト が保持されるため、ユーザーは以前 の出力をフォローアップできる C D ユーザーは、プロンプトと出力の履歴をシーケ ンシャルビューで表示でき、複数の四角形のア イコンをクリックして以前に生成したメモを復 元することもできる ユーザーは、パネルから メインキャンバスに付箋 をドラッグすることで、 グループと共有できる 34

実験方法と結果のまとめ方 • 従業員向けSlackを利用して、ブレーンストーミングに関心のある参 加者を募集した。 • 17名の応募があった。彼らを２～３名のグループに分け、7つの共 同作業セションを実施した。 • 各セッションは１時間で、ビデオ会議システムを介してリモートで 実施された。 • 一人の研究者が各セションの参加者を指導しセションを開始した。 • セション終了後、参加者に複数研究者がインタビューを実施した。 • 結果は A:「認識されたメリット」 B:「懸念事項と認識されたデメ リット」 C:「生成AI機能に対するニーズ」の３点でまとめる。 • 以下に参加者へのインタビュー結果を中心にしたまとめを紹介する。 35

A: 認識されたメリット • 不足している専門知識の提供： • AIは特に小規模ワークショップで「より多くのアイディアを補強し、生み出す」のに役 立つ。 • AIは「グループの多様性が低い場合、多様な意見やアイディアを提供できる」。 • AIは「人間が見逃す可能性のあるパターンやつながりを特定する」のに役立つ。 • アイディア創出における停滞の克服： • AIは「非人間的な性質を持つため、デリケートなトピックに関する議論を始める」のに 役立つ。 • AIは「生成したコンテンツを自身のアイディアのインスピレーションとして利用でき、 行き詰まったときに頼る」ことができる。 • 沈黙が減ることで、AIを利用して「雰囲気が改善され、結果に対する人々の感情が改善 され、落ち込む瞬間が防げる」。 • ファシリテーションの支援： • AIは「アイディアが豊富で、それぞれを検討する時間が足りない場合」に役立つ。 • 収束的思考中にキャンバス上のコンテンツをAIに支援してもらい統合できる。 • AIに付箋のクラスタリングや要約を手伝ってもらうことができる。 36

B: 懸念事項と認識されたデメリット • 共感と批判的思考の喪失： • 人間が共同作業でもたらす独自の感情的および批判的思考能力を損なう懸念がある。 • 人間が持つ共感という能力が薄められ、奪われるリスクがある。 • アイディア創出において重要な、振り返りの実践が失われるリスクがある。 • アイデアの均質性： • AIは「様々なアイディアの一部を平坦化してしまう」懸念がある。 • 参加者が同じ出力を生成したいという意図が存在した場合、AIの使用が創造的思考や斬 新なアイディアの創出を妨げ、アイディアを特定の方向に歪める懸念がある。 • 品質問題と風評被害： • 生成AIの過去の経験に基づき、憎悪的、虐待的、または冒涜的な出力を受け取る懸念がある。 • 「何か間違いを起こす可能性のあるツールにプロジェクトの運命を委ねる」のは望ましくない。 • スキル低下： • アイディア創出に関わる貴重なスキル、特に発散的思考を失う懸念がある。 • 「すべてをAIに頼ってしまうと、全く新しいアイディアを生み出す経験が奪われる」懸 念がある。 • 人間による代替の見せかけ： • 人間の参加者が提供できる創造性、ニュアンス、実体験が欠けてしまう懸念がある。 • アイディア創出作業において人間が代替可能であると考えるリスクがある。 37

C: 生成AI機能に対するニーズ • AI生成コンテンツの帰属： • 生成AIが作成したコンテンツを人間が作成したコンテンツと区別する必要がある。 • AIが生成したアイディアをアイコンでタグ付けするなどで識別し、変更があった場合に は、元の出力と、それを生成するために使用されたプロンプトを遡れる必要がある。 • プロンプトが複雑になるにつれ、ユーザーは出力に対する責任をますます負うようにな る。そして、AIによる帰属の関連性が低下する懸念がある。 • 共有メモとプライベートメモの境界： • 65％の参加者は、AI出力を他の人と共有するかどうか制御する手段として、プライベー トパネルを高く評価した。 • プライベートパネルは「どのように貢献するかをより選択的にでき」、「他人に見られ ずに実験できる」ことを好んだ。 • ドメイン特異性と文脈的知識： • 共感マップや問題ステートメントの作成など、デザイン思考にAIがサポートできれば便 利である。 • AIが組織の過去の研究結果に関するデータを持てば、ステークホルダーがより簡単に洞 察にアクセスし、過去の作業に基づいたアイディアを生成することができる。 38

実験結果に基づく考察 • 次のようなQuestionへの示唆が得られた。 • ：共有デジタルワークスペースへの生成AIの組み込みは、ブレーン Q1 ストーミングにどのような影響を与えたか？ A: 認識されたメリット, B: 懸念事項と認識されたデメリット • ：共同作業への生成AI組み込みで、どのような固有のユーザーニー Q2 ズが生じたか？ C: 生成AI機能に対するニーズ • ：将来の共同作業スペースへの生成AI組み込みにはどのような影響 Q3 を考慮することが重要か？ 次のような視点からの検討が必要である。 ① 将来のグループアイディア創出においてAIに期待される役割 ② AI支援型協働作業の将来への示唆 39

① 将来のグループアイディア創出においてAIに期待される役割 • 生成AI導入時の参加者の役割理解の一つの方法として主導権 （人間主導、AI主導）という概念を取り入れた整理の仕方が有 益である。 • グループアイディア創出ワークフローの様々な段階における参 加者へのAI支援の表現を人間とAIの主導権の度合いで次頁図に 示す。 • このフレームワークは人間とAIの協働作業を様々な時点での人 間またはAIの制御の度合いで示しているが、常に一定程度人間 が関与していることを想定している。 40

グループアイディア創出における人間とAIの望ましい主導権 人間が主導 発散的思考においては参加者はAIの介入を最も望まない 参加者がアイディ アを出す 最終的なクラスターと テーマは人間が決定する ファシリテーターがワー クショップを計画する 人間が反応 ファシリテーターがレ ポートを確認し最終決定 する 人間とAIがクラスターと テーマを識別する AIは要求に応じてタスク の計画を支援する 参加者が行き詰まった時 AIがインスピレーション と専門知識を提供する AIがファシリテーターに セッションの傾向を知ら せる グループアイディア創出セッション中に行 われる作業（濃い青） セッションを可能にするために舞台裏で行 われる目に見えない結節的作業（薄い青） AIが要約レポートを作 成する 選択された種類のAI要約や分析はAI支援の適切な機会になる AIが反応 AIが主導 ＊: 人間の主導権が高ければAIの主導権は低くなり、AIの主導権が高くなれば人間の主導権は低くなる。 41

図の説明 • 一般に参加者はAIによる支援を不足している視点を補ったり、行き詰まり を解消する手助けとして求めていた。 • しかし、人間独自の視点や創造性が仕事の価値を構成する場合、敢えてAI の支援を望まない場合もあった。 • この段階は図の左上に当たる（人間主導）。 • 今回のCollaboration Canvasによる実験では、AIは完全に受動的であり、 ユーザーの要求に応じてのみコンテンツを生成することを前提とした。 • この前提は、発散的なアイディア創出におけるAIの介入を制限したいとい う要望には合致する。 • しかし、同時にAIのより積極的な支援を求める要望もあった（タスク実行 の自動化、など、（AI主導））。AIは適当な情報さえ与えれば積極的サ ポートが提供できる。 • 人間主導とAI主導の組合せはどのような場面でどのように効果的なのかは トレードオフがあり、更に探索が必要である。 42

② AI支援型共同作業の将来への示唆 • 選択的利用： • ユーザーはAIの利用を有効化または制限するための制御を必要とする場合がある。 • そこで、必要な場合にのみグループの創造性を高め、残りの時間は参加者の生来の創造 性に頼れる選択的に機能が望ましい。 • コンテンツの所有権の透明性： • 参加者は、AIが生成したコンテンツを明確に識別できることが重要と感じている。 • その一方、AIと共同で作成した成果物に対して人間は強い所有権意識を持つ傾向がある。 • プライベートなデジタル空間に対するニーズの変化： • 生成AIが協働作業に導入されるに連れ、ユーザーはAIの「不正行為」から自分の評判と 仕事を守る方法を求めるようになる。 • 保護策としては、出力を非公開でレビューして修正し、共有ワークスペースに追加する ものを選択するメカニズムなどが挙げられる。 • 特化したAIサポートに向けて： • ユーザーの役割と作業状況に即して特化したAIサポートが求められていた。 • これは、1) AIに提供したソース文書を用いた忠実で文脈的に関連性のあるアイディア生 成、2) ドメイン知識を用いたモデル調整、あるいは 3) 少量学習による文脈に沿ったプロ ンプト提供などで実現できる可能性がある。 43

人間とAIの協働作業の未来(中間まとめ) • 多数ユーザーによる共同作業に生成AIを導入することは人間とAIの 協働作業の未来を想起するための一場面とはなり得る。 • そこで、独自開発のCollaboration Canvasを調査材料として生成AI で支援されたグループアイディア創出ワークショップを実施し観察 を行った。 • その結果、認識されたメリット、デメリット、および生成AIに対す るニーズを特定した。 • この延長線上でコンテンツの所有権、プライベートな空間の役割、 などを評価あるいは特定できた。 • 人間のニーズを最優先にして生成AIを活用した人間とAIの協働作業 の未来は今後も更に探索して行く必要がある。 44

４．今後に向けた示唆 生成AI時代の人間とAIの共創に向けて • 「生成AIアプリケーションの設計原則」からの示唆： • 全てを生成AI固有の特性(生成的可変性))を前提に考えなければな らない。 • これは個別場面毎に異なるのでどの場面でも適応可能な一般設計 原則を想定すべきではない。 • しかし、一定の目安は必要である。 • 本論文で提起されているのは一般的設計原則の例で、かなり吟味 した反復プロセスにより作成されたものであるが、かなり精神論 的でもある。 • しかし、そもそも生成的可変性の場合、厳密かつ精緻な原則の樹 立は難しい。 • このような感覚で人間とAIの共創を捉える必要がある。 45

生成AI時代の人間とAIの共創に向けて(続) • 「人間とAIの協働作業の未来」からの示唆： • 人間とAIの共創の場面では人間主導とAI主導の濃淡が複雑に移動す るプロセスが発生する。 • 数人で生成AIに支援されたブレーンストーミングを行う場面だけ でも、付箋作成にプライベートサイトで確認した後、共有サイト に移動するのが適切かなど、生成AIの起動ケースについても多様 な判断が生じることが分かった。 • この例に見られるように、人間とAIの共創の場面は極めて多様で、 且つ複雑である。 • あまり狭い視野に限定せず、様々な実験や実践を積み重ねる必要 がある。 • 更に社会科学、人文科学的側面からの知見も活用した詳細な分析 が必要である。 46

最終まとめ • 人間中心をテーマに生成AIをアプリケーションに導入する際の設計原 則、人間とAIの協働作業の未来に資する検討を行った。 • 生成AIは従来のAIと異なり創造的コンテンツを生成できることが最大 の特徴である。 • この新たな生成AIパラダイムは、制御をユーザーからAIモデルに移行 することと裏腹である。 • 結果、当然のことながら、ユーザー入力が変化していなくても出力の 性質や品質が変化することが起きる（生成的可変性）。 • このような状況に逆らわず、これを受け入れながら各種生成AIアプリ ケーション活用や生成AI支援による複数ユーザーの共同作業を成功に 導くには多様な課題が存在する。 • 今後、生成AIの活用が拡大するに連れ想定される課題に対応するため 意識改革も含めた様々な準備が必要である。 47

編集後記 • “人間とAIの共創”はAI関連学会で長らく検討されてきたテーマである。 • 但し、生成AIの登場によって、このテーマの前提条件は大きく変化した。 • この変化の兆しを起点に、2022年のChatGPT登場以前から、HAIGEN(Human-AI Co-Creation with generative models)というワーク ショップが2020年から開始されていた。 • 本年はそのワークショップの6回目にあたる。 • ACM配下のIUI(Intelligent User Interfaces)関連ワークショップに位置づ けられており、研究者と実務家がほどよく参加している。学会のワーク ショップとしては最大の規模らしい。 • ワークショップには毎回論文が投稿されているが、ここでの活動を基盤 にした独自論文も発表されている。今回は、この独自論文の中から、引 用件数の多い2つの論文を選択し紹介した。 • “人間とAIの共創”は検討の切り口が極めて広く、顕著な成果は出にくいが、 企業が実質的に生成AIの活用レベルを高めるためには極めて重要なテー マなので、そのような趣旨から取り上げた。 48

文献