企業活動における生成AIに対するニーズの変遷と今後について

企業活動における 生成AIに対するニーズの 変遷と今後について 2024.11.12 Michitaka Kojo

自己紹介 名前：古城 道崇 所属：株式会社システムサポート ソリューションサービス事業部 AI・アナリティクスGr 業務：システム開発 ご提案活動 セミナー登壇 2

会社概要 株式会社システムサポート 所在地 石川県金沢市本町1－5－2 設 立 1980年1月 代 表 代表取締役社長 小清水 資本金 7億2300万円 社員数 1,260名(2024年6月末） 事業所 東京 名古屋 大阪 金沢 関連会社 リファーレ9F 良次 株式会社イーネットソリューションズ 株式会社STSメディック 株式会社T4C 株式会社アクロスソリューションズ 株式会社STSデジタル 株式会社コミュニケーション・プランニング STS Innovation ,Inc. STS Innovation Canada ,Inc. 3

弊社の強み・特徴 クラウド × データ分析基盤 × データ活用 Azureをはじめとしたクラウドの知見に加え、データ分析基盤に強みを持つこと が弊社の特徴です。クラウドマイグレーションの文脈においてデータウェアハウス、 データレイク、BIによる可視化など、企業内のデータ分析の推進に向けた提案が可 能です。 OpenAIを中心とした生成AI推進 2023年からはAzure Open AI Serviceの導入支援を開始し、より多角的なデー タ活用をご支援可能となりました。また、2024年4月からは、AWS Bedrockの導 入支援を開始しました。弊社ではAzureに関する知見はもとより、AWSを初めとし た各種パブリッククラウドの取り扱いやオンプレ等のSI実績が豊富にございますの で、どのような分析対象のデータであっても最適なデータ利活用の方式を提案可能で す。 4

Smart Generative Chatの紹介 ニーズに応じて進化し続ける 「企業向け」生成AIチャットボットシステム 料金モデル 月額 7 万円 もしくは 初期費用 1 5 0 万円 (いずれも別途クラウドの利用料が発生します) 実行環境 ご契約企業様各社専用の環境(非ＳａａＳ環境） 提供機能 ＲＡＧ環境、プロンプトテンプレート、シナリオ、 Webスクレイピング、Bing Search、 Code Interpreter、議事録作成、 Text To SQL、画像生成・画像解析 5

ソリューションの導入割合 SaaS型製品と比べ、利用者が増えれば増えるほどコストメリットがでる ことや、個社個別環境という点が強みとなり選択いただいている。 ソリューション導入割合（業種別） サービス業 4% ソリューション導入割合（従業員数別） 10000人~ 5.9% その他 9.9% ~99人 7.8% ~9999人 13.7% ~490人 17.6% 金融・保険業 7.9% 導入企業 製造業 40.6% 従業員 1,000人超 5 1社 約 卸売・小売業 17.8% 5 7% ~999人 17.6% ~4999人 37.3% 情報通信業 19.8% 6

生成AIの取り込みと開発の経緯 RAG機能を拡張 生 成 AI を 専 門 に 扱う部隊を設立 23.04 GPT-４ローンチ 2023.01 23.09 生成AI社内利用の促進 を目的としたコンサル テーションサービスの 提供開始 24.02 23.11 Gemini ローンチ GPT-４ turbo ローンチ 23.05 24.05 GPT-４o ローンチ 24.03 Claude3 ローンチ シナリオ機能実装 生成AIの チャットソリューション 販売開始 初期 議事録作成機能の 提供を開始 拡販期 24.07 社内情報をクローリン グしRAGを構成する機 能を提供予定 24.08 24.12 社 内 の DB に ア ク セ ス して回答を生成する Text To SQL 機 能 の 提供開始 現在 7

顧 客 の ニ ー ズ - 初 期 (2023年1月ごろ~2023年7月ごろ) C h a t G P T 登 場 以 降 、 メ デ ィ ア の 影 響 も 大 き く 、「 生 成 A I 」 よ り も 「ChatGPT」というサービス名が世の中に浸透 企業向け生成AIチャットボット（企業向けChatGPT）の原点 8

初期のころの顧客の特徴 連日のメディア報道の結果、トップダウンによる社内ChatGPTプロジェ クトが開始される 経営層 プロジェクトチーム ビジネスの種となる予感 DXのきっかけ・手段 ハルシネーション 情報漏洩リスク 企業で使える安全なChatGPT 環境を構築せよ!! 活用方法を自分たちで模 索する 調査の上、自社で環境構 築やPoCを実施する企業 も システム開発 当社製品の提供と機能拡張 9

顧 客 の ニ ー ズ - 拡 販 期(2023年8月ごろ~2024年2月ごろ) 過熱気味だったメディアのChatGPT報道が落ち着き始める。この時期の 顧客は、活用方法を考えるのをやめ、初期の先行企業の活用事例を渇望。 ユーザーの利便性と活用例＋RAGへの強いこだわりが見える 10

顧客の妄想 LLMの汎用性が招く生成AIに対する過度な期待が、さまざまなシーンでみ られるように。 顧客 現実 AI AI = 生成AI 機械学習 深層学習 生成AI 生成AIは万能である。 生 成 AI は AI で あ る か ら 既 存 の モ デ ル に 対 し て、社内の情報をすべて学習させることで社内 外に存在する情報をなんでも答えてくれる。 生成AIは汎用であるが万能ではない GPT を は じ め と す る 既 存 の AI モ デ ル は 基 本 的 に追加で学習を行わない。 Generative Pre-trained Transformer 11

生成AI稼働率を上げるための機能追加 拡販期の顧客が抱えるニーズや課題への対応として、2つの機能拡張を中 心に実装。 RAGに対する強いニーズと期待への対応 初心者/初学者のAI利用促進、 心理的ハードルの排除 RAGの機能拡張 “シナリオ機能” Azure AI Searchの機能を用いた データ検索方法の拡張 言語アナライザーの拡張 定型的なプロンプトのうちユーザー によって変わる箇所のみを変数化し て入力欄に置き換える。入力された 情報をプロンプトに代入する。 ＋AIモデルの高度化による後押し AIから出力される結果の精度向上が 従来のRAGにおける課題解決に直結 生成AIをどう使うかわからない 重厚なプロンプトを求められるとい うハードルを排除する 12

顧 客 の ニ ー ズ - 現 在 (2024年3月以降) 生成AIがなにものであるか、ユーザー企業にかなり浸透してきた状況。ト レンド調査が主たる目的であった層が減少し、自社への導入意欲が比較的 高い層が増加傾向。 生成AIの活用は業務改善につながりそうだ Webやメディア、SNS等に並ぶ情報や、イベント、セミナーを通して得られた情報か ら、生成AI活用が自社でも何らかの業務改善につながりそうであるとして、導入を前向 きに検討。 自社業務にどのようにして組み込むか？ 一方で、外部に点在する事例では、自社のニーズを完全に満たす方法はない。使いなが らより適切な利用方法を検討する必要がある。また、どのような業務と生成AIがフィッ トするかを模索したい。 企業の業務へ生成AIをどのように取り込むのか伴走支援 さらに業務に生成AIを取り込みやすくするための機能実装 13

生成AIを業務に取り込む成功ケース 業務の棚卸、生成AIを業務フローへ組み込む （「 自 由 に 使 っ て い い で す よ 」 で は 使 う 人 だ け が 使 う 環 境 に な る ） 業務の棚卸 普段の業務を整理し、ある仕事に対して、生成AIをどのように活用す るのが効果的かを検討する。また、これをプロンプトに直して、業務 フローにまで落とし込む。 14

さらに業務に組み込みやすい機能① 業務への組み込みでもっともイメージしやすい議事録作成の機能を提供。 ファイル整形 Smart Generative Chat 音声または動画ファイルを話者分離ができる形式に変換 話者分離 “pyannote.audio” と い う Python で 利 用 で き る オ ー プ ンソースライブラリ により、発話ごとに話者を分離。LLM やWhisperのみでは実現できない話者分離を実行。 文字起こし 発話ごとに分離した音声をWhisperで文字起こし、原文と してDBに保持する。 要約 原文に対して、プロンプトにもとづいた要約を実行する。 LLMによる出力結果が議事録として画面に出力される。 15 [1911.01255] pyannote.audio: neural building blocks for speaker diarization

• https://arxiv.org/abs/1911.01255

さらに業務に組み込みやすい機能② 自然言語からSQLの生成、実行、結果の分析までを実現する。 Text To SQL機能を提供。 自然言語で問い合わせ 「 本 日 の 店 舗 別 売 り 上 げ 高 を 知 り た い 」「 今 年 の 商 品 別 売 上 ラ ン キ ン グ を教えて」など、知りたい情報を自然言語で問い合わせる SQLの生成と実行 従来エンジニアでしか実現できなかったSQLの生成と実行をエージェ ン ト が 選 択 。（ 権 限 が あ れ ば ） 誰 で も デ ー タ へ ア ク セ ス 可 能 に 。 データ表示 グラフ化 単純なSELECTの結果表示にとどまらず、ユーザーが指定した形式での グラフ作成、LLMによる新たなインサイトの獲得。 16

企業内での生成AI活用は発展途上 ChatGPTブームから2年かけて多くの企業が生成AIの導入、もしくは導入 検討をしているが、企業は未だ十分に活用できているとは言えない。 https://gmo-research.ai/research-column/generative-ai 生成AIを業務で利用している人間は10人に1人。普及しているとは言えない。 業務利用しない理由として、生成AIの利用方法がわからないという課題がある。 使いやすさ、とっつきやすさ、具体的な利用イメージの提供は アプリ提供事業者の課題。(そのための伴走型支援+機能拡張) 17

• https://gmo-research.ai/research-column/generative-ai

今後の展望 RAGに対する期待やニーズは根強く、今後も続いていく見込み。加えて、生 成AIの利用になれたユーザー企業は、社内システム運用や業務フローを生成 AIを中心にシフトしていくと予想し、大きく以下2点の機能開発を実施中。 社内データのクローリング機能 SharePoint/BOX/Amazon S3などに点在する社内データをクローリングし、RAG用のイン デックスを構成する機能。現在顧客の声として上がっている「ドキュメント取り込みの工数削 減」の課題を解決できるほか、サイロ化してしまっているデータであっても、AIに問い合わせ することで回答を得ることができるため、業務効率化も期待できる。 業務システムのAPIを呼び出し機能 生成AIを業務フローに組み込まれやすくする手段の一つとして、チャットボット側から業務シ ステムのAPIをコールし、業務システムをコントロールする機能。この機能により、生成AIが これまで以上に業務の中心へと入り込むことができる。結果として利用量の向上、企業内の風 土醸成につながることが期待できる。 18

Thank you for your attention.