量子コンピュータ時代のプログラミングセミナー～Fixstars Amplifyで実装するブラックボックス最適化～　（2023/10/12）　学術・開発研究者向け

9.6K Views

October 13, 23

#量子コンピュータ #量子アニーリング #イジングマシン #組合せ最適化 #最適化 #python #機械学習 #fmqa #材料 #化学反応 #液体力学 #シミュレーション #プログラミング #ブラックボックス最適化 #fixstarsamplifyシリーズ #量子コンピューティング #Quantum Computing #Blackbox Optimization #Combinatorial Optimization #Fixstars Amplify #Programming Seminar

スライド概要

株式会社 Fixstars Amplify では、量子コンピュータ時代を見据え、量子アニーリング・イジングマシンのクラウドプラットフォーム「Fixstars Amplify」を活用した、社会課題の解決と実業務への適用を進めています。

本セミナーは、ワークショップ形式で、量子アニーリング・イジングマシンの力を、無料版の Fixstars Amplify を通じて体験していただきます。

今回は、現在多くの業界から注目を集めている、量子アニーリング・イジングマシンを活用した「ブラックボックス最適化」をテーマとして取り上げます。

身の回りには、「組合せ最適化」で解決可能な課題が多く存在します。一方で、複雑で非線形な物理・社会現象の場合、組合せ最適化に必要な定式化が困難なものもあります。このような複雑な現象に対しては、機械学習を活用して最適な解の探索を行うブラックボックス最適化が有効です。

本セミナーでは、機械学習に加えて、量子アニーリング・イジングマシンを組み合せて活用することで、より効率的に最適解の探索を行うブラックボックス最適化について解説します。材料、化学反応、流体力学分野における課題を例として、Fixstars Amplify を用いた実装もご紹介します。

企業や大学で研究開発に従事されている方に、特におすすめの内容となっています。

【量子コンピューティングクラウド「Fixstars Amplify」とは】
Fixstars Amplifyはユーザー登録無料で、すぐにお使い頂けるクラウドサービスです。
実社会のあらゆる場面・場所に存在している、組合せ最適化問題を解決してみましょう。

・量子コンピューティングクラウドサービス「Fixstars Amplify」　無料ユーザー登録：
　https://amplify.fixstars.com/ja/register

・Fixstars Amplify　デモ＆チュートリアル：
　https://amplify.fixstars.com/ja/demo

・Fixstars Amplify　導入事例（お客様事例・研究事例）：
　https://amplify.fixstars.com/ja/customers

・Fixstars Amplify 量子コンピュータセミナー一覧：
　https://amplify.fixstars.com/ja/news/seminar
　※テーマを変えて毎月開催しています。

・フィックスターズグループ／セミナー一覧：
　https://www.fixstars.com/ja/seminar

株式会社フィックスターズ

@fixstars

スライド一覧

フィックスターズは、コンピュータの性能を最大限に引き出すソフトウェア開発のスペシャリストです。車載、産業機器、金融、医療など、幅広い分野での開発経験があります。また、ディープラーニングや機械学習などの最先端技術にも力を入れています。並列化や最適化技術を駆使して、マルチコアCPU、GPU、FPGA、量子アニーリングマシンなど、さまざまなハードウェアでソフトウェアを高速化するサービスを提供しています。さらに、長年の経験から培ったハードウェアの知識と最適化ノウハウを活かし、高精度で高性能なアルゴリズムの開発も行っています。　　　　　　・開催セミナー一覧：https://www.fixstars.com/ja/seminar　　・技術ブログ：https://proc-cpuinfo.fixstars.com/

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

（ダウンロード不可）

関連スライド

Kaggleスコアアップセミナー～画像系コンペ入門[前編]（2023/08/02）

kaggle 画像処理機械学習深層学習ディープラーニングコンペ初心者 kaggleスコアアップシリーズ

株式会社フィックスターズ 62.1K

いまさら聞けない ARM を使ったNEONの基礎と活用事例（2021/08/05）

arm neon

株式会社フィックスターズ 37.2K

Kaggleスコアアップセミナー～画像系コンペ入門[後編]（2023/09/26）

kaggle 画像処理機械学習ディープラーニングコンペ初心者 kaggleスコアアップシリーズ

株式会社フィックスターズ 29.3K

いまさら聞けない！CUDA高速化入門～プログラミングモデルとアーキテクチャの解説、高速化の実践～（2021/10/29）

cuda gpu cuda高速化高速化シリーズ

株式会社フィックスターズ 28.3K

ROS2自律走行実現に向けて 2 ～次世代ロボット開発フレームワークROS2のビルドシステム徹底理解～（2022/11/30）

ros2 gpu ロボット自律走行 ros2シリーズ高速化シリーズ

株式会社フィックスターズ 27.9K

CUDA高速化セミナー vol.2 ～CUDAアーキテクチャの進化～（2022/06/23）

gpu cuda cuda高速化高速化シリーズ cuda高速化シリーズ

株式会社フィックスターズ 26.3K

各ページのテキスト

本日の予定第一部 14:00-14:35 第二部 14:40-16:00 • 本セミナーのゴール • Fixstars Amplify を用いたワークショップ • 会社紹介 • 組合せ最適化の基本【ハンズオン】 • 組合せ最適化事例 • ブラックボックス最適化 • Fixstars Amplify の紹介 • FMQAの概要とフロー • ワークショップ事前準備のご連絡 • FMQA事例の紹介 • 材料、化学反応、流体、交通制御、逆問題 • 機械学習モデル FM【ハンズオン】質問は随時ZoomのQ&Aへお願いします • FMQAの実装と実施【ハンズオン】 • まとめ Copyright© Fixstars Group 3

自己紹介 ◼ 源勇気、博士（工学） ◼ Amplify 歴（9か月） ◼ 博士号取得後の経歴・専門分野・趣味 • 2023年1月 (株) Fixstars Amplify 入社 • 2023年2月 Amplify 触り始め ⚫ 米国 Sandia National Laboratories • 2023年5月ブラックボックス最適化サンプルコード (1~4) 公開博士研究員 • 乱流、乱流燃焼 • 2023年6月ブラックボックス最適化公開セミナー#1 • 高性能数値計算 (HPC) • 2023年7月ブラックボックス最適化公開セミナー#2 • 自転車 ⚫ 東京工業大学まだまだ勉強中の身ですテニュアトラック助教 • 乱流、乱流燃焼 → メインは Fortran や C言語 • 機械学習 → メインは Python • 車、猫 Copyright© Fixstars Group アンケートにて、技術的な質問や、気になった点、分かりずらかった点等々、今後のセミナーをより有意義にするためのご意見お送りください！ 4

本セミナーのゴール組合せ最適化に関する次の項目を実感していただく ➢ 身の回りに組合せ最適化問題は多い。一方で、複雑で非線形な物理・社会現象の場合、組合せ最適化に必要な定式化が困難なものもある。 ➢ 機械学習と量子アニーリング・イジングマシンを活用するブラックボックス最適化により、複雑現象に対する最適化を実施可能。 ➢ ブラックボックス最適化を Fixstars Amplify により実施できる。質問は随時ZoomのQ&Aへお願いします Copyright© Fixstars Group 5

フィックスターズグループの基本情報会社名株式会社フィックスターズ本社所在地東京都港区芝浦3-1-1 msb Tamachi 田町ステーションタワーN 28階設立 2002年8月資本金 5億5,446万円社員数（連結） 263名（2022年9月現在）キオクシア株式会社ルネサスエレクトロニクス株式会社上場区分東証プライム（証券コード：3687）代表取締役社長三木主なお客様トヨタグループ（トヨタ自動車株式会社・豊田通商株式会社・株式会社デンソー）みずほ証券株式会社聡キヤノン株式会社グループ会社 2021/10/1 設立 Fixstars Solutions, Inc. 完全子会社米国での営業及び開発を担当 (株) Fixstars Autonomous Technologies 株式会社ネクスティエレクトロニクスとのJV 自動運転向けソフトウェアを開発 (株) Fixstars Amplify (株) Sider (株) Smart Opinion オスカーテクノロジー (株) 連結子会社乳がんAI画像診断支援事業を運営連結子会社ソフトウェア自動並列化サービスを提供完全子会社開発支援SaaS「Sider」を運営 Copyright© Fixstars Group 完全子会社量子コンピューティングのクラウド事業を運営 7

フィックスターズの強みコンピュータの性能を最大限に引き出す、ソフトウェア高速化のエキスパート集団ハードウェアの知見アルゴリズム実装力各産業・研究分野の知見目的の製品に最適なハードウェアを見抜き、その性能をフル活用するソフトウェアを開発します。ハードウェアの特徴と製品要求仕様に合わせて、アルゴリズムを改良して高速化を実現します。開発したい製品に使える技術を見抜き、実際に動作する実装までトータルにサポートします。 Copyright© Fixstars Group 9

フィックスターズの量子技術への取り組み次世代技術を先取りし今ある課題の解決を目指す 2018年 NEDOのプロジェクトに採択「イジングマシン共通ソフトウェア基盤の研究開発」 2022年 5月： Fixstars Amplify がGurobi, IBM-Quantumをサポート 6月：東洋経済主催シンポジウム「ビジネスを劇的に変える量子コンピューティングの可能性」に登壇 7月：累計実行回数1,000万回突破 2021年 2月：量子アニーリングクラウドサービス「Fixstars Amplify」提供開始 10月：子会社 Fixstars Amplify を設立 11月： Q-STAR 量子技術による新産業創出協議会に特別会員として加入 2017年日本で初めて D-Wave Systems社と提携 2019年 SIPの研究開発に参画「光・量子を活用したSociety 5.0実現化技術：光電子情報処理」 Copyright© Fixstars Group 10

10.

最適配置自動化サービス（物流梱包業務のDX） https://www.fixstars.com/ja/services/cases/amplify-bellemaison 業務内容：梱包業務担当者（１チーム３名）をコンベア前のブースに割り当て従来の方法：前日夕方に、翌日の予測出荷目標数と出勤予定に基づいて、３人程度のリーダーが相談し数時間をかけて決定課題：公平になるよう、様々な配慮を行う必要があり、割り当て担当者に心理的負担がかかっていた成果： → 2022年10月より実稼働開始！アニーリング技術を活用して自動化・デジタル化 • 作業時間 → 15分程度に • 心理負担 → ほぼゼロに梱包効率最大化チーム 3名上流下流ローテーション公平感勤務時間が近い相性 Good /NG 国家プロジェクトSIP「光・量子を活用したSociety 5.0実現化技術」の一環として、住友商事、SCSK、ベルメゾンロジスコと、2019年より共同研究 Copyright© Fixstars Group 手動配置一部事前配置自動配置結果の微調整自動配置（アニーリング）各種条件を満たす形で未配置のメンバーを一括割り当て割当業務の時間削減担当者の心理的負担低減配置情報のデジタル化 Smileboard Connectと連携 ※Smileboard Connect: 住友商事様開発の物流業務可視化サービス

https://www.fixstars.com/ja/services/cases/amplify-bellemaison

11.

生産計画最適化 (電気機器製造メーカー A社様) 複数の製品事業部から様々なプリント基板の注文を受け、生産を行う部門段取り時間課題生産する基板に応じて製造装置の部品や材料を交換する「段取り時間」が必要。段取り時間を考慮した効率的な生産スケジュールを作成したい従来は、専任者が、一日数回・毎回数十分かけて経験に基づいてスケジュールを作成。更なる生産性向上やノウハウ継承のため、生産スケジュール作成の自動化に着手装置1 A A 装置2 B B B B B 段取り時間装置x C E B 段取り時間 E D 生産スケジュール作成の時間・コストの大幅な削減！効果 (一日あたり数時間 → 数分) 段取りのための製造装置の停止回数の削減！ (10%以上削減) 最適化未経験のご担当者様1人がプログラム試作開始から約1～2ヵ月間取り組んでこの効果を実現現在は試作段階で、実運用に向けてモデルを改良中！次期フェーズでは、Amplify の活用領域の拡大を検討中！ Copyright© Fixstars Group 15

12.

生産計画最適化 (機器製造メーカー B社様) 各製品の生産数に応じて製造人員数の計画をする部門効果必要人員数と日毎の人員数の増減の最小化！計画立案の業務負荷削減・属人化解消！人員数課題少量多品種の機器を製造している。それぞれの製品は生産が開始できる時期や納期が決まっていて、各製品をどの生産ラインでいつ製造するかによって日々の必要人員数が変化する。人員数と日毎の人員数の増減を最小化したい。従来は、専任者が2名で日々計画を立案・修正していたが、効率的な生産計画の立案、業務負荷削減、属人化解消のため自動化に着手。製品 A 調整▼納期調整 1000台 ▼納期製品 B 2000台納期▼ 製品 C 7000台順番入れ替え製品 D 納期▼ 200台人員数の増減を最小化！時間（日） Copyright© Fixstars Group 16

13.

Fixstars Amplify を活用した研究事例大学研究室論文タイトル量子アニーリング/イジングマシンに関する研究早稲田大学戸川研究室イジングマシンによる制約付きグラフ彩色問題の彩色数最小化手法 (リンク) 東京大学 Prof. Codognet Modeling the Costas Array Problem in QUBO for Quantum Annealing (リンク) 名古屋大学片桐研究室 Amplifyを用いたCMOSアニーリングマシンの特性の分析 (リンク) 東北大学小松研究室組み合わせクラスタリングによるアニーリングマシンの評価 (リンク) 応用研究慶應大学村松研究室東京大学長谷川研究室山梨大学鈴木研究室東京大学津田研究室 (MI) Designing metamaterials with quantum annealing and factorization machines (リンク) 京都大学野田研究室 (電子工学) 量子アニーリングを活用したフォトニック結晶レーザーの構造最適化 (リンク) 東京大学津田研究室 (MI) Chemical Design with GPU-based Ising Machines (リンク) (材料工学) (量子ゲート) (情報工学) Phase-fieldモデルの量子アニーリングシミュレータ (リンク) ISAAQ:イジングマシンを活用した量子コンパイラ (リンク) 量子アニーリングによる疎行列直接解法向けフィルイン削減オーダリング (リンク) Copyright© Fixstars Group 17

14.

メタマテリアルの構造設計（マテリアルズ・インフォマティクス）共同研究中（物質・材料研究機構 x 東京大学）ブラックボックス最適化の一部にQAを利用する量子・古典ハイブリッド型の最適化手法を開発【概要】 • 近年は、内部の人工的な構造により自然には見られない特異な性質を持ったメタマテリアルの研究が活発。一方で、材料設計において調整可能なパラメーターの数が増えると、組合せの数が指数関数的に増大し最適な構造を見つけるのが困難 • 材料の設計にあたっては、最適化のための目的関数などは与えられず、最適化対象の指標値のみが評価可能であることが多い（ブラックボックス最適化問題）。ブラックボックス最適化の解法としては、回帰モデルにガウス過程を利用したベイズ最適化が利用されることが多いが、組合せの数が多くなると最適解の推定自体も難しくなるといった問題あり。そこに量子アニーリングの技術を活用したもの • 熱放射材料のメタマテリアルの構造設計において、これまでにない放射冷却性能を示すメタマテリアルの設計に成功。またその実験において、提案手法が既存手法であるベイズ最適化よりも優れた最適化性能を持つことを確認 Copyright© Fixstars Group 18

15.

フォトニック結晶レーザーの構造最適化 • • • Fixstars との共同研究 [SIP成果] https://www.t.kyoto-u.ac.jp/ja/news/topics/research/20220908 https://opg.optica.org/oe/fulltext.cfm?uri=oe-30-24-43503&id=520202 京都大学大学院工学研究科の野田進教授、慶應義塾大学理工学部の田中宗准教授、早稲田大学理工学術院の戸川望教授ら【概要】 • 「フォトニック結晶レーザー」は、将来のスマート加工用レーザー光源としての普及が期待されており、高光出力化など積極的に研究されていて一定の成果もでている • フォトニック結晶の設計においては、従来は空間的に一様な構造を採用していたが、理論的には様々な構造を用いることも可能であり、その設計自由度を上手く活用すれば、レーザーの性能をさらに向上させられる可能性がある。そのシミュレーションに量子アニーリングを適用した（構造の最適化） • 量子アニーリングで設計した構造を採用したレーザーでは、性能を表す重要な指標である「光出力」「ビーム拡がり⾓」「直線偏光⽐」の３つ全てが向上 Copyright© Fixstars Group 19

16.

分子構造の自動設計（マテリアルズ・インフォマティクス）共同研究中（物質・材料研究機構 x 東京大学）離散的な VAE と FMQA の組み合わせにより高性能な分子構造の自動設計に成功【概要】 • 昨今、材料開発においてディープラーニングは必要不可欠なツールとなっており、DDR1キナーゼ阻害剤 (がん治療で損傷したのDNAの修復するために特定の細胞の活性を低下または消失させるための化合物) の設計などにおいて成果が出始めている • 具体的な手法として、連続的な潜在空間を活用した VAE (変分自己符号化器) とベイズ最適化を組み合わせたものが活用されることが多いが、局所解に陥りやすいという課題がある • これらの課題に対応するため、離散的な VAE を構築した上で、Factorization Machines と呼ばれる機械学習 (FM) と、量子アニーリング・イジングマシンを活用した最適化 (QA) を組み合わせた FMQA という手法を適用したところ、既存の手法よりもより高性能な分子構造を自動設計することに成功 Copyright© Fixstars Group 20

17.

18.

クラウドサービス：Fixstars Amplify ⚫ 量子コンピューティングを想定したシステム開発・運用のクラウドプラットフォーム（開発環境及び実行環境） ⚫ 量子コンピュータや独自開発のGPUアニーリングマシンなど、組合せ最適化問題の専用マシンを効率的に実行できる https://amplify.fixstars.com/ja/ サービス概要簡単ポータブル適用分野 (一例) ・・・金融物流始めやすいライフサイエンス Copyright© Fixstars Group ⚫ SDKをインストールするだけですぐに使える → pip install amplify ⚫ ハードウェアの専門知識不要でアプリケーションが開発できる ⚫ すべての量子アニーリング/イジングマシンに対応 ⚫ Fixstarsの26万ビット級のアニーリングマシン実行環境も利用可能 ⚫ 評価・検証用途には開発環境と実行環境が無償で利用可能 ⚫ 多くのチュートリアル、サンプルコードを整備・拡充 22

https://amplify.fixstars.com/ja/

19.

量子技術とFixstars Amplifyの対応領域 1. 量子コンピュータ 3. イジングマシン量子ゲート方式二値二次多項式模型古典汎用コンピュータの上位互換。量子力学の重ね合わせ状態を制御する量子ゲートを操作し、特定の問題を汎用的かつ高速に処理する。二次の多変数多項式で表される目的関数の組合せ最適化問題 (QUBO) を扱う専用マシン。 QAOA により組合せ最適化問題 (QUBO) を取り扱うことが可能。 1 3 量子コンピュータ IBM/Google/Rigetti/IonQ 2 量子アニーリングイジングマシン富士通/日立/東芝/Fixstars 変数は0,1または±1。統計物理学におけるイジング模型 (磁性体の性質を表す模型) に由来。様々な実装により実現されている。 D-Wave/NEC 2. 量子アニーリング方式量子焼きなまし法イジングマシンの一種であり、量子焼きなまし法の原理に基づいて動作する。量子イジング模型を物理的に搭載したプロセッサで実現する。自然計算により低エネルギー状態が出力される。組合せ最適化問題 (QUBO) を扱う専用マシン。 Copyright© Fixstars Group Amplify AE 23

20.

二次計画問題数理最適化問題量子アニーリング・イジングマシン ⚫ 連続最適化問題 Quadratic 二次形 Unconstrained 制約条件なし • 整数計画問題 (決定変数が整数) Binary 0-1整数 (二値) • 0-1整数計画問題 (決定変数が二値) Optimization 計画（最適化） • 決定変数が連続値（実数など） ⚫ 決定変数が離散値 (整数など) QUBO目的関数 (0-1整数二次計画問題) 𝒇 𝒒 = ෍ 𝑄𝑖𝑗 𝑞𝑖 𝑞𝑗 + ෍ 𝑄𝑖𝑖 𝑞𝑖 𝑖<𝑗 目的関数 𝒇 𝒒 を最小化するような 𝒒 を求める 𝑖 決定変数係数 Copyright© Fixstars Group 24

21.

Fixstars Amplify の特長 – いつでも開発環境と実行環境がセットのためすぐにプログラミングと実行が出来る – 誰でもハードウェアや専門的な知識が不要無料で開発がスタート可能多くの解説、サンプルコード – 高速に 26万ビットクラスの大規模問題の高速処理と高速実行が可能 – あらゆる一般に公開されている全てのイジングマシンを利用可能 Copyright© Fixstars Group 25

22.

23.

24.

25.

Fixstars Amplify SDKによるシンプルプログラミング数独を解くサンプルアプリ SDKなし最適化しても 200行以上 SDKあり 30行程度富士通・デジタルアニーラの設定用コード SDKなし 59行 SDKあり 1行日立CMOSアニーリングマシンの設定用コード SDKなし 183行出典: Wikipdia SDKあり 1行 SDKが、各マシンに対して最適な形式に実装式を多段変換！ Copyright© Fixstars Group 29

26.

Fixstars Amplify Annealing Engine (Amplify AE) NVIDIA GPU V100/A100 で動作 • 独自の並列化シミュレーテッドアニーリングアルゴリズム WEB経由で計算機能を提供 • 社会実装・PoC・検証が加速 • Amplify SDK の実装を直ぐに実行可能商用マシンでは最大規模・最高速レベル • 120,000 ビット（全結合） • 260,000 ビット超（疎結合） Copyright© Fixstars Group ※評価・検証用途では無償提供 30

27.

28.

https://amplify.fixstars.com/ja/demo

29.

30.

31.

https://amplify.fixstars.com/ja/pricing

32.

セミナー・トレーニングのご紹介 https://amplify.fixstars.com/ja/news/seminar お客様の実際の課題解決をご支援するために、無料セミナーや有償トレーニングを提供しています。無料セミナー・ワークショップビジネス向け、エンジニア向けに分けて開催しています！企業向けプライベートトレーニングお客様が抱える実際の課題やデータを使ったカスタムメイドのトレーニングです！ Copyright© Fixstars Group 36

https://amplify.fixstars.com/ja/news/seminar

33.

34.

ワークショップの事前準備 (1) • 【事前メールに記載】ご自身のPC (ブラウザ上) で Python プログラミングを行います。Google Colaboratory を使うので、事前にログイン出来ることを確認をお願いします（要 Google アカウント） Google Colab 検索 https://colab.research.google.com/ • 【事前メールに記載】 Fixstars Amplify ホームページよりユーザ登録の上、無料トークンの取得をお願いします（1分で終わります） Fixstars Amplify 検索 https://amplify.fixstars.com/ 質問は随時ZoomのQ&Aへお願いします Copyright© Fixstars Group 38

35.

ワークショップの事前準備 (2) 【事前メールに記載】 • 取得されたトークンを用いて、トークンチェック用サンプルコードが動くか確認をお願いします。 https://colab.research.google.com/drive/1evYBKqKfVrEzrQOa-SWwciROfvqjL8qm?usp=sharing （※URLはZoomのチャット欄を参照） • サンプルコードは閲覧のみ可能な状態です。「ファイル」→「ドライブにコピーを保存」の上、ご自身のトークンを入力してください。その後、Shift + Enterで実行下さい。 ! pip install amplify token = "********************************" # ご自身のトークンを入力 • ご自身のトークン番号は、Amplifyウェブページ → よりご確認いただけます。 • 実行後、以下の結果が出力されればOKです。 result: [q_0, q_1] = [1. 1.] (f = 0.0) Copyright© Fixstars Group 39

https://colab.research.google.com/drive/1evYBKqKfVrEzrQOa-SWwciROfvqjL8qm?usp=sharing

36.

37.

サンプルコード • ワークショップで使うサンプルコードを取得して下さい。 • それぞれのサンプルコードにご自身のトークンを入力いただく必要があります。 • サンプルコードを開き、「ファイル」→「ドライブにコピー」の上、トークンを入力し実行して下さい。 • 数の分割サンプルコード https://colab.research.google.com/drive/1po4m292IbW-rMnJImLRcqgmWosIO897l?usp=sharing （※URLはZoomのチャット欄を参照）質問は随時、Zoomの Q&A へお願いします。 Copyright© Fixstars Group 41

https://colab.research.google.com/drive/1po4m292IbW-rMnJImLRcqgmWosIO897l?usp=sharing

38.

数の分割問題（概要） • 与えられた 𝑛 個の整数𝑎0 , ⋯ , 𝑎𝑛−1 を二つの集合に分ける。集合内の数の和が、もう一方の集合内の数の和と等しくなるようできるか? • NP完全問題: とても難しい問題として知られている → 全通り試すしか方法は無い • 問題のバリエーション • 判定問題: 完全に等しく出来るか？または等しい組合せは何か？ • 最適化問題: 完全に等しいか、または最も惜しい組合せは何か？ Copyright© Fixstars Group 42

39.

数の分割問題（具体例と解法の方針）具体例 {2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？答え • 存在する • {2,3,5,7,10} と {2,3,5,8,9} • どちらも和は 27 • 分割方法は 23 通り存在する (対称を除く）どうやって解くか？ • ひとつの『数』がどちらの集合に分割されるか全通り試す → 210 = 1024通り Copyright© Fixstars Group • 効率のよい厳密な方法は知られていない・・・ (もし発見されたら大騒ぎ) 43

40.

44 数の分割問題（定式化）最適化問題：数の分割において最も惜しい組合せは何か？ • 目的関数 {集合1の和} – {集合2の和} の絶対値を最小化 • 決定変数数 𝑎𝑖 がどちらの集合に属するかを 𝒔𝒊 で表す • 𝑎𝑖 = { 2,10, 3, 8, 5, 7, 9, 5, 3, 2} • 𝑠𝑖 = {-1, 1,-1, 1,-1,-1, 1, 1, 1, 1} 数理モデル • 目的関数 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 Copyright© Fixstars Group σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！

41.

数の分割問題（バイナリへの式変形） • 0-1整数二次計画問題への変換 • Quadratic Unconstrained Binary Optimization (QUBO) 式 𝑁−1 𝑓 = ෍ 𝑠𝑖 𝑎𝑖 𝑠𝑖 ∈ −1, +1 𝑖=0 𝑁−1 → ෍ 𝑠𝑖 𝑎𝑖 2 𝑠𝑖 ∈ −1, +1 σ 𝑠𝑖 𝑎𝑖 は、自然と {『1』の集合の和} – {『-1』の集合の和} となる！絶対値を二次式で表す 𝑖=0 𝑁−1 → ෍ 2𝑞𝑖 − 1 𝑎𝑖 2 𝑞𝑖 ∈ 0, +1 ±1をバイナリで表す 𝑖=0 Copyright© Fixstars Group 45

42.

数の分割問題（定式化の具体例）問題 • 𝑎𝑖 ={2,10,3,8,5,7,9,5,3,2} の10個の数の完璧な分割は見つけられるか？決定変数 • 𝑞𝑖 = 𝑞0 , 𝑞1 , 𝑞2 , 𝑞3 , 𝑞4 , 𝑞5 , 𝑞6 , 𝑞7 , 𝑞8 , 𝑞9 𝑞𝑖 ∈ 0,1 で集合0又は集合1、どちらに所属するかを表す目的関数 2 𝑁 𝑓 = ෍ 2𝑞𝑖 − 1 𝑎𝑖 𝑖=1 目的関数を展開 2 2𝑞0 − 1 + 10 2𝑞1 − 1 + 3 2𝑞2 − 1 + 8 2𝑞3 − 1 + 5 2𝑞4 − 1 𝑓= +7 2𝑞5 − 1 + 9 2𝑞6 − 1 + 5 2𝑞7 − 1 + 3 2𝑞8 − 1 + 2 2𝑞9 − 1 Copyright© Fixstars Group 2 46

43.

数の分割問題（プログラムコード） • 問題の定義と決定変数生成器による決定変数の生成 a = [2, 10, 3, 8, 5, 7, 9, 5, 3, 2] q = BinarySymbolGenerator().array(len(a)) 2 1. 定式化 2. 実行 3. 結果 • 目的関数、𝑓 = σ𝑁𝑖=1 2𝑞𝑖 − 1 𝑎𝑖 、の定式化（①②③は同等） ① f = ((2 * q - 1) * a).sum() ** 2 ② f = 0 for i in range(len(a)): f += (2 * q[i] - 1) * a[i] f **= 2 ③ f = sum_poly(len(a), lambda i: (2 * q[i] - 1) * a[i]) ** 2 solver = Solver(client) result = solver.solve(f) 得られた目的関数の値0 色々な書き方が出来る各集合の合計値27 q = [1, 1, 1, 0, 1, 1, 0, 0, 0, 0], f = 0.0, w = 27 Copyright© Fixstars Group 各数字に対して、集合0か、集合1か 47

44.

https://amplify.fixstars.com/ja/demo

45.

46.

組合せ最適化とブラックボックス最適化通常の組合せ最適化ブラックボックス最適化 • • 課題に対し、定式化によりQUBO式を取得可能例1) 合成素材の性能向上に必要な、合成対象の材料の組 • 数の分割 𝑓 = Σ 2𝑞𝑖 − 1 𝑎𝑖 課題が複雑で直接の定式化が不可能。合せ最適化 2 例2) 最も計測精度が高くなる計測センサー群の配置は？ • 生産計画最適化 ➔ 実験かシミュレーション（コスト大） 𝑓 = ΣΣ Σ𝑎𝑖 𝑝𝑖 𝑞𝑚,𝑖,𝑡 + ΣΣ𝑏𝑖 𝑠𝑖 𝑞𝑚,𝑖,𝑡 𝑞𝑚,𝑖−1,𝑓 ⋯ • TSP問題（お遍路巡り最短経路探索） • シミュレーションや実験の試行回数の削減 ➔ シミュレーションや実験が楽になる 𝑓 = ΣΣΣ𝑑𝑖,𝑗 𝑞𝑛,𝑖 𝑞𝑛+1,𝑗 ⋯ • QUBO式に対し、直接アニーリングを行う • 逆問題に対するアプローチとしても適用化（量子アニーリング・イジングマシン）例：ある計測値を実現する実験条件を見つける Copyright© Fixstars Group 50

47.

48.

ブラックボックス最適化数理最適化ブラックボックス最適化目的関数値 𝒇 𝒙 のみ観測可能 • 目的関数の形状や勾配などは何も分からない。機械学習＋量子アニーリング／イジングマシン目的関数の評価回数に限りがある • 入力集合 Ω が有限集合であっても全検索できない。イメージ • 5種類の材料から、いくつかの材料を選択・合成し、最も電気抵抗の小さな物質を作る。 • 決定変数（材料の選択肢）𝒙 ・・・ 5桁の01ビットでどの材料を選択するかを記述 𝒙 = [1,0,0,0,0], [1,1,0,0,0], [1,0,1,0,0], ⋯ , [1,1,1,1,1] → 25 − 1 通り • 目的関数 𝑓 𝒙 = 合成物質の電気抵抗（実験又は数値シミュレーション） Copyright© Fixstars Group 52

49.

ブラックボックス最適化アプローチ数理最適化ブラックボックス関数 𝑓 𝒙 に対して、以下サイクルを繰り返す（実験・シミュレーション）（フローはベイズ最適化に似ている、本質は異なる）ブラックボックス最適化機械学習＋量子アニーリング／イジングマシン ① 初期教師データを構築（𝑁0 回の目的関数の評価） ② 教師データから獲得関数 𝑔 𝒙 を構築 ②～④を 𝑁 − 𝑁0 回繰り返す ③ 獲得関数 𝑔 𝒙 が最小となる点 ෝ 𝒙 を推定 ④ 目的関数の評価結果 ෝ 𝒙, 𝑓 ෝ 𝒙 を教師データに追加実験ミュレーション課題： 1. 𝑔 𝒙 の構築？ Factorization Machine（機械学習モデル） 2. 𝑔 𝒙 最小化を実現するෝ 𝒙 の推定？ Copyright© Fixstars Group 学習モデルをQUBOとしてAmplifyで求解 K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 53

50.

獲得関数としての Factorization Machine (FM) • 獲得関数 𝑔(𝒙) に機械学習モデルの一種である Factorization Machine (FM) を用いると、次のように変数 𝒙 に対する2次式での記述ができる。 𝑛 𝑛 𝑔 𝒙 𝒘, 𝒗 = 𝑤0 + 𝒘, 𝒙 + ෍ ෍ 𝒗𝑖 , 𝒗𝑗 𝑥𝑖 𝑥𝑗 𝑖=1 𝑗=𝑖+1 𝑛 𝑘 1 = 𝑤0 + ෍ 𝑤𝑖 𝑥𝑖 + ෍ 2 𝑖=1 𝑓=1 𝑛 2 ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 𝑛 ➔ QUBO式 2 2 − ෍ 𝑣𝑖𝑓 𝑥𝑖 𝑖=1 • 𝑘 はハイパーパラメータ、 𝒘 及び 𝒗 は FM 学習後に取得される FM パラメータ。 • FM パラメータ数は 𝑘 に依存。𝑘 = 𝑛 のときは QUBO の相互作用項と同じ自由度がある一方、 𝑘 を小さくすることでパラメータ数を減らし過学習を抑制する効果 • このようなブラックボックス最適化手法を FMQA と呼ぶ場合がある。 Copyright© Fixstars Group K. Kitai, et al., Phys. Rev. Res. (2020). T. Inoue, et al., Opt. Express (2022). 54

51.

52.

https://amplify.fixstars.com/ja/demo

53.

① ブラックボックス最適化による最適信号機制御（9月追加 ! ） • マルチエージェントシミュレーション (MAS) による交通シミュレーション • 自宅とモール1を往復する自動車（薄灰） • 自宅とモール2を往復する自動車（濃灰） • 自宅とその他の場所を往復する自動車（白） • MASによるシミュレーション例： • 社会システム経済学、社会学、政治学の分野において、人間行動や社会の相互作用を研究し、政策や社会システムの影響を理解するために使用。 • 組織内動態企業や組織内の個人や部門の相互作用を模倣して、組織の効率性や意思決定の影響の分析。 Copyright© Fixstars Group 57

54.

55.

② FMQAによる熱化学条件の推定（燃焼現象の逆問題）流体力学＋化学反応＋熱発生 • ターゲット燃焼特性（燃焼速度 𝑆𝐿 、火炎厚さ 𝛿𝑡ℎ 、既燃温度 𝑇𝑏 、着火遅れ時間 𝜏𝑖𝑔 ）を実現する燃料組成 (CH4/H2/CO2/H2O) 及び予熱温度 𝑇𝑢 は？ • 目的関数 • 入力条件に対し Cantera（ライブラリ）で取得された燃焼特性とターゲット特性の差の絶対値 • ターゲット（ 1 atm, 𝜙 = 1.0） • 𝑇𝑢 = 684.17 K , 𝑋𝑓𝑢 = {"CH4": 0.715, "H2": 0.603, "CO2": 0.545, "H2O": 0.424}（乱数で決定） • 𝑆𝐿 = 1.65 m/s • 𝛿𝑡ℎ = 0.343 mm ターゲット燃焼特性 • 𝑇𝑏 = 2283.8 K 上記 𝑇𝑢 , 𝑋𝑓𝑢 に基づき事前に Cantera で計算 • 𝜏𝑖𝑔 = 0.170 ms Copyright© Fixstars Group

56.

② FMQAによる熱化学条件の推定（燃焼現象の逆問題）初期教師データ構築時の評価値＝ランダム探索最適化過程における評価値ターゲットの燃焼特性推定熱化学条件における燃焼特性 𝑆𝐿 m/s 1.651 1.616 𝛿𝑡ℎ mm 0.3426 0.3223 𝑇𝑏 K 2284 2317 𝜏𝑖𝑔 ms 0.17 0.17 ターゲット熱化学条件推定された熱化学条件 𝑇𝑢 K 684.17 629.00 𝑋𝑓𝑢,CH4 0.72 0.84 𝑋𝑓𝑢,H2 0.60 0.68 𝑋𝑓𝑢,CO2 0.54 0.33 𝑋𝑓𝑢,H2O 0.42 0.35 Copyright© Fixstars Group

57.

③ ブラックボックス最適化による模擬超電導材料の探索 • 超電導状態に転移する温度（臨界温度 𝑇𝑐 ）ができるだけ高温になる材料組合せの探索 • 通常、①数々の材料を選択・合成し、②臨界温度を計測し評価、を繰り返し、より高温の臨界温度を実現する合成対象の材料を同定する、という試行錯誤が主。評価は高コスト。 • 目的関数は臨界温度の負値（−𝑇𝑐 ）。臨界温度は簡易的なモデルで推定 • 決定変数の例 x = [0, 0, 1, 0, 1, 0, 0, 0, 0, 1] 素材量名材料0 材料1 材料2 材料3 材料4 材料5 材料6 材料7 材料8 材料9 非選択 / 選択 0 0 1 0 1 0 0 0 0 1 Copyright© Fixstars Group 61

58.

③ ブラックボックス最適化による模擬超電導材料の探索目的関数値（−𝑇𝑐 ） • 超電導状態に転移する温度（臨界温度 𝑇𝑐 ）ができるだけ高温になる材料組合せの探索最適化過程に • 通常、①数々の材料を選択・合成し、②臨界温度を計測し評価、を繰り返し、より高温のおける評価値臨界温度を実現する合成対象の材料を同定する、という試行錯誤が主。評価は高コスト。 • 目的関数は臨界温度の負値（−𝑇𝑐 ）。臨界温度は簡易的なモデルで推定初期教師データ構築時の評価値＝ランダム探索 • 決定変数の例 x = [0, 0, 1, 0, 1, 0, 0, 0, 0, 1] 素材量名材料0 材料1 材料2 材料3 材料4 材料5 材料6 材料7 材料8 材料9 非選択 / 選択 0 0 1 0 1 0 0 0 0 1 𝒊番目の目的関数𝑓 𝒙 の評価 Copyright© Fixstars Group 62

59.

④ ブラックボックス最適化による化学プラント生産量最大化 • 化学反応装置（𝐴 → 𝐵）における物質生成量の最大化を目指す最適化モデル課題 • 目的関数は、化学反応シミュレーションで得るB分布を空間積分した生成量 𝑚𝑝𝑟𝑜𝑑 の負値 • 反応器は、反応性物質 A の初期濃度分布で制御される（燃料ノズルの位置や形状最適化）化学反応シミュレーションで考慮する基礎方程式（有限差分法） • 𝜕𝐶𝐴 𝜕𝑡 = 𝛼 𝜕𝑥 𝜕 • 𝜕𝐶𝐵 𝜕𝑡 =𝛼 𝜕𝐶𝐴 𝜕𝑥 𝜕 𝜕𝐶𝐵 𝜕𝑥 𝜕𝑥 − 𝜔 𝐶𝐴 , 𝐶𝐵 ・・・A濃度の拡散反応輸送方程式 + 𝜔(𝐶𝐴 , 𝐶𝐵 ) ・・・B濃度の拡散反応輸送方程式 • 𝜔 = 𝑅𝑟 𝐶𝐴 1 − 𝐶𝐴 exp −𝐶𝐵 ・・・反応速度 • 𝐶𝐵 = 𝑂 at 𝑡 = 0・・・初期条件 Copyright© Fixstars Group 63

60.

④ ブラックボックス最適化による化学プラント生産量最大化 #9 Random, 𝑚𝑝𝑟𝑜𝑑 = 0.4~0.6 ※目的関数は、B生成量 𝑚𝑝𝑟𝑜𝑑 の負値目的関数値（−𝑚𝑝𝑟𝑜𝑑 ） #0 FMQA 初期教師データ構築時の評価値＝ランダム探索 #9 Random #0 FMQA, 𝑚𝑝𝑟𝑜𝑑 = 0 最適化過程における評価値 #7 FMQA #7 FMQA, 𝑚𝑝𝑟𝑜𝑑 = 0.831 𝒊 番目の目的関数 𝑓 𝒙 の評価 Copyright© Fixstars Group 64

61.

⑤ ブラックボックス最適化とCFDによる翼形状の最適化 • 一様流れ中に設置された翼に作用する揚力𝐹𝐿 と抗力𝐹𝐷 の⽐（揚抗⽐） 𝑟𝐿𝐷 = 𝐹𝐿 / 𝐹𝐷 を最大化する翼形状の探索（−𝑟𝐿𝐷 を最小化する問題） • 単一翼の場合、写像パラメータ（実数）2つ、迎⾓（実数）1つの、合計3つからなる実数決定変数 • one-hot エンコーディングにより、実数決定変数を100要素からなるバイナリ変数ベクトルに変換し、ブラックボックス最適化を実施 Copyright© Fixstars Group 65

62.

⑤ ブラックボックス最適化とCFDによる翼形状の最適化 #1 Random, 𝑟𝐿𝐷 = 𝟏. 𝟖𝟔 ※目的関数は、揚抗⽐ 𝑟𝐿𝐷 の負値目的関数値（−𝑟𝐿𝐷 ）初期教師データ構築時の評価値＝ランダム探索 #17 Random , 𝑟𝐿𝐷 = 𝟐. 𝟑𝟓 #7 FMQA 最適化過程における評価値 #7 FMQA , 𝑟𝐿𝐷 = 𝟏. 𝟎𝟔 #1 Random #17 Random #19 FMQA #19 FMQA , 𝑟𝐿𝐷 = 𝟐. 𝟕𝟒 𝒊 番目の目的関数 𝑓 𝒙 の評価 Copyright© Fixstars Group 66

63.

64.

https://amplify.fixstars.com/ja/demo

65.

66.

ブラックボックス最適化のデモプログラムある代数式を未知のブラックボックス関数と見なした場合の FM 機械学習 • https://colab.research.google.com/drive/1avZmd-3VqQgNnANpG1WLsoCjKALuFZ_2 問題設定 • 最適化サイクル本来なら評価が高コストで、形状が不明な目的関数（真の関数）𝑓(𝒙) として、 𝑓 𝒙 = 𝒙𝑇 𝑄𝒙 とした。プログラム内で 𝑄 は乱数で定義 1. 教師データから獲得関数 𝑔(𝒙) を構築 (FM) 2. 獲得関数 𝑔(𝒙) が最小となる点 ෝ 𝒙 を推定 (QA) 3. 評価結果 ෝ 𝒙, 𝑓(ෝ 𝒙) を教師データに追加 ↑のサイクルにより、最適化点近傍におけるFMの予測精度が向上し、組合せ最適化により、より良い ෝ 𝒙 の推定が期待される Copyright© Fixstars Group 70

https://colab.research.google.com/drive/19uVGrWxj_PSRqql4s8pTsVbebSa2ORbd

67.

68.

69.

FM デモプログラム 3/5（FMの学習） FM の学習は、通常の機械学習と同様に進める。教師データを学習・検証データに分割し、ミニバッチ学習。 • model_class: モデルクラス（TorchFM） • model_param: ハイパーパラメータ • batch_size: ミニバッチサイズ • epochs: エポック（繰り返し）の数 • criterion: 損失関数 • optimizer_class: 最適化アルゴリズムクラス • opt_params: その他細かな設定 Copyright© Fixstars Group 73

70.

71.

72.

73.

ブラックボックス最適化のデモプログラムある代数式を未知のブラックボックス関数と見なした場合のブラックボックス最適化 (FMQA) • https://colab.research.google.com/drive/19uVGrWxj_PSRqql4s8pTsVbebSa2ORbd 問題設定 • 最適化サイクル本来なら評価が高コストで、形状が不明な目的関数（真の関数）𝑓(𝒙) として、 𝑓 𝒙 = 𝒙𝑇 𝑄𝒙 とした。プログラム内で 𝑄 は乱数で定義 1. 教師データから獲得関数 𝑔(𝒙) を構築 (FM) 2. 獲得関数 𝑔(𝒙) が最小となる点 ෝ 𝒙 を推定 (QA) 3. 評価結果 ෝ 𝒙, 𝑓(ෝ 𝒙) を教師データに追加 ↑のサイクルにより、最適化点近傍におけるFMの予測精度が向上し、組合せ最適化により、より良い ෝ 𝒙 の推定が期待される Copyright© Fixstars Group 77

https://colab.research.google.com/drive/19uVGrWxj_PSRqql4s8pTsVbebSa2ORbd

74.

75.

76.

77.

FMQA デモプログラムの実務での活用方法基本的に、true_func()を変更する。必要に応じて、現在の教師データの出力などを追加。 • 例①：true_func() 内でシミュレーションを呼び出し、その戻り値を最小化するように最適化。 • 例②：true_func() 内で実験を行う。つまり、1 回のFMQA で推定された探索候補 ෝ 𝒙 を対象に実験し、結果を教師データに追加、次のFMQA 試行を行う ➔ 実施例のデモ • ℎ 𝒙 を最大にするような入力 𝒙 を推定する場合は、1/ℎ 𝒙 や −ℎ 𝒙 などを目的関数 𝑓 𝒙 とする。 Copyright© Fixstars Group 81

78.

FMQA デモプログラムの実務での活用方法基本的に、true_func()を変更する。必要に ③ 模擬超電導材料の最適化サンプルコードにおける目的関数 ⑤⑥ 翼形状の最適化サンプルコードにおける目的関数応じて、現在の教師データの出力などを追加。 • 例①：true_func() 内でシミュレーションを呼び出し、その戻り値を最小化するように最適化。 • 例②：true_func() 内で実験を行う。つまり、1 回のFMQA で推定された探索候補 ෝ 𝒙 を対象に実験し、結果を教師データに追加、次のFMQA 試行を行う ➔ 実施例のデモ • ℎ 𝒙 を最大にするような入力 𝒙 を推定する場合は、1/ℎ 𝒙 や −ℎ 𝒙 などを目的関数 𝑓 𝒙 とする。 Copyright© Fixstars Group 82

79.

80.

81.

https://amplify.fixstars.com/ja/docs/

82.

今後のセミナーのご案内今後も無料セミナーを開催します！第二部からの参加も可能です 2023/8/10 (木) 「シフト最適化」 2023/9/14 (木) 「生産計画最適化」 2023/10/12 (木) 「搬送経路最適化」第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第一部 14:00 - 14:45 • フィックスターズの紹介 • 組合せ最適化問題・イジングマシンの紹介 • Fixstars Amplifyの紹介第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「シフト最適化」のワークショップ • Q&A 第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「生産計画最適化」のワークショップ • Q&A 第二部 14:50 - 16:00 • Fixstars Amplifyを用いた「生産計画最適化」のワークショップ • Q&A ご質問・ご不明点は問合せフォームでご連絡下さい https://amplify.fixstars.com/ja/contact Copyright© Fixstars Group 86

https://amplify.fixstars.com/ja/contact

83.

量子コンピュータ時代のプログラミングセミナー ～Fixstars Amplifyで実装するブラックボックス最適化～ （2023/10/12） 学術・開発研究者向け