アンサンブルニューラルネットワークによる港湾操船のための確率的な船舶運動予測モデル

2023-11-28 アンサンブルニューラルネットワーク による港湾操船のための確率的な 船舶運動予測モデル ○脇⽥康希*, 秋本洋平**, 牧敦⽣* * ⼤阪⼤学⼯学研究科, **筑波⼤学システム情報系

2 諸⾔ 港内操船のための船舶運動の予測モデルを提案する． 背景  MASSのR&Dでは 操縦運動のシミュ レーション環境が 必要とされる．  操船システムの評価  モデルベース制御開 発での利⽤  港内操船や離着桟操 船の⾃動化も重要視 されている． 1) 2) 3) 関連研究  既存船が対象となる場合，System Identification (SI) を使⽤することができる．  操縦運動時の位置や速度のデータからモデルの推定を⾏う．  ⼒やモーメントの計測を必ずしも必要としない．  Parametric SI：事前知識を⽤いる⼿法  数理モデルに知識が組み込まれていることが多い．  MMGモデル 1)，Abkowtizモデル 2)  データから最適パラメータが推定される．  Non-parametric SI：事前知識を⽤いない⼿法  データから⼊出⼒関係をモデル化する．  機械学習⼿法が⽤いられる．  Artificial Neural Network (ANN)3), Support vector machine (SVM), Gaussian process (GP) Yoshiki Miyauchi et al. System parameter exploration of ship maneuvering model for automatic docking/berthing using CMA-ES. Journal of Marine Science and Technology, 27(2):1065–1083, 2022. Martin A Abkowitz. Measurement of hydrodynamic characteristics from ship maneuvering trials by system identification. In Transactions of Society of Naval Architects and Marine Engineers 88, pages 283–318, 1980. L. Moreira et al. Dynamic model of manoeuvrability using recursive neural networks. Ocean Engineering, 30(13):1669 – 1697, 2003. 2

3 諸⾔ Artificial Neural Network (ANN) を⽤いる． 利点 課題  Non-parametric SIの利点  ANNの⽋点  対象システムの⾮線形特性を 柔軟に表現可能である．  アクチュエータ構成に関わらず 様々な船舶に適⽤可能である．  ANNの利点  多⼊⼒多出⼒モデル  ⾼いフィッティング能⼒  軌跡からODEベクトル場を 学習可能である．4) 4) Kouki Wakita et al. On neural network identification for low-speed ship maneuvering model. Journal of Marine Science and Technology, 27(1):772–785, 2022  パラメータが多く，過学習が発⽣しやすい．  訓練データの分布外の⼊⼒に対する汎化性能 は⾼くない． 理想的には取り得る全ての状態や制御⼊⼒ のデータが必要となる．  ⼗分なデータ収集は実⽤上困難な場合 が多い．  ⼤量の実船試験は経済的に難しい．  運航データは偏りが⽣じる．  港内操船では取り得る状態のパターン数が増 える． 3

研究⽬的 4 ⼊⼒が訓練データの分布外であることに起因する 不確実性を推定するアンサンブルNNモデルを提案する．  提案するアンサンブルモデルは  同定された複数のNNモデルを⽤いた確率的な混合モデルである．  予測の不確実性は予測値の分散として表現される．  着桟操船データ（シミュレーション）を⽤いて検証される．  不確実性の推定により， MASSの観点からは以下の効果が期待できる．  操縦シミュレーション結果を過信させない．  モデルベース制御では不確実な状態に遷移する制御を避けられる． → 実環境性能の低下を回避可能 4

5 問題設定 ⾵外乱を考慮した平⽔中におけるsurge-sway-yaw の操縦運動を考える．  操縦運動のダイナミクスは以下のODEで 表されると仮定する． 𝒗 Variables UT UT γT -vm UA 𝑢 u 𝒗 𝑣 γA r n δp 𝒖 δs ψ y0 Fig. 1 : Coordinate systems. 𝒘 𝜽 Discription Surge velocity. Sway velocity on midship. 𝑟 Yaw angle velocity. 𝛿 Port side rudder angle. 𝛿 Starboard side rudder angle. Propeller revolution number. 𝑛  Feedforward NN 𝒙 𝑭𝜽 𝒗, 𝒖, 𝒘 x0 NN architecture 𝑛 Bow thruster revolution number. 𝑈 Apparent wind velocity. 𝛾 Apparent wind direction. Model parameters 𝒉 ∘ 𝒈 ∘ ⋯∘ 𝒈 ∘ 𝒉 𝒙  𝒉 𝒙 𝑾𝒙  𝒈 : tanh 𝒃  𝐿 4  各層のユニット数は256  周期変数の除去  相対⾵速⾵向を相対⾵ベ クトルへ変換する。  ⼊出⼒の標準化 5

6 システム同定⼿法 観測値と数値シミュレーションの誤差を最⼩化 評価関数 最適化  時系列データが与えられたと する． 𝒟 𝒗 :  Trainデータで以下を 最⼩化  数値シミュレーション 𝒗 𝜽 （Euler法） 𝒗  速度の計測値𝒗は真の値に 加法的なガウスノイズが付加 されたサンプルと仮定する．  負の対数尤度を評価関数とし た． 1 ℒ 𝜽; 𝒟 𝑁 ,𝒖 𝒗 ,𝒘 : : Δ𝑡 ⋅ 𝑭𝜽 𝒗 𝜽 , 𝒖 , 𝒘 𝒗 𝒗 𝜽 𝒗 𝜺 𝜺 ∼ 𝒩 𝟎, 𝚺 𝚺 𝒗 ℒ 𝜽; 𝒟 𝜆 𝜽  ミニバッチ学習  Adam（勾配降下法 ベースの最適化⼿法）  Validationデータが最 ⼩になるパラメータを 最適として⽤いる． 𝒗 𝜽 ℒ 𝜽; 𝒟 6

7 アンサンブルモデル M個のNNを⼀様に重み付けされた混合モデル 提案モデル  M個の異なる最適パラメータが与えられたと する 𝚯 𝜽⋆ モデル間の 多様性が 重要となる  単⼀のNNモデルを⽤いた状態遷移確率 𝑝𝜽∗ 𝒗 𝛿 𝒗 ∣ 𝒗 ,𝒖 ,𝒘 𝒗  異なる局所最適解へ収束さ せる必要がある． Δ𝑡 ⋅ 𝑭𝜽∗ 𝒗 , 𝒖 , 𝒘  𝛿：ディラックのデルタ関数  ⼀様に混合された状態遷移確率 𝑝𝚯 𝒗 ∣ 𝒗 ,𝒖 ,𝒘 1 𝑀 𝑝𝜽∗ 𝒗 ∣ 𝒗 ,𝒖 ,𝒘  パラメータの初期値を ランダムに決定する．  訓練データの与えられる 順番をランダムにする． 7

8 検証内容（対象システム） ⼀軸⼆舵船の模型船(3m)を⽤いる  アクチュエータ構成  VecTwin rudder system  Bow thruster  ２種類のデータ源に対して 検証を実施した．  MMGモデルの数値シミュレー ションで⽣成されたデータ  模型試験で計測されたデータ Fig. 2 : Subject ship. 8

9 検証内容 (Data source : MMG simulation) 分布の異なるデータを⽤意した． 着桟(訓練) 着桟(テスト) Z&旋回 ランダム  ⽤意された操縦運動データ  着桟操船  運航データの制御⼊⼒を利⽤  ランダム操船  制御⼊⼒を20s毎に変更  Zigzag 操船  Turning 操船  着桟操船データ (5894 s) を⽤いて訓練を実施した．  他の操縦運動データで モデルの検証する． Fig. 3 : Distribution of state variables and control inputs. 9

10 検証結果 (Data source : MMG simulation) 分布外のデータ集合では不確実性（分散）が⼤きく推定される 傾向があることを確認した． One-step 予測  テストデータセット（ノイズ無し） 𝒟 𝒗  予測分布 𝒗 : 1 𝑁 𝑇 1 Variance  ,𝒖 ∼ 𝑝𝚯 𝒗  指標 Bias : 1 𝑁 𝑇 1 ,𝒘 箱ひげ図は シード値の 差を表す 着桟(テスト) ランダム Z&旋回 : ∣ 𝒗 ,𝒖 ,𝒘 𝒗 𝐸𝒗 𝐸 𝐸 𝒗 𝒗 結果  NNの数( 𝑀 )が増加するにつれ，バイアスが減少し， バリアンスが増加する傾向がある．  訓練データ分布から外れるにつれて，バイアスと バリアンスが増⼤し，正の相関を持っている． Fig. 4 : Results of bias and variance. 10

11 検証結果(Data source : MMG simulation) Multi-step 予測結果 1  予測分布：𝑝𝚯 𝒗 : ∣ 𝒗 , 𝒖 : , 𝒘 :  500回のサンプリング結果を⽰す． Fig. 5 : Trajectory of a berthing maneuver. ∏ 𝑝𝚯 𝒗 ∣ 𝒙 ,𝒖 ,𝒘 11

12 検証結果(Data source : MMG simulation) Multi-step 予測結果 2  予測分布：𝑝𝚯 𝒗 : ∣ 𝒗 , 𝒖 : , 𝒘 :  500回のサンプリング結果を⽰す． Fig. 6 : Trajectory of a berthing maneuver. ∏ 𝑝𝚯 𝒗 ∣ 𝒙 ,𝒖 ,𝒘 12

検証結果 (Data source : Model experiments) 13 模型試験データを⽤いた検証結果  Random maneuver (7307 s)で訓練された． Fig. 7 : Trajectory of a random maneuver. 13

14 結⾔  まとめ  NNを⽤いたNon-parametric SI⼿法は，船舶の操縦運動を⼗分に表現でき るが，事前情報を⽤いないため分布外の汎化性能が⾼くない．  そのため，⼊⼒が分布外であることに起因する不確実性を推定する Ensemble NNによる状態遷移確率モデルを提案した．  シミュレーションデータ及び模型試験データを⽤いて以下を確認した．  テストデータ分布が訓練データ分布から離れるにつれてバイアスとバリアンスが増⼤ し，正の相関を持つ． → 分布外で予測不確実性が⾼い傾向がある．  分布外でなければ，⾼い精度で操縦シミュレーションを⾏える． 14