【人工知能・深層学習】論文紹介：On Revisiting Entropy for Identifying Mislabeled Images

On Revisiting Entropy for Identifying Mislabeled Images 加藤黎朗

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 1

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 2

研究概要 題名 On Revisiting Entropy for Identifying Mislabeled Images 著者 Chunlei Li, Zixuan Zheng, Yilei Shi, Guanglu Dong, Pengfei Li, Jingliang Hu, Xiao Xiang Zhu, Lichao Mou 概要 正しくラベル付けされたサンプルでは、学習とともに予測エントロピーが低下する 一方、誤ラベルサンプルでは高い不確実性やラベルとの不一致が残りやすい。 本論文は、この学習中の予測分布の変化を利用し、画像分類データセット中の誤ラ ベルサンプルを検出する Signed Entropy Integral, SEI を提案する。 3

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 4

問題設定: 課題 深層学習モデルは、大量の画像とラベルの対応関係から分類境界を学習する。 しかし、データセットの中には、画像内容とデータセット上で与えられたラベルが 一致していないサンプルも混在 ラベルに誤りが含まれると、 ・誤った教師信号を学習する ・分類境界が歪む ・汎化性能・信頼性が低下する ・過パラメータ化されたモデルは誤ラベルも記憶しうる そのため、データセットから誤ラベルが付与されたサンプルを検出したい 本論文の目的 学習中に得られるモデルの予測分布の変化からデータセット中の誤ラベル候補を検出したい 5

問題設定 誤ラベル検出の難しさ ・真のラベルは観測できない データセット上のラベル 𝑦𝑖 が正しいとは限らないが、真のラベル 𝑦𝑖¥∗ は通常わからない そのため、学習中のモデル挙動から誤ラベルらしさを推定する必要がある ・高損失・低信頼度のサンプルが必ず誤ラベルとは限らない 特に医療画像など、正ラベルでも、見た目が曖昧なサンプルは存在する 専門家間で判断が分かれるケースもあり、ラベルノイズが現実的に発生しうる ・学習初期と後期で、サンプルごとの挙動が変わるため、モデルは誤ラベルにも適合しうる 単一時点のスコアだけでは、誤ラベルを安定して判定しにくい そのため、単一時点の予測ではなく、学習過程における予測分布の変化に注目 6

問題設定 Research Question 学習中の予測分布の変化から、誤ラベルサンプルを検出できるか？ 正ラベルサンプルと誤ラベルサンプルでは、 学習の進行に伴う、モデルの予測エントロピーの変化に違いが現れるのか 予測分布の不確実性だけで、誤ラベルサンプルを十分に識別できるのか 予測ラベルと付与ラベルの一致・不一致、すなわち label-prediction の時間変化 を加えることで、検出性能は改善するのか 本論文では、この問いに対して 各サンプルについて時間変化𝑝𝜃𝑡 𝑦 ∣ 𝑥𝑖 を利用したSigned Entropy と Signed Entropy Integralを 提案する。 7

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 8

提案手法：Signed Entropy Integral, SEI 既存指標と限界：予測エントロピー モデルの予測分布 𝑝𝜃𝑡 𝑘 ∣ 𝑥 から、各epoch 𝑡における予測エントロピーを計算する。 𝐾 𝐻𝑡 𝑥𝑖 = − ෍ 𝑝𝜃𝑡 𝑘 𝑥𝑖 log 𝑝𝜃𝑡 𝑘 𝑥𝑖 𝑘=1 正しくラベル付けされたサンプルでは、学習が進むにつれて予測が特定クラスに集中する → エントロピー が低下しやすい 誤ラベルサンプルでは、画像内容と付与ラベルが矛盾する → 高い エントロピー が残りやすい 9

提案手法：Signed Entropy Integral, SEI 既存指標と限界：予測エントロピー Figure 1 の観察(比較的簡単なサンプル) 学習初期：正ラベル/ 誤ラベルサンプル のエントロピーは混在 学習が進むと： • 正ラベルサンプル：エントロピー が継続的に低下 • 誤ラベルサンプル：エントロピー が高いまま残りやすい 正ラベルサンプルでは、モデルが付与ラベルと整合する予測を学習し、予測分布が鋭くなる。 一方、誤ラベルサンプルでは、画像内容と付与ラベルの矛盾により、予測分布が安定しにくい。 比較的簡単なサンプルでは、予測エントロピー の時間変化 は、mislabeled sample detection の有望なシグナルである。 10

提案手法：Signed Entropy Integral, SEI 既存指標と限界：予測エントロピー Figure 2の観察 学習初期：正ラベル/ 誤ラベルサンプルのエントロピーは混在 学習が進むと： • 難しい正ラベルサンプル：画像が難しく、モデルが迷う→ 高エントロピー になりうる • 誤ラベルサンプル：画像内容と付与ラベルが矛盾しているのでエントロピー が高いまま残りやすい 両者のエントロピー 曲線はほぼ区別できないため、難しい正ラベル画像と誤ラベル画像を 十分に分離できない。 →予測エントロピーの限界 11

提案手法：Signed Entropy Integral, SEI 追加の手がかり：Label-Prediction Consistency a: 簡単な正ラベルサンプル b: 難しい正ラベルサンプル c: 誤ラベルサンプル →学習の進行 予測が付与ラベルと整合しているかを見る指標 付与ラベルを 𝑦、epoch 𝑡における予測ラベル 𝑦ෞ 𝑖,𝑡 = arg max 𝑝𝜃𝑡 𝑘 𝑥𝑖 𝑘 に対し、 𝑦ෞ 𝑖,𝑡 = 𝑦𝑖 ,予測ラベルと付与ラベルが一致であれば緑 𝑦ෞ 𝑖,𝑡 ≠ 𝑦𝑖 ,予測ラベルと付与ラベルが不一致であれば赤 難しい正ラベルサンプルと誤ラベルサンプルはどちらも高エントロピーになりうるが、付与ラベルと の一致・不一致の時間的パターンは異なる。 12

提案手法：Signed Entropy Integral, SEI Signed Entropy ：エントロピーにラベル整合性の符号を加える ここで本論文は、前頁で見た一致・不一致をエントロピーに符号として組み込む 通常の予測エントロピー： 𝐾 𝐻𝑡 𝑥𝑖 = − ෍ 𝑝𝜃𝑡 𝑘 𝑥𝑖 log 𝑝𝜃𝑡 𝑘 𝑥𝑖 𝑘=1 Signed Entropy： 𝑆𝐸𝑡 𝑥𝑖 , 𝑦𝑖 = 𝑠𝑖,𝑡 𝐻𝑡 𝑥𝑖 𝑠𝑖,𝑡 = +1 𝑦ෞ 𝑖,𝑡 = 𝑦𝑖 , 𝑠𝑖,𝑡 = −1 𝑦ෞ 𝑖,𝑡 ≠ 𝑦𝑖 Shannon Entropyは非負で不確実性だけを表すためlabel correctnessには盲目だが、 Signed Entropyは予測と付与ラベルが一致するかどうかに応じて符号を付けることで 不確実性の大きさ と 付与ラベルとの整合性 を同時に表すことができるようになった 13

提案手法：Signed Entropy Integral, SEI SEI：Signed Entropyを学習過程全体で累積 先ほどのSigned Entropyは各epochの局所的なスコアである。 それに各epochのSigned Entropyを学習全体で累積させる。 Signed Entropy(前述)： 𝑆𝐸𝑡 𝑥𝑖 , 𝑦𝑖 = 𝑠𝑖,𝑡 𝐻𝑡 𝑥𝑖 𝑠𝑖,𝑡 = +1 𝑦ෞ 𝑖,𝑡 = 𝑦𝑖 , 𝑠𝑖,𝑡 = −1 𝑦ෞ 𝑖,𝑡 ≠ 𝑦𝑖 Signed Entropy Integral ： 𝑇 𝑇 𝑆𝐸𝐼 𝑥𝑖 , 𝑦𝑖 = ෍ 𝑆𝐸𝑡 𝑥𝑖 , 𝑦𝑖 = ෍ 𝑠𝑖,𝑡 𝐻𝑡 𝑥𝑖 𝑡=1 𝑡=1 一致が続くサンプル → 正の寄与が蓄積 不一致が続くサンプル → 負の寄与が蓄積 SEIは各サンプルの学習過程の挙動を1つの誤ラベルらしさスコアに圧縮する。 SEIが低いほど、付与ラベルと矛盾し続けたサンプルとみなすことができる

提案手法：Signed Entropy Integral, SEI Signed Entropy curveとその符号付き面積（SEI) 容易な正ラベルサンプル： 予測と付与ラベルが一致しやすい → Signed Entropyは主に正 → SEIは大きく正 難しい正ラベルサンプル： 一時的に不一致も起こる → 正と負が混在 → SEIは中間的 誤ラベルサンプル： 付与ラベルとの不一致が持続しやすい → Signed Entropyは主に負 → SEIは大きく負 エントロピーだけでは似ていた難しい正ラベルサンプルと誤ラベルサンプルも符号付きで時間方向に 累積すると分離しやすくなる。 15

提案手法：Signed Entropy Integral, SEI Signed Entropy curveとその符号付き面積（SEI)

提案手法：Signed Entropy Integral, SEI Step1:モデルを通常どおり学習 High SEI Step2:各epochで各サンプルの予測分布を取得 𝑝𝜃𝑡 𝑘 ∣ 𝑥 Step3:予測エントロピーを計算する 𝐻𝑡 𝑥 easy clean Step4:予測ラベルと付与ラベルの一致・不一致で 符号を付ける 𝑦𝑡= ො 𝑦 → + 𝐻𝑡 𝑥 𝑦𝑡≠𝑦→ ො - 𝐻𝑡 𝑥 hard clean Step5:学習全体で Signed Entropy を累積する 𝑆𝐸𝐼(𝑥, 𝑦) = Σ𝑡 𝑆𝐸𝑡(𝑥, 𝑦) Step6:SEI が低いサンプルほど、 付与ラベルとの不一致が持続したサンプルとみなす Low SEI 誤ラベル候補 17

提案手法：Signed Entropy Integral, SEI Thresholding：適応的閾値の設定 SEIが低いほど、付与ラベルとの不一致が持続したサンプルとみなせるが、 SEIの分布はデータセットや学習条件に依存するため、固定の閾値を設定するのは難しい そこで、本論文では適応的閾値を設定 一部の学習サンプルをランダムに選び、データセットに存在しない 補助クラスへ再ラベルする それらを補助クラスサンプルとしてSEIを計算し、平均SEIを閾値として設定、 それ以下のSEIのサンプルを誤ラベル候補としてフラグ付けを行う 18

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 19

実験設定および実験結果と補足分析 実験1:Mislabeled Data Detection 目的:SEIが誤ラベルサンプルを検出できるかを確かめる 評価指標 F1 Score 主データセット ISIC 2018 DeepDRiD PANDA 皮膚病変分類, 7 categories, 10,015 train / 1,512 test 糖尿病網膜症grading 5-point scale, 1,200 train / 400 test 前立腺がん病理画像 benign + Gleason 3/4/5, パッチ単位分類 またCheXpert:胸部X線画像データセットでの補足実験あり 20

実験設定および実験結果と補足分析 実験1:Mislabeled Data Detection ノイズ設定 Table 1・2：ISIC / DeepDRiD / PANDA に人工ノイズを付与 Symmetric noise 各サンプルについて、確率 1 − 𝜌で正しいラベルを保持し、確率 𝜌で他のクラスへ一様に変更する。 𝑃 𝑦෤ = 𝑖 𝑦 = 𝑖 = 1 − 𝜌 𝜌 𝑃 𝑦෤ = 𝑗 𝑦 = 𝑖 = 𝑗≠𝑖 (ρ ∈ {0.1, 0.2, 0.3, 0.4, 0.5}) 𝐾−1 Confusion-calibrated noise より現実的な誤りを再現するため、参照用の ResNet-50 を学習し、その混同行列 𝐶を用いる。 確率 1 − 𝜌で正しいラベルを保持し、確率 𝜌で実際に混同されやすいクラスへラベルを変更する。 𝑃 𝑦෤ = 𝑖 𝑦 = 𝑖 = 1 − 𝜌 𝑀𝑖𝑗 𝑃 𝑦෤ = 𝑗 𝑦 = 𝑖 = 𝜌 𝑗≠𝑖 (ρ ∈ {0.1, 0.2, 0.3, 0.4, 0.5}) σ 𝑀 Table 3： ℓ≠𝑖 𝑖ℓ CheXpertによる実ラベルノイズ評価 ・report-derived labels = noisy label・5-radiologist majority vote = clean reference 比較手法 INCV, BMM, GMM, AUM, CORES, CL, SIMIFEAT, DeFT, ReCoV, LEMoN

実験設定および実験結果と補足分析 実験1:Mislabeled Data Detection Symmetric noiseでの誤ラベル検出 SEIは、ISIC・DeepDRiD・PANDAの3データセットすべてで、ρ=0.1〜0.5の全ノイズ率におい て最高F1を達成した。 これは、SEIの効果が特定のデータセットや低ノイズ条件に限定されず、ノイズ率が高くなっても 安定して誤ラベル候補を検出できることを示している。 既存手法はloss・confidence・特徴近傍など単一の手がかりに依存しやすいのに対し、SEIは予 測の不確実性に加えて、付与ラベルと予測ラベルの不一致が学習中に持続するかを累積的に捉え るため、誤ラベル検出に有利だったと考えられる。 22

実験設定および実験結果と補足分析 実験1:Mislabeled Data Detection Confusion-calibrated noiseでの誤ラベル検出 Confusion-calibrated noiseでも、SEIはISIC・DeepDRiD・PANDAの全ノイズ率で最高F1を達成した。 この設定では、ラベルを完全にランダムなクラスへ置き換えるのではなく、参照モデルが実際に混同 しやすいクラスへ変更する。そのため、symmetric noiseよりも現実のアノテーションミスに近く、 検出が難しい設定である。 それでもSEIが一貫して高性能を示したことから、単なるランダムノイズへの適合ではなく、画像内容 と付与ラベルの矛盾が学習中に持続するパターンを捉えられていると考えられる。 特にPANDAでは改善幅が大きく、病理画像のようにクラス間の視覚的差異が微妙なデータでも、 ラベル・予測整合性を時間方向に累積する設計が有効に働いたと解釈できる。 23

実験設定および実験結果と補足分析 実験1:Mislabeled Data Detection CheXpertでの実ラベルノイズ評価 CheXpertでは、レポート由来ラベルをノイズラベル、 5人の放射線科医による多数決ラベルを正解参照ラベルとして評価した。 人工的にラベルを壊す設定ではなく、実際の臨床データに近いラベルノイズを対象とした補足実験である。 SEIは F1 = 83.59% を達成し、AUM（80.34%）やLEMoN（79.42%）を上回った。 この結果から、SEIは人工ノイズだけに適合した手法ではなく、 実際の医療画像データに近いラベルノイズに対しても有効であることが示された。 実験1の総括： SEIは、symmetric noise、confusion-calibrated noise、CheXpertの臨床ラベルノイズのいずれでも高い誤 ラベル検出性能を示した。 したがって、SEIの有効性は単純なランダム誤ラベルに限定されず、 混同されやすいクラス間の誤ラベルや、実データ由来のラベルノイズにも一定程度汎化すると考えられる。 24

実験設定および実験結果と補足分析 補足分析 SEIの構成要素を分解して比較 SEIは全データセット・全ノイズ率で最高F1を達成 EI：符号なしのEntropy integral SE@T / SE@T/2：単一epochのSE SEI：符号付きエントロピーを全epochで累積 EIとの差は、単なるエントロピーの累積ではなく、 label-prediction consistency を符号として加えることが有効であることを示す。 SE@T / SE@T/2との差は、単一epochのスコアでは不十分であり、 学習過程全体でSigned Entropyを累積する 時間方向の累積 が重要であることを示す 25 SEIの性能向上は符号付きエントロピーと時間方向の累積の両方によって支えられていることが示された

実験設定および実験結果と補足分析 補足分析 EIとSEIのスコア分布比較 EIでは clean / noisy の分布が同じ正の領域で大きく重なり，分離が難しい。 一方，SEIでは付与ラベルと予測ラベルの不一致が続くノイズサンプルが負の側に移動し， 正ラベルサンプルとの分布の重なりが小さくなる。 26

実験設定および実験結果と補足分析 実験2：Downstream Image Classification 既存手法へのSEIの組み込み 目的： SEIをデータクリーニングモジュールとして既存のノイズラベル学習手法に組み込み、 最終的な画像分類性能が改善するかを評価する。 評価指標：F1 score 主データセット：ISIC ノイズ設定：confusion-calibrated noise(ρ = 0.1, 0.2, 0.3, 0.4, 0.5) 比較手法:既存手法単体と、SEIを組み込んだ拡張版を比較 SCE vs SCE + SEI M-correction vs M-correction + SEI DivideMix vs DivideMix + SEI ProMix vs ProMix + SEI 27

実験設定および実験結果と補足分析 実験2：Downstream Image Classification +SEIによる下流分類性能の改善 緑：既存手法 赤：既存手法 + SEI x軸：ノイズ率 ρ y軸：F1 score 左から SCE / M-correction / DivideMix / ProMix SCE・M-correction・DivideMix・ProMixのすべてにおいて、SEIを追加した赤線は、既存手法単体の緑線を 一貫して上回っている。SEIが単なる誤ラベル検出指標にとどまらず、既存のnoisy label learning手法に 組み込むことで、誤ラベルによる性能低下を緩和できることがここからわかる。 SEIは既存手法を置き換える手法ではなく、学習中に付与ラベルと矛盾し続けるサンプルを検出し、 データクリーニングによって分類性能を補強するモジュールとして機能している。

目次 1. 研究概要 2. 問題設定 3. 提案手法：Signed Entropy Integral, SEI 4. 実験設定および実験結果と補足分析 5. 限界点とまとめ 29

限界点と今後の課題・まとめ 限界点と今後の課題 単一ラベル設定に限定 本研究は，各サンプルに単一のラベルが付与されていることを前提に， そのラベルが誤っているかを検出する問題として定式化している。 専門家間で判断が分かれる曖昧ラベルや， ソフトラベル / 確率的ラベルの扱いは対象外。 閾値設定には ヒューリスティックな側面が残る SEIの閾値は，補助クラスサンプルの平均SEIを用いて 適応型として設定される。固定閾値より柔軟だが，補助クラスを用いる設計には 完全には理論化されていない部分がある。 学習過程の挙動の記録が必要 SEIは，学習過程における予測分布の変化を用いるため， 単一時点の予測や事前学習済み特徴だけでは完結しない。 各epochの予測分布を追跡する必要があり，完全なトレーニングフリー手法ではない。 30

限界点と今後の課題・まとめ まとめ・結論 課題： 通常の予測エントロピーだけでは， 難しい正ラベルサンプル と 誤ラベルサンプルを十分に分離できない。 それに対し、本論文は，エントロピーに label-prediction の時間変化 の符号を加え， 学習過程全体で累積する Signed Entropy Integral, SEI を提案した。 結果： SEIは，医療画像データセットにおける誤ラベル検出で既存手法を上回り， 補足分析では 符号項と 時間方向の累積 の有効性も確認された。 さらに，既存のノイズラベル学習手法に組み込むことで，下流の画像分類性能も改善した。 結論：SEIはSigned Entropyの時間変化を用いて誤ラベルを検出するシンプルで有効な指標であり、 標準的な学習フローに統合しやすく、医療画像データセットで高性能を示した 31

32