@techreport{oai:ipsj.ixsq.nii.ac.jp:00234892,
 author = {山倉, 司 and 佐々木, 耀一 and 岡嶋, 穣 and Thiem, Van Chu},
 issue = {5},
 month = {Jun},
 note = {日々変化するデータに対応するため，実社会で運用する機械学習モデルは更新が必須である．しかし，モデルの更新による予測の変化は，モデルに対する信頼の低下につながる．そこで，モデルの再訓練前後で予測に一貫性を持たせる後方互換性の研究が行われている．だが，後方互換性の研究は予測の一貫性のみに焦点を当てており，説明の一貫性は考慮していないという課題を抱えている．病気の診断のように人生を左右する場面では機械学習モデルに対する信頼が重要になるため，予測だけでなく説明も必要となる．そして，再訓練前後での説明の変化はモデルの信頼低下につながる．そこで本研究は，再訓練前後でモデルに説明の一貫性を持たせることに焦点を当て，説明損失を用いて再訓練することを提案する．機械学習モデルに局所的な後付け説明を付与する代表的な手法である LIME を用いて説明を生成し，モデルの更新前後での説明の変化を説明損失とする．通常の学習に使用される予測に対する損失だけでなく，説明損失も小さくなるようにモデルの再訓練を行う．実験の結果，説明損失を用いて再訓練を行うことで，精度を維持しながら再訓練前後の説明の二乗誤差が半分未満に削減されることが示された．},
 title = {機械学習モデルの局所的説明の一貫性を考慮した再訓練法},
 year = {2024}
}