WEKO3
アイテム
機械学習モデルの局所的説明の一貫性を考慮した再訓練法
https://ipsj.ixsq.nii.ac.jp/records/234832
https://ipsj.ixsq.nii.ac.jp/records/2348323a698f47-c017-4964-b076-497fc6338a49
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-BIO24078005.pdf (2.4 MB)
|
Copyright (c) 2024 by the Institute of Electronics, Information and Communication Engineers This SIG report is only available to those in membership of the SIG.
|
|
| BIO:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2024-06-13 | |||||||||||||
| タイトル | ||||||||||||||
| タイトル | 機械学習モデルの局所的説明の一貫性を考慮した再訓練法 | |||||||||||||
| 言語 | ||||||||||||||
| 言語 | jpn | |||||||||||||
| キーワード | ||||||||||||||
| 主題Scheme | Other | |||||||||||||
| 主題 | 情報論的学習理論と機械学習2 | |||||||||||||
| 資源タイプ | ||||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||||
| 資源タイプ | technical report | |||||||||||||
| 著者所属 | ||||||||||||||
| 東京工業大学AIコンピューティング研究ユニット | ||||||||||||||
| 著者所属 | ||||||||||||||
| 日本電気株式会社 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 日本電気株式会社 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 東京工業大学AIコンピューティング研究ユニット | ||||||||||||||
| 著者名 |
山倉, 司
× 山倉, 司
× 佐々木, 耀一
× 岡嶋, 穣
× Thiem, Van Chu
|
|||||||||||||
| 論文抄録 | ||||||||||||||
| 内容記述タイプ | Other | |||||||||||||
| 内容記述 | 日々変化するデータに対応するため，実社会で運用する機械学習モデルは更新が必須である．しかし，モデルの更新による予測の変化は，モデルに対する信頼の低下につながる．そこで，モデルの再訓練前後で予測に一貫性を持たせる後方互換性の研究が行われている．だが，後方互換性の研究は予測の一貫性のみに焦点を当てており，説明の一貫性は考慮していないという課題を抱えている．病気の診断のように人生を左右する場面では機械学習モデルに対する信頼が重要になるため，予測だけでなく説明も必要となる．そして，再訓練前後での説明の変化はモデルの信頼低下につながる．そこで本研究は，再訓練前後でモデルに説明の一貫性を持たせることに焦点を当て，説明損失を用いて再訓練することを提案する．機械学習モデルに局所的な後付け説明を付与する代表的な手法である LIME を用いて説明を生成し，モデルの更新前後での説明の変化を説明損失とする．通常の学習に使用される予測に対する損失だけでなく，説明損失も小さくなるようにモデルの再訓練を行う．実験の結果，説明損失を用いて再訓練を行うことで，精度を維持しながら再訓練前後の説明の二乗誤差が半分未満に削減されることが示された． | |||||||||||||
| 書誌レコードID | ||||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||||
| 収録物識別子 | AA12055912 | |||||||||||||
| 書誌情報 |
研究報告バイオ情報学（BIO） 巻 2024-BIO-78, 号 5, p. 1-7, 発行日 2024-06-13 |
|||||||||||||
| ISSN | ||||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||||
| 収録物識別子 | 2188-8590 | |||||||||||||
| Notice | ||||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||||
| 出版者 | ||||||||||||||
| 言語 | ja | |||||||||||||
| 出版者 | 情報処理学会 | |||||||||||||
