分類モデルの出力値間の距離に基づいた退行抑制のためのディープニューラルネットワーク修正技術の検討

• Item type: SIG Technical Reports(1)
• 公開日: 2022-03-04
• タイトル: 分類モデルの出力値間の距離に基づいた退行抑制のためのディープニューラルネットワーク修正技術の検討
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: シミュレーション，デバッグ・プログラム修正，機械学習工学
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 富士通株式会社
• 著者所属: 富士通株式会社
• 著者所属: 国立情報学研究所
• 著者名: 徳井, 翔梧; 徳本, 晋; 石川, 冬樹
• 著者名(英): Shogo, Tokui; Susumu, Tokumoto; Fuyuki, Ishikawa
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ディープニューラルネットワーク（DNN）を用いたシステムの安全性を重視する要求が近年増加しており，DNN モデルの品質を改善する技術が研究されている．一部の動作を修正するためによく用いられる方法はモデルの再訓練である．しかし，再訓練は他の動作に破壊的な影響を与え，再訓練前の DNN モデルで正しく処理されたデータが再訓練後に誤判定になるデグレード（退行）を引き起こす場合がある．そこで，訓練履歴を用いて退行を抑制しつつ誤判定を修正する方法が開発されている．従来手法では，DNN モデルの訓練過程で成功判定から誤判定に変化したデータ（退行データ）を検出し，退行データにのみ影響する DNN モデルのパラメータ（重み）を特定する欠陥局所化を行い，粒子群最適化を用いて退行を防ぎつつ誤りが減少するような重みの値を探索する．しかし，DNN モデルが十分に訓練されたことで退行データが検出されない場合や，開発者が訓練履歴を管理していない場合に従来手法を適用することができない．そこで，本研究では，訓練履歴を利用せず退行を抑えるためのデータ選択方法の検討に向けて，分類モデルの出力値を用いて退行データの特徴を分析した．従来手法が退行を抑制する要因の 1 つである．実験の結果，退行データは他の失敗データと比べて決定境界の近くに分布し，成功データから遠くに分布することを発見した．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10112981
• 書誌情報: 研究報告ソフトウェア工学（SE）; 巻 2022-SE-210, 号 31, p. 1-8, 発行日 2022-03-04
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8825
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会