2026-03-10T16:43:02Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00217317 2025-01-19T15:32:31Z 1164:1384:10896:10897

分類モデルの出力値間の距離に基づいた退行抑制のためのディープニューラルネットワーク修正技術の検討 徳井, 翔梧 徳本, 晋 石川, 冬樹 Shogo, Tokui Susumu, Tokumoto Fuyuki, Ishikawa シミュレーション，デバッグ・プログラム修正，機械学習工学 ディープニューラルネットワーク（DNN）を用いたシステムの安全性を重視する要求が近年増加しており，DNN モデルの品質を改善する技術が研究されている．一部の動作を修正するためによく用いられる方法はモデルの再訓練である．しかし，再訓練は他の動作に破壊的な影響を与え，再訓練前の DNN モデルで正しく処理されたデータが再訓練後に誤判定になるデグレード（退行）を引き起こす場合がある．そこで，訓練履歴を用いて退行を抑制しつつ誤判定を修正する方法が開発されている．従来手法では，DNN モデルの訓練過程で成功判定から誤判定に変化したデータ（退行データ）を検出し，退行データにのみ影響する DNN モデルのパラメータ（重み）を特定する欠陥局所化を行い，粒子群最適化を用いて退行を防ぎつつ誤りが減少するような重みの値を探索する．しかし，DNN モデルが十分に訓練されたことで退行データが検出されない場合や，開発者が訓練履歴を管理していない場合に従来手法を適用することができない．そこで，本研究では，訓練履歴を利用せず退行を抑えるためのデータ選択方法の検討に向けて，分類モデルの出力値を用いて退行データの特徴を分析した．従来手法が退行を抑制する要因の 1 つである．実験の結果，退行データは他の失敗データと比べて決定境界の近くに分布し，成功データから遠くに分布することを発見した． 情報処理学会 2022-03-04 jpn technical report https://ipsj.ixsq.nii.ac.jp/records/217317 2188-8825 AN10112981 研究報告ソフトウェア工学（SE） 2022-SE-210 31 1 8 https://ipsj.ixsq.nii.ac.jp/record/217317/files/IPSJ-SE22210031.pdf application/pdf 1.9 MB 2024-03-04