2024-03-28T18:22:19Zhttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_oaipmhoai:ipsj.ixsq.nii.ac.jp:002060922023-04-27T10:00:04Z01164:01384:10151:10264
敵対的なセマンティック・ノイズの実行時検知Detecting Adversarial Semantic Noises at Runtimejpnhttp://id.nii.ac.jp/1001/00205996/Technical Reporthttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_action_common_download&item_id=206092&item_no=1&attribute_id=1&file_no=1Copyright (c) 2020 by the Information Processing Society of Japan国立情報学研究所中島, 震機械学習ソフトウェアは敵対データが入力されると素朴な期待に反する振舞いを示す.不具合の一種と考えられ,防御や検知法の研究が精力的に進められているが,一般的な解決策は未だ見出されていない.本稿は,選択的に敵対的なセマンティック・ノイズに対して汎化性能が劣るように訓練した学習モデルを用いて,予測齟齬に基づく敵対データ検知の方法を提案する.劣った汎化性能に注目することの基本的な見方を整理し実験の結果を報告する.Machine learning software exhibits undesirable behavior when input data are adversarial examples. Although lots of methods have been proposed and studies, no general solution for adversarial defenses or detections is discovered. This paper proposes a new adversarial detection method, with the prediction inconsistency approach, to employ machine learning models so trained as to show poor generalization performance selectively for adversarial semantic noises. The discussion includes the rationale of the approach and some results of the experiments.AN10112981研究報告ソフトウェア工学(SE)2020-SE-2051182020-06-252188-88252020-06-22