WEKO3
アイテム
画像解釈器の脆弱性検証のためのブラックボックス敵対的攻撃に関する基礎検討
https://ipsj.ixsq.nii.ac.jp/records/229885
https://ipsj.ixsq.nii.ac.jp/records/229885fdb14101-a1e4-49eb-a916-f276c7956c01
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-Z85-7P-03.pdf (2.1 MB)
|
Copyright (c) 2023 by the Information Processing Society of Japan
|
| Item type | National Convention(1) | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2023-02-16 | |||||||||||
| タイトル | ||||||||||||
| タイトル | 画像解釈器の脆弱性検証のためのブラックボックス敵対的攻撃に関する基礎検討 | |||||||||||
| 言語 | ||||||||||||
| 言語 | jpn | |||||||||||
| キーワード | ||||||||||||
| 主題Scheme | Other | |||||||||||
| 主題 | 人工知能と認知科学 | |||||||||||
| 資源タイプ | ||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_5794 | |||||||||||
| 資源タイプ | conference paper | |||||||||||
| 著者所属 | ||||||||||||
| 鹿児島大 | ||||||||||||
| 著者所属 | ||||||||||||
| 鹿児島大 | ||||||||||||
| 著者所属 | ||||||||||||
| 鹿児島大 | ||||||||||||
| 著者名 |
廣瀬, 雄大
× 廣瀬, 雄大
× 梶浦, 梨央
× 小野, 智司
|
|||||||||||
| 論文抄録 | ||||||||||||
| 内容記述タイプ | Other | |||||||||||
| 内容記述 | 近年,深層ニューラルネットワーク(Deep Neural Network: DNN)の予測根拠を示す解釈器についての研究が広く行われている.一方,DNNには画像に対して特殊な摂動を加えることで誤分類を引き起こす敵対的事例(Adversartial Examples: AE)と呼ばれる脆弱性が存在することが知られている.同様の脆弱性が解釈器にも存在することが確認されており,解釈器を安全に使用するためには脆弱性の調査が不可欠である.このため本研究では,DNNのモデルの内部構造が未知となるブラックボックス条件下において,誤った解釈結果を導出させるAEを進化計算により生成する手法を提案する.実験により提案手法は予測ラベルを変えることなく解釈器のみを誤認させるAEを生成することに成功した. | |||||||||||
| 書誌レコードID | ||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||
| 収録物識別子 | AN00349328 | |||||||||||
| 書誌情報 |
第85回全国大会講演論文集 巻 2023, 号 1, p. 169-170, 発行日 2023-02-16 |
|||||||||||
| 出版者 | ||||||||||||
| 言語 | ja | |||||||||||
| 出版者 | 情報処理学会 | |||||||||||
