ベイズ最適化を用いたデータ・クエリ効率の良いBlack-box Universal Adversarial Attacks

• Item type: Journal(1)
• 公開日: 2022-12-15
• タイトル: ベイズ最適化を用いたデータ・クエリ効率の良いBlack-box Universal Adversarial Attacks
• タイトル / 言語: en
• タイトル: Data and Query Efficient Black-box Universal Adversarial Attacks with Bayesian Optimization
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [特集:持続可能な社会のIT基盤に向けた情報セキュリティとトラスト（特選論文）] black-box universal adversarial attacks，ベイズ最適化，AIセキュリティ
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• ID登録: 10.20729/00222730
• ID登録 / ID登録タイプ: JaLC
• 著者所属: 茨城大学／現在，株式会社アイヴィス
• 著者所属: 茨城大学
• 著者所属(英): en
• 著者所属(英): Ibaraki University / Presently with IVIS inc.
• 著者所属(英): en
• 著者所属(英): Ibaraki University
• 著者名: 由比藤, 真; 米山, 一樹
• 著者名(英): Makoto, Yuito; Kazuki, Yoneyama
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: Adversarial AttacksはDeep Neural Network（DNN）における最大の脆弱性の1つである．最近では，Universal Adversarial Perturbation（UAP）と呼ばれる，任意の画像に加えることでAdversarial Examples（AE）を生成することができる単一の摂動を計算するUniversal Adversarial Attacks（UAA）が研究されている．いくつかの既存研究は，クエリアクセスのみを用いるBlack-box環境下でUAPを生成できることを示しているが，その多くは攻撃者にとって現実的ではないセッティングを含んでいる．本稿では，より現実的なセッティングに基づくBlack-box UAAを考え，効率良くUAPを生成するためのベイズ最適化を用いたBlack-box UAA手法を提案する．ImageNetでの実験において，提案手法は少ないデータ量・クエリ回数にもかかわらず，既存手法と同等の攻撃成功率（最高81%）を達成する．また，より多くのAEを生成することを目的とした場合に，提案手法が最先端のAdversarial Attacks手法のクエリ効率を上回ることを示す．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Adversarial attacks are one of the largest vulnerability of deep neural networks. Recently, universal adversarial attacks have also been studied. In the field of universal adversarial attacks, the attacker aims to compute a single perturbation, called universal adversarial perturbation (UAP), which can be added to any input image to produce an adversarial example. Several existing studies have shown that UAPs can be generated in a black-box setting, but most of them involve unrealistic settings for an attacker such as requiring huge amount of training data. We consider a more realistic setting and propose a black-box universal adversarial attack method using bayesian optimization to generate UAPs efficiently. In our experiments on ImageNet dataset, our method achieves the comparable attack success rate (up to 81%) as existing methods, despite the small amount of training data and number of queries. Moreover, we show that our method outperforms the state-of-the-art black-box adversarial attack method in terms of query efficiency when we aim to generate many adversarial examples.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 63, 号 12, p. 1776-1785, 発行日 2022-12-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764
• 公開者 / 言語: ja
• 公開者 / 出版者: 情報処理学会