敵対的サンプルに対する顔認証のロバスト化手法

• Item type: Symposium(1)
• 公開日: 2020-10-19
• タイトル: 敵対的サンプルに対する顔認証のロバスト化手法
• タイトル / 言語: en
• タイトル: Improving Adversarial Robustness on Face Recognition Systems
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 機械学習，顔認証，敵対的入力
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: NEC
• 著者所属: NEC
• 著者所属: NEC/現在，LINE 株式会社
• 著者所属: NEC Israel Research Center
• 著者所属: NEC
• 著者所属: Bar-Ilan University
• 著者所属(英): en
• 著者所属(英): NEC
• 著者所属(英): en
• 著者所属(英): NEC
• 著者所属(英): en
• 著者所属(英): NEC/Presently with LINE Corporation
• 著者所属(英): en
• 著者所属(英): NEC Israel Research Center
• 著者所属(英): en
• 著者所属(英): NEC
• 著者所属(英): en
• 著者所属(英): Bar-Ilan University
• 著者名: 天田, 拓磨; 柿崎, 和也; リュウ, センペイ; 古川, 潤; 荒木, 俊則; ジョセフ, ケシェット
• 著者名(英): Takuma, Amada; Kazuya, Kakizaki; Seng, Pei Liew; Jun, Furukawa; Toshinori, Araki; Keshet, Joseph
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 深層学習ベースの顔認証器を敵対的サンプルに対してロバストにする手法を提案する．<br>敵対的サンプルは，機械学習モデルが誤識別を引き起こすように作為的に作られた入力である．<br>顔認証は多くの場合，特徴量抽出器が用いられているが，同様に敵対的サンプルに対して脆弱であるため対策が必要である．<br>しかし，これまでに提案されてきた防御技術の中に特徴量抽出器向けの手法はほとんど検討されていない．<br>敵対的サンプルに対する分類器の防御手法の一つに，多様的なモデルのアンサンブルを用いる手法がある．<br>我々はその手法を直接的に特徴量抽出器に適用したところ，モデルのロバスト性を高める効果がないことが分かった．<br>そこで，我々は各クラスの特徴量を代表するベクトルを導入し，これをモデル間で共有する手法を提案する．<br>共通的な特徴量の代表ベクトルを用いることで敵対的サンプルに対するモデルのロバスト性を高めることができることを実験的に確認した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: We consider how to make deep learning-based face recognition robust against adversarial examples.<br>An adversarial example is a maliciously crafted input that machine learning models misclassify it while humans do not.<br>A large number of studies have proposed methods for protecting classifiers from adversarial examples.<br>One of the most successful methods among them is to prepare an ensemble of models and promote diversity among them.<br>We directly applied this successful method to feature extractors and found that it does not work at all, unlike to classifiers.<br>Then, we proposed a method that synchronizes the direction of features among models and promotes the diversity of features compared to the synchronized directions.<br>We experimented that our method of promoting diversity under the synchronization for feature extractors prevents adversarial examples significantly.
• 書誌情報: コンピュータセキュリティシンポジウム2020論文集; p. 129-136, 発行日 2020-10-19
• 出版者 / 言語: ja
• 出版者: 情報処理学会