Adversarial CAPTCHA：畳込みニューラルネットワークに耐性のあるCAPTCHAの提案と評価

• Item type: Journal(1)
• 公開日: 2019-02-15
• タイトル: Adversarial CAPTCHA：畳込みニューラルネットワークに耐性のあるCAPTCHAの提案と評価
• タイトル / 言語: en
• タイトル: Adversarial CAPTCHA: Proposal and Evaluation of CAPTCHA against Convolutional Neural Network Analysis
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [一般論文（推薦論文）] セキュリティ，CAPTCHA，人工知能，深層学習，畳込みニューラルネットワーク（CNN），Adversarial examples
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• 著者所属: 東京工科大学大学院バイオ・情報メディア研究科
• 著者所属: 東京工科大学大学院バイオ・情報メディア研究科
• 著者所属: 東京工科大学大学院バイオ・情報メディア研究科
• 著者所属(英): en
• 著者所属(英): Tokyo University of Technology Graduate School
• 著者所属(英): en
• 著者所属(英): Tokyo University of Technology Graduate School
• 著者所属(英): en
• 著者所属(英): Tokyo University of Technology Graduate School
• 著者名: 阿座上, 知香; 柴田, 千尋; 宇田, 隆哉
• 著者名(英): Tomoka, Azakami; Chihiro, Shibata; Ryuya, Uda
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: Webサービスなどでよく用いられる文字列CAPTCHAは画像認識技術の発展にともなって過度な変形やノイズが必要となり，人間にも判読が困難になっている．我々はこの問題を解決したアモーダル補完を用いたCAPTCHAを考案したが，このCAPTCHAも畳込みニューラルネットワーク（Convolutional Neural Network：以下CNN）によって解読されることが判明した．そこで，我々は故意にCNNに誤分類を起こさせる敵対的サンプルと呼ばれる技術に着目し，CNNに対しても誤認識させることが可能なCAPTCHA（Adversarial CAPTCHA）を考案した．この論文では深いCNNにおいても極力少ない変分で誤分類させられるように敵対的フィルタを繰り返し適用する手法を紹介する．実験の結果，本論文で提案するCAPTCHAを用いると人間には確実かつ容易に文字を判別できる範囲で，CNNが誤分類を起こすことを確認した．また，あるモデルで作成したAdversarial CAPTCHAは，重みの異なる別のCNNに適用しても必要なフィルタの適用回数は増えるものの同様に誤分類を起こさせる．結論として，我々が提案するCAPTCHAは，アモーダル補完の演算を必要とする従来の画像認識技術およびCNNのいずれを用いても一般的なコンピュータには解読できないものとなった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Ordinary text-based CAPTCHA requires noise and distortion not to be read by computers. However, too much noise and distortion for preventing automatic recognition also decrease readability of humans. Therefore, as a solution of this problem, we proposed a new CAPTCHA which is easy to be read by humans but is difficult to be read by computers. In this CAPTCHA, characters are drawn with amodal completion in a movie. When ordinary performance computers emulate amodal completion, the character recognition is not done by the time limit since it takes much time for the emulation of amodal completion. However, this CAPTCHA has been broken by Convolutional Neural Network (CNN) since CNN can recognize characters without the emulation of amodal completion. Therefore, in this paper, we proposed an improved CAPTCHA with Adversarial samples which can intentionally make misrecognition. We call it Adversarial CAPTCHA and multi-overlaid Adversarial noises are applied to this CAPTCHA in order to make misrecognition in deep CNN which is usually used for image recognition. We evaluated Adversarial CAPTCHA in experiments and the results showed that deep CNN misclassified characters with high rate although the difference of images from originals is a little. We also found that an image of Adversarial CAPTCHA which was made from a model was effective to other models by the same network and also other models by other networks when the number of filters of the noise increased. In conclusion, our Adversarial CAPTCHA has tolerance of not only ordinary image recognition with amodal completion emulation but also CNN.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 60, 号 2, p. 680-695, 発行日 2019-02-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764