オンライン機械翻訳システムに対するホモグリフ攻撃の脆弱性調査

• Item type: SIG Technical Reports(1)
• 公開日: 2021-02-22
• タイトル: オンライン機械翻訳システムに対するホモグリフ攻撃の脆弱性調査
• タイトル / 言語: en
• タイトル: Research on the vulnerability of homoglyph attacks to online machine translation system
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ICSS
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 早稲田大学基幹理工学部
• 著者所属: 早稲田大学基幹理工学部／情報通信研究機構／理化学研究所革新知能統合研究センター
• 著者所属(英): en
• 著者所属(英): School of Fundamental Science and Engineering
• 著者所属(英): en
• 著者所属(英): School of Fundamental Science and Engineering / National Institute of Information and Communications Technology / RIKEN Center for Advanced Intelligence Project
• 著者名: 坂本, 岳史; 森, 達哉
• 著者名(英): Takeshi, Sakamoto; Tatsuya, Mori
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ニューラルネットワークを搭載するシステムには，正当な入力に微小な摂動を加えた悪意ある入力 (Adversarial Input) により，意図的に誤動作が引き起こされるという脆弱性が指摘されている．Adversarial Input は，元の入力との違いが人間には認知されないという特徴をもつ．本研究では，オンラインで利用可能な 8 つの機械翻訳システムに対し，悪意ある入力としてホモグリフや特殊文字を入力した際の出力を調査し，敵対的攻撃に対する脆弱性の評価を行う．調査の結果，各機械翻訳システムに特有の前処理を推定することが可能であるとわかった．本論文では， 前処理の推定結果に基づき，各システムに固有の脆弱性や対策方法について提案する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: It has been widely known that systems empowered by neural network algorithms are vulnerable against an intrinsic attack named “Adversarial Input”, which can be generated by adding small perturbations to the original inputs, aiming at fooling the systems. Adversarial Input has the characteristic that the difference from the original input is not recognized by humans. In this research, we investigate the output of eight machine translation systems that can be used online when homoglyphs and special characters are input as malicious inputs, and evaluate their vulnerability to hostile attacks. As a result of the investigation, it was found that it is possible to estimate the preprocessing to each machine translation system. In this paper, we propose vulnerabilities and countermeasures specific to each system based on the estimation results of preprocessing.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12628305
• 書誌情報: 研究報告セキュリティ心理学とトラスト（SPT）; 巻 2021-SPT-41, 号 27, p. 1-6, 発行日 2021-02-22
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8671
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会