DNNモデルへのバックドア攻撃に対する署名埋込手法の改良

• Item type: SIG Technical Reports(1)
• 公開日: 2024-03-14
• タイトル: DNNモデルへのバックドア攻撃に対する署名埋込手法の改良
• タイトル / 言語: en
• タイトル: Improved signature-embedding techniques against backdoor attacks on DNN models
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ICSS(4)
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 大阪大学工学部
• 著者所属: 大阪大学工学部
• 著者所属: 大阪大学工学部
• 著者所属(英): en
• 著者所属(英): Faculty of Engineering, Osaka University
• 著者所属(英): en
• 著者所属(英): Faculty of Engineering, Osaka University
• 著者所属(英): en
• 著者所属(英): Faculty of Engineering, Osaka University
• 著者名: 藤本, 聖; 王, イントウ; 宮地, 充子
• 著者名(英): Akira, Fujimoto; Yuntao, Wang; Atsuko, Miyaji
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，機械学習，特に深層学習は飛躍的な進歩を遂げ，交通・医療・金融など多岐にわたる分野での応用により，我々の社会に大きな影響を与えている．しかしながら，機械学習は悪意を持つ者の攻撃に非常に脆弱であることが分かっている．本論文では様々な攻撃の中でもバックドア攻撃に対する防御を取り扱う．バックドア攻撃とは攻撃者が悪意のあるデータを訓練データセットの中に加えることで，その訓練データセットを用いて学習されたモデルが，攻撃者によって入力された悪意あるデータに対して，誤った出力をしてしまうものである．この攻撃に対する防御として，モデルの作成者しか知りえないデータ (署名) を訓練データセットに加えることで，攻撃の検知を行う署名埋込方式が提案されている．本論文ではこの防御手法について問題点を示し，改善手法を提案する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: In recent years, machine learning, particularly deep learning, has made remarkable strides, and has great impact on our society across various domains such as transportation, healthcare, and finance. However, it is known that machine learning is highly vulnerable to malicious attacks. This paper focuses on the defense against backdoor attacks. A backdoor attack adds malicious data into the training dataset. The model trained on this dataset produces incorrect outputs for malicious data input by the attacker. A defense known as the signature-embedding method has been proposed. This defense involves incorporating data (signatures) that only the model creator adds into the training dataset to detect backdoor attacks. This paper highlights the problems with this defense method and proposes improvements.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12628305
• 書誌情報: 研究報告セキュリティ心理学とトラスト（SPT）; 巻 2024-SPT-54, 号 29, p. 1-8, 発行日 2024-03-14
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8671
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会