2026-05-13T22:15:47Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00219032 2025-01-19T14:56:57Z 1164:1384:10896:10984

隠れニューラルネットワークを用いた敵対的画像の検出システム Detecting adversarial images in a classification system with a hidden neural network フォンタネシ, ミケレ 田渕, 晶大 ダン, タン 田原, 司睦 Michele, Fontanesi Akihiro, Tabuchi Thang, Dang Tsuguchika, Tabaru 畳み込みニューラルネットワークは，人間が見ても気づかない程度の変化を画像に与えてモデルをだます敵対的データの存在によって広範囲への適用が制限されている．この論文では，ホワイトボックス攻撃とクラスタリング技術に基づき，敵対的データを判別するシンプルなフレームワークを提案する．我々の提案は，容易に誤分類されるラベルのクラスタごとに隠れニューラルネットワークを用いることで学習済み画像分類モデルを保護する点に特徴がある． The wide broad adoption of convolutional neural networks is currently constrained by the existence of adversarial examples, carefully perturbed images, unrecognizable by human beings, but able to fool a model. In this work, we propose a simple framework, based on white box attacks and clustering techniques, to implement detection capabilities against adversarial examples. Our proposal features multiple hidden neural networks, trained on clusters of easily misclassified labels, to protect a pretrained image classification model. 情報処理学会 2022-07-21 eng technical report https://ipsj.ixsq.nii.ac.jp/records/219032 2188-8825 AN10112981 研究報告ソフトウェア工学（SE） 2022-SE-211 6 1 6 https://ipsj.ixsq.nii.ac.jp/record/219032/files/IPSJ-SE22211006.pdf application/pdf 1.4 MB