雑音畳込みニューラルネットワークとそのFPGA実装について

• Item type: SIG Technical Reports(1)
• 公開日: 2019-01-23
• タイトル: 雑音畳込みニューラルネットワークとそのFPGA実装について
• タイトル / 言語: en
• タイトル: A CNN with a Noise Addition for Efficient Implementation on an FPGA
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 回路とシステム
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京工業大学工学部情報工学科
• 著者所属: 東京工業大学工学部情報工学科
• 著者所属: 東京工業大学工学院情報通信系
• 著者所属(英): en
• 著者所属(英): Department of Computer Science, School of Engineering, Tokyo Institute of Technology,
• 著者所属(英): en
• 著者所属(英): Department of Information and Communications Engineering, School of Engineering, Tokyo Institute of Technology,
• 著者所属(英): en
• 著者所属(英): Department of Information and Communications Engineering, School of Engineering, Tokyo Institute of Technology,
• 著者名: 宗形, 敦樹; 佐藤, 真平; 中原, 啓貴
• 著者名(英): Atsuki, Munakata; Shimpei, Satou; Hiroki, Nakahara
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 画像認識の分野で広く利用されている畳込みニューラルネットワーク (CNN : Convolutional Neural Network) は重みの数や乗算数が多いという問題がある．これらを解決するため，本論文では雑音付加と point-wise (1 x 1) 畳込みを組み合わせた雑音畳込み層を用いる．既存研究の解析から，雑音畳込み層だけでは入力データは偏っているため認識精度が低下することが判明している．本論文では，k 層までを既存の畳込み層で実現し，k ＋1 層以降を雑音畳込み層で実現する Noise Convolutional Neural Network (NCNN) を提案する．これにより，大部分の畳込み層を 1 x 1 畳込み層に換えることで重みの数と乗算数を削減しつつ，雑音を加えることで認識精度劣化を抑えることができる．NCNN と既存 CNN の認識精度とパラメータ (重み) 量の比較を行った．CIFAR-100 データセットに関して，AlexNet ではパラメータを 88%，ResNet - 18 では 96.2% 削減できた一方，認識精度に関しては AlexNet では 2.2%，ResNet - 18 では 1.8% に抑えることができた．また，本論文では提案する NCNN を効率よく実行するアーキテクチャについて述べる．NCNN では k + 1 層以降は point-wise 畳込みのみ行われるため，複雑なメモリアクセスアーキテクチャは不要であり，単純かつ高速なアーキテクチャで実現可能である．提案 NCNN を Xilinx 社 ZCU102 FPGA 評価ボード上に実装した結果，クラス分類タスクに関しては Binary CNN と比較して同程度の速度を達成しつつ，認識精度が約 10% 優れていた．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: This article is a technical report without peer review, and its polished and / or extended version may be published elsewhere.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10096105
• 書誌情報: 研究報告システム・アーキテクチャ（ARC）; 巻 2019-ARC-234, 号 4, p. 1-6, 発行日 2019-01-23
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8574
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会