WEKO3
アイテム
Vision TransformerにおけるContinual Learning
https://ipsj.ixsq.nii.ac.jp/records/216934
https://ipsj.ixsq.nii.ac.jp/records/21693496e04b4e-f615-424b-8e4d-68bd2467ec24
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-CVIM22229003.pdf (1.8 MB)
|
Copyright (c) 2022 by the Institute of Electronics, Information and Communication Engineers This SIG report is only available to those in membership of the SIG.
|
|
| CVIM:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2022-03-03 | |||||||||
| タイトル | ||||||||||
| タイトル | Vision TransformerにおけるContinual Learning | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | セッション1-A | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||
| 資源タイプ | technical report | |||||||||
| 著者所属 | ||||||||||
| 電気通信大学大学院情報理工学研究科情報学専攻 | ||||||||||
| 著者所属 | ||||||||||
| 電気通信大学大学院情報理工学研究科情報学専攻 | ||||||||||
| 著者名 |
武田, 麻奈
× 武田, 麻奈
× 柳井, 啓司
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | Continual Learning では，過去に学習したタスクの知識を保持しながら，新しいデータから新しいタスクを継続的に学習することを目的としている．近年，自然言語処理で使用される Transformer をコンピュータビジョンに活用した Vision Tranformer が，画像認識タスクにおいて畳み込みニューラルネットワーク（CNN）を凌ぐ高精度を示した．しかし，Vision Transformer で Continual Learning を実現した手法はほとんどない．本論文では，CNN と Vision Transformer の両方へ適用可能な Continual Learning 手法である Mask-RKR を提案する．実験では，CNN とVision Transformer の両方において，従来手法と比較して，少ないパラメータ数で高精度を達成することを示す． | |||||||||
| 書誌レコードID | ||||||||||
| 収録物識別子タイプ | NCID | |||||||||
| 収録物識別子 | AA11131797 | |||||||||
| 書誌情報 |
研究報告コンピュータビジョンとイメージメディア（CVIM） 巻 2022-CVIM-229, 号 3, p. 1-6, 発行日 2022-03-03 |
|||||||||
| ISSN | ||||||||||
| 収録物識別子タイプ | ISSN | |||||||||
| 収録物識別子 | 2188-8701 | |||||||||
| Notice | ||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||
