2024-03-29T04:07:35Zhttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_oaipmhoai:ipsj.ixsq.nii.ac.jp:002178412023-04-27T10:00:04Z01164:04619:10826:10925
宝くじ仮説を用いた継続学習における破滅的忘却の抑制Lottery Ticket Hypothesis for Overcoming Forgetting on continual Learningjpn卒論スポットライトセッションhttp://id.nii.ac.jp/1001/00217733/Technical Reporthttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_action_common_download&item_id=217841&item_no=1&attribute_id=1&file_no=1Copyright (c) 2022 by the Information Processing Society of Japan現在,大阪公立大学現在,大阪公立大学現在,大阪公立大学城居, 巧岩村, 雅一黄瀬, 浩一継続学習では,識別器が複数のタスクを順に学習する.識別器にニューラルネットワークを用いる場合には,学習を重ねる度に先に学習したタスクの知識が失われる破滅的忘却が起こる.それを軽減する従来手法が提案されているが,タスクが多い場合は精度が著しく低下する.これは従来手法ではパラメータが不足するためと考えられる.本稿では,宝くじ仮説を用いることで使用するパラメータを削減する.宝くじ仮説により,従来手法の破滅的忘却を抑制する効果を維持しつつ,タスクが多い場合に精度が著しく低下する問題を改善する.50 個のタスクの継続学習の実験で,提案手法は従来手法 HAT の精度を最大 14.70% 改善することを確認した.Catastrophic forgetting occurs when a neural network loses the information learned in a previous task after training on subsequent tasks. Conventional methods have been proposed to mitigate catastrophic forgetting, but their effectiveness is significantly reduced when the number of tasks is large. In this paper, we improve this problem by using The Lottery Ticket Hypothesis. We show the proposed method improves the accuracy of the conventional method HAT by 14.70% with experiments on continuous learning of 50 tasks.AA11131797研究報告コンピュータビジョンとイメージメディア(CVIM)2022-CVIM-23028182022-05-052188-87012022-04-28