WEKO3
アイテム
半教師付き学習における一貫性損失減衰の影響解析
https://ipsj.ixsq.nii.ac.jp/records/215042
https://ipsj.ixsq.nii.ac.jp/records/215042b39ed299-9aee-4304-8d66-c53827ba2f60
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
|
|
Copyright (c) 2021 by the Information Processing Society of Japan
|
| Item type | National Convention(1) | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2021-03-04 | |||||||||||
| タイトル | ||||||||||||
| タイトル | 半教師付き学習における一貫性損失減衰の影響解析 | |||||||||||
| 言語 | ||||||||||||
| 言語 | jpn | |||||||||||
| キーワード | ||||||||||||
| 主題Scheme | Other | |||||||||||
| 主題 | 人工知能と認知科学 | |||||||||||
| 資源タイプ | ||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_5794 | |||||||||||
| 資源タイプ | conference paper | |||||||||||
| 著者所属 | ||||||||||||
| 早大 | ||||||||||||
| 著者所属 | ||||||||||||
| 筑波大 | ||||||||||||
| 著者所属 | ||||||||||||
| モントリオール大 | ||||||||||||
| 著者名 |
楢木, 悠士
× 楢木, 悠士
× 本川, 哲哉
× 長沼, 大樹
|
|||||||||||
| 論文抄録 | ||||||||||||
| 内容記述タイプ | Other | |||||||||||
| 内容記述 | 半教師付き学習では、教師ラベルなしのデータを学習データとして用いるため、入力に二つの異なる摂動を与え、出力を比較する一貫性損失を用いることで高い汎化性能を達成している。分類問題において最小化を行う代理損失は、一貫性損失を分類損失に加算する形で定式化される。一般的に分類損失は学習終盤において序盤から大きく減少するが、一貫性損失は終盤においても比較的高い値を保つ。本研究では汎化能力と相関のある指標として損失関数のヘッセ行列の固有値に着目し、一貫性損失を減衰させた場合のモデルの汎化能力への影響を調査した。 | |||||||||||
| 書誌レコードID | ||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||
| 収録物識別子 | AN00349328 | |||||||||||
| 書誌情報 |
第83回全国大会講演論文集 巻 2021, 号 1, p. 485-486, 発行日 2021-03-04 |
|||||||||||
| 出版者 | ||||||||||||
| 言語 | ja | |||||||||||
| 出版者 | 情報処理学会 | |||||||||||