@techreport{oai:ipsj.ixsq.nii.ac.jp:00231958,
 author = {岡本, 直樹 and 菅沼, 雅徳 and 平川, 翼 and 山下, 隆義 and 藤吉, 弘亘},
 issue = {36},
 month = {Jan},
 note = {自己教師あり学習は,ラベルなしデータを用いた事前学習法である.自己教師あり学習では,データから正解ラベルを自動で作成できるプレテキストタスクにより事前学習を行い,様々な下流タスクに効果的な特徴量の抽出を目指す.これまでに様々な方法が提案されてきたが,対照学習に基づく方法が教師あり事前学習法と同程度以上の学習効果が示されて以降,対照学習の派生手法が数多く提案された.また,Vision Transformer (ViT) の台頭以降は,ViT の構造に合わせた方法として Masked Image Modeling が提案され,現在に至るまで盛んに研究が行われている.そこで,本チュートリアルではまず自己教師あり学習の概要と代表的な評価方法について紹介し,その後に対照学習と Masked Image Modeling 以降の手法に焦点を当てた解説を行う.},
 title = {自己教師あり学習による事前学習},
 year = {2024}
}