CVチュートリアル
CVIMチュートリアル：自己教師あり学習による事前学習
・自己教師あり学習とは？ ・自己教師あり学習モデルの評価方法 ・対照学習 ・Masked Image Modeling ・ハイブリッド手法 ・データセットの大規模化 ・自己教師あり学習の課題
自己教師あり学習は，ラベルなしデータを用いた事前学習法である．自己教師あり学習では，データから正解ラベルを自動で作成できるプレテキストタスクにより事前学習を行い，様々な下流タスクに効果的な特徴量の抽出を目指す．これまでに様々な方法が提案されてきたが，対照学習に基づく方法が教師あり事前学習法と同程度以上の学習効果が示されて以降，対照学習の派生手法が数多く提案された．また，Vision Transformer (ViT)の台頭以降は，ViTの構造に合わせた方法としてMasked Image Modelingが提案され，現在に至るまで盛んに研究が行われている．そこで，本チュートリアルではまず自己教師あり学習の概要と代表的な評価方法について紹介し，その後に対照学習とMasked Image Modeling以降の手法に焦点を当てた解説を行う．
・自己教師あり学習とは？
・自己教師あり学習モデルの評価方法
・対照学習
・Masked Image Modeling
・ハイブリッド手法
・データセットの大規模化
・自己教師あり学習の課題