@techreport{oai:ipsj.ixsq.nii.ac.jp:00211118,
 author = {加藤, 雅大 and 浮田, 宗伯},
 issue = {18},
 month = {May},
 note = {医療や監視カメラシステム，自動運転などへのコンピュータビジョン技術の応用に向けて，モデルがなぜそのような判断をするのかといった根拠を明確にする説明可能な AI に大きな関心が寄せられている．しかし，予測モデルや生成モデルの可視化研究は CNN モデルの可視化研究に比べて未開拓である．本研究ではその未開拓な分野に先駆け，行動予測モデルの一種である動画予測モデルの判断根拠の可視化を研究する．多くの動画予測モデルでは LSTM のような再帰型ネットワークが用いられ，その可視化手法が重要である．しかし，従来の LSTM の可視化手法では，動体の予測の判断根拠なのか，背景の予測の判断根拠なのか区別して可視化できないという問題がある．本研究では，それぞれの判断根拠を区別して可視化できるようにモデル構造を変更し，動体の予測に対する判断根拠を可視化する．これより，動画予測モデルが画像のどの領域を重要視して動体予測しているか解釈する．実験では，自作したデータセットを用いて動体予測のためにモデルはどこを重要視して予測しているかを可視化した．その結果，動画予測モデルは直感通り過去の動体領域を重要視して動体の予測を行なっていることが可視化された．},
 title = {行動予測モデルの判断根拠の可視化},
 year = {2021}
}