@inproceedings{oai:ipsj.ixsq.nii.ac.jp:00240741,
 author = {岩佐, 拓真 and 鶴岡, 慶雅 and Takuma, Iwasa and Yoshimasa, Tsuruoka},
 book = {ゲームプログラミングワークショップ2024論文集},
 month = {Nov},
 note = {説明可能な AI は, 機械学習モデルが入力を受けてから出力が出るまでのプロセスを人間にも理解できるようにする技術である . ゲーム AI の分野においても , ディープラーニングの問題点として, 判断の根拠を示せないことが挙げられており , このような課題を解決するために様々なアプローチが行われている . 本研究ではゲーム AI がどのような戦略に基づいて行動を決定しているのかを説明可能なシステムを実現することを目的とする . ゲーム中の行動それぞれに対して個別に説明を行う局所的な説明手法は既に存在するが, 本手法では AI の行動に対する個別の説明を統合することによって AI の行動全体の傾向を大局的に説明する手法を提案し, その有効性を検証する . 実験では離散グリッドワールド環境で学習を行った AI に提案手法を適用し, AI の行動の傾向を時間的な変化とともに説明することができた. 提案手法はゲーム中の行動全体を統合し, 時間的な変化も捉えて説明を行うことができるため, パズルゲームのような行動の前後関係が重要となる環境においてより効果的に説明を行えると考えられる . 今後はより幅広い環境に対して適用できるよう , 手法を改善していきたいと考えている ., Explainable AI is a technology that allows humans to understand the process by which a machine learning model receives input and produces output. In the field of game AI, one of the problems with deep learning is that it is unable to provide evidence for its decisions. Various approaches have been taken to solve this problem. The objective of this research is to realize a system that can explain what kind of strategy a game AI uses to decide its actions. While local explanations for each action in a game already exist, we propose a method to explain the overall rend of AI’s actions by integrating individual explanations for actions, and verify the effectiveness of the proposed method. In our experiments, we applied the proposed method to an AI trained in a discrete grid world environment, and were able to explain the trend of the AI’s actions with temporal changes. Since the proposed method integrates all the actions in the game and can explain them with temporal changes, it is considered to be more effective in environments such as puzzle games, where the pre- and post-relationships of the actions are important. In the future, we intend to improve our method so that it can be applied to a wider range of environments.},
 pages = {158--165},
 publisher = {情報処理学会},
 title = {局所的な説明を用いた説明可能なパズルゲーム AI},
 volume = {2024},
 year = {2024}
}