囲碁ニューラルネットワークの判断根拠の可視化

• Item type: Symposium(1)
• 公開日: 2018-11-05
• タイトル: 囲碁ニューラルネットワークの判断根拠の可視化
• タイトル / 言語: en
• タイトル: Visualization of Neural Network Inference in the Game of Go
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 囲碁
• キーワード / 主題Scheme: Other
• キーワード / 主題: ニューラルネットワーク
• キーワード / 主題Scheme: Other
• キーワード / 主題: 可視化
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 東京大学
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者名: 万代, 悠作; 金子, 知適
• 著者名(英): Yusaku, Mandai; Tomoyuki, Kaneko
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 情報科学の発展と計算機能力の向上により，囲碁や将棋においてもコンピュータプレイヤが人間のトッププレイヤの実力を超えた．特に囲碁においては，深層ニューラルネットワークを用いた大規模な強化学習により正確な評価関数を作成することが可能となったことがコンピュータプレイヤの棋力向上につながった．またボードゲームだけでなく，深層ニューラルネットワークを用いた意思決定は現実社会の多くの場面に広がりつつある．しかしながら現実問題の重要な意思決定を行う場合には，深層ニューラルネットワークが下した判断を人間が評価し，その妥当性を検証できる必要がある．また人間の熟練者を超えるような性能をもつ判断器について，その意思決定過程を可視化できれば人間が学習する手助けになると期待できる．本研究では画像分類器において広く適用されているSaliency Map とSmoothGrad について，囲碁の方策予測と局面価値予測に対し適用し，その出力結果の妥当性を検証した．またモンテカルロ木探索を用いた局面価値予測に対し，木探索を考慮しつつSaliency Map を計算する手法を提案し，その有用性を評価した．実験ではそれぞれの手法が予測結果に大きく影響を与える座標を検出できることを示した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Thanks to the recent increase of computational resources and improvements in the computer science, several computer players defeated human top level players in the game of Go and Shogi. Particularly, it has been proven that good evaluation functions can be created with deep neural networks for these games. Deep neural networks are widely used not only in board games but also in many areas including where decisions should be made with high reliability. In such areas it is required that decisions made by a deep neural network can be explained and interpretable. In addition to the reliability purpose, it would be useful to visualize decision process of superhuman deep neural networks for teaching beginners. In this work we investigate performance of Saliency Map and SmoothGrad in the game of Go. These two methods are for visualizing "explanations" of deep neural networks for image classification. We also show that the Saliency Map method can be extended to decisions enhanced by Monte Carlo tree search by considering the process of the search method. Experimental results showed that the two explaining methods are also effective in the game of Go and our proposed explaining method can successfully detect coordinates of the game which are particularly influential to final decisions.
• 書誌情報: ゲームプログラミングワークショップ2018論文集; 巻 2018, p. 9-15, 発行日 2018-11-09
• 出版者 / 言語: ja
• 出版者: 情報処理学会