2026-05-19T14:02:28Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00186117 2025-01-20T02:42:14Z 1164:4402:9418:9419

複数のニューラルネットワークの隠れ層出力に対する等価性構造抽出 Extracting Equivalence Structures from the Activations of Hidden Layers in Multiple Neural Networks 高橋, 良暢 佐藤, 聖也 栗原, 聡 山川, 宏 Yoshinobu, Takahashi Seiya, Satoh Satoshi, Kurihara Hiroshi, Yamakawa セッション4 近年，計算機の計算能力が飛躍的に向上したことに加えて，Deep Learning の有用性が広く認知されてきたことにより，ニューラルネットワークの産業応用が医療，製造業，エンターテインメントなど様々な分野で大きく進展している．しかし，ニューラルネットワークが出力を導き出すまでの過程がブラックボックスとなっていることから，その内部表現の理解，即ち隠れ層の表現を人間が理解することは重要である．そこで我々は異なるデータセットで学習を行った二つのニューラルネットワークの隠れ層出力に対して，時系列データマイニングの一つである等価性構造抽出技術を用いた実験を行った．等価性構造抽出技術は，属性が特定されない多数の系列が与えられたときに，それらの系列の ID で構成される組 （タプル） を系列間の関係とみなし，その系列の組同士について等価な関係を発見する技術である．本論文では，二つの多層パーセプトロン (MLP) にそれぞれ異なりつつも，差分が明確な動画像を学習させ，その後，二つの MLP 間でその隠れユニットの出力ベクトルの時系列を比較して，等価性構造を抽出する実験を，データセットの種類に応じて二通りの実験を行った．これにより，MLP の隠れユニットが特定の属性に反応しているかどうかを確認し，その上で適切な前処理を行えば，等価性構造が取得できることを示した．また，各 MLP が個別に学習するデータセットの関係によって，等価性構造の抽出がどのような意味を持つかを検討する． technical report 情報処理学会 2018-02-23 application/pdf 研究報告知能システム（ICS） 3 2018-ICS-190 1 7 2188-885X AA11135936 https://ipsj.ixsq.nii.ac.jp/record/186117/files/IPSJ-ICS18190003.pdf jpn