WEKO3
アイテム
敵対的学習による記号的知識蒸留のフィルタ構築とその評価
https://ipsj.ixsq.nii.ac.jp/records/241584
https://ipsj.ixsq.nii.ac.jp/records/241584710e248c-97b4-457b-84a7-57bad20b7edf
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
|
2026年12月5日からダウンロード可能です。
|
Copyright (c) 2024 by the Information Processing Society of Japan
|
|
| 非会員:¥660, IPSJ:学会員:¥330, NL:会員:¥0, DLIB:会員:¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2024-12-05 | |||||||||||||
| タイトル | ||||||||||||||
| タイトル | 敵対的学習による記号的知識蒸留のフィルタ構築とその評価 | |||||||||||||
| 言語 | ||||||||||||||
| 言語 | jpn | |||||||||||||
| キーワード | ||||||||||||||
| 主題Scheme | Other | |||||||||||||
| 主題 | ポスターセッション | |||||||||||||
| 資源タイプ | ||||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||||
| 資源タイプ | technical report | |||||||||||||
| 著者所属 | ||||||||||||||
| 奈良先端科学技術大学院大学/理化学研究所Guardian Robot Project | ||||||||||||||
| 著者所属 | ||||||||||||||
| 理化学研究所Guardian Robot Project/奈良先端科学技術大学院大学 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 理化学研究所Guardian Robot Project | ||||||||||||||
| 著者所属 | ||||||||||||||
| 東京科学大学情報理工学院/理化学研究所Guardian Robot Project/奈良先端科学技術大学院大学 | ||||||||||||||
| 著者名 |
日浦, 隆博
× 日浦, 隆博
× 河野, 誠也
× Angel, Garcia Contreras
× 吉野, 幸一郎
|
|||||||||||||
| 論文抄録 | ||||||||||||||
| 内容記述タイプ | Other | |||||||||||||
| 内容記述 | 大規模言語モデル(LLM)は多くの自然言語処理タスクで顕著な性能を実現しているが,知識推論のようなタスクにおいては依然として出力する知識の精度に課題が残っている.これに対して,古典的な知識グラフと LLM の双方を活用して,知識間の関係性を明示的に学習させるアプローチが注目されている.特に記号的知識蒸留は,LLM から出力されたサンプリング結果を知識グラフとして転移しつつ知識推論モデルの学習に使用する手法で,知識グラフの大規模化が期待できる.しかし LLM の出力には意味的・文法的に誤った出力が一定の割合で含まれるため,それらを除去するフィルタが必要となる.本研究では,フィルタリング(選択)を行うモデルと,選択されたデータを評価するモデルを敵対的に学習することで,知識グラフに存在する正例のみから LLM の出力をフィルタし知識グラフを大規模化する枠組みを提案する.本研究では実際に敵対的学習によりフィルタを獲得し,既存の教師あり学習に基づくフィルタとの比較評価および分析を行った. | |||||||||||||
| 書誌レコードID | ||||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||||
| 収録物識別子 | AN10115061 | |||||||||||||
| 書誌情報 |
研究報告自然言語処理(NL) 巻 2024-NL-262, 号 9, p. 1-9, 発行日 2024-12-05 |
|||||||||||||
| ISSN | ||||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||||
| 収録物識別子 | 2188-8779 | |||||||||||||
| Notice | ||||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||||
| 出版者 | ||||||||||||||
| 言語 | ja | |||||||||||||
| 出版者 | 情報処理学会 | |||||||||||||