大規模言語モデルによる対話型依存構造解析

• Item type: SIG Technical Reports(1)
• 公開日: 2025-03-01
• タイトル / 言語: ja
• タイトル: 大規模言語モデルによる対話型依存構造解析
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 大規模言語モデル
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 株式会社リクルートMegagon Labs, Tokyo
• 著者名: 松田,寛
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，構文解析分野でも大規模言語モデル(LLM)の応用が進んでいる．本論文では，事後学習により対話応答性能が強化されたLLMに対して，入力文とその依存構造解析結果の関係を指示-応答のプロンプト形式で表現した教師データでFine-tuningを行い，指示プロンプトにより依存構造解析タスクを実行する対話型依存構造解析を提案する．提案手法は，先行研究で用いられてきた括弧の対応関係による構文木表現は用いず，単語テーブル上で依存先の単語インデックスを参照する形で依存構造を表現することで，可読性を向上すると同時に，交差を含めた依存構造を表現可能にしている．提案手法の解析精度をUniversal Dependenciesの英語と日本語のデータセットで評価した結果，英語においては提案手法が従来のパイプライン型の解析手法の精度を上回り，日本語においては同程度の精度となることを確認したが，ベースモデルの学習時に評価用データセットが混入している可能性を考慮する必要がある．同時に，提案手法の出力は非巡回・シングルルートなど一般的な構文木の制約を満たさない場合がごく稀にあること，ハルシネーションにより系列が部分的に変化し入力と出力と整合しない場合があることを確認した．提案手法は一般的なLLMホスティングサービス上で容易に実現できるため，従来のパイプライン型の解析処理に比べて開発負荷を大きく減らすことが可能であり，今後の利用の広まりが期待される．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10115061
• 書誌情報: 研究報告自然言語処理（NL）; 巻 2025-NL-263, 号 17, p. 1-7, 発行日 2025-03-01
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8779
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会