@techreport{oai:ipsj.ixsq.nii.ac.jp:00238507, author = {矢野, 千紘 and 山田, 康輔 and 笹野, 遼平 and 武田, 浩一}, issue = {14}, month = {Aug}, note = {動詞の意味フレーム推定において,BERT などの Transfomer に基づくエンコーダベースの事前学習済み言語モデルから獲得した文脈化単語埋め込みを用いる手法が提案されている.しかし,下流タスクでの性能向上が著しいデコーダベースの生成型言語モデルは利用されてこなかった.本研究では,大規模な生成型言語モデルからフレーム埋め込み表現を獲得し,動詞の意味フレーム推定を行う手法を提案する.提案手法では,フレーム喚起語と喚起語が含まれるテキストが与えられた場合に,その語が喚起するフレーム名を次単語として予測するような prompt を生成型言語モデルに与え,prompt の末尾の埋め込みをフレーム埋め込みとして獲得し,得られた埋め込みをクラスタリングすることで意味フレーム推定を行う.さらに,FrameNet および日本語フレームネットを用いた実験を行い,深層距離学習による fine-tuning や文脈内学習を行うことで,既存のエンコーダベースのモデルに基づく手法より高い性能を達成できることを示す.}, title = {生成型大規模言語モデルを用いた意味フレーム推定}, year = {2024} }