{"metadata":{"_oai":{"id":"oai:ipsj.ixsq.nii.ac.jp:00234870","sets":["1164:5352:11553:11625"]},"path":["11625"],"owner":"44499","recid":"234870","title":["マニュアルQAタスクに特化したLLMファインチューニングのための頻出質問観点に基づくデータ拡張手法"],"pubdate":{"attribute_name":"公開日","attribute_value":"2024-06-13"},"_buckets":{"deposit":"36f8e3d5-3212-4b83-ba64-dd76d1c9c299"},"_deposit":{"id":"234870","pid":{"type":"depid","value":"234870","revision_id":0},"owners":[44499],"status":"published","created_by":44499},"item_title":"マニュアルQAタスクに特化したLLMファインチューニングのための頻出質問観点に基づくデータ拡張手法","author_link":["640826","640825"],"item_titles":{"attribute_name":"タイトル","attribute_value_mlt":[{"subitem_title":"マニュアルQAタスクに特化したLLMファインチューニングのための頻出質問観点に基づくデータ拡張手法"}]},"item_keyword":{"attribute_name":"キーワード","attribute_value_mlt":[{"subitem_subject":"数理モデル化と問題解決1","subitem_subject_scheme":"Other"}]},"item_type_id":"4","publish_date":"2024-06-13","item_4_text_3":{"attribute_name":"著者所属","attribute_value_mlt":[{"subitem_text_value":"株式会社NTTデータグループ技術革新統括本部システム技術本部／株式会社NTTデータ関西第一公共事業部"},{"subitem_text_value":"株式会社NTTデータグループ技術革新統括本部システム技術本部"}]},"item_language":{"attribute_name":"言語","attribute_value_mlt":[{"subitem_language":"jpn"}]},"item_publisher":{"attribute_name":"出版者","attribute_value_mlt":[{"subitem_publisher":"情報処理学会","subitem_publisher_language":"ja"}]},"publish_status":"0","weko_shared_id":-1,"item_file_price":{"attribute_name":"Billing file","attribute_type":"file","attribute_value_mlt":[{"url":{"url":"https://ipsj.ixsq.nii.ac.jp/record/234870/files/IPSJ-BIO24078043.pdf","label":"IPSJ-BIO24078043.pdf"},"date":[{"dateType":"Available","dateValue":"2026-06-13"}],"format":"application/pdf","billing":["billing_file"],"filename":"IPSJ-BIO24078043.pdf","filesize":[{"value":"1.1 MB"}],"mimetype":"application/pdf","priceinfo":[{"tax":["include_tax"],"price":"660","billingrole":"5"},{"tax":["include_tax"],"price":"330","billingrole":"6"},{"tax":["include_tax"],"price":"0","billingrole":"41"},{"tax":["include_tax"],"price":"0","billingrole":"44"}],"accessrole":"open_date","version_id":"24663b9e-823b-4f09-98bd-28b2b7f353ba","displaytype":"detail","licensetype":"license_note","license_note":"Copyright (c) 2024 by the Information Processing Society of Japan"}]},"item_4_creator_5":{"attribute_name":"著者名","attribute_type":"creator","attribute_value_mlt":[{"creatorNames":[{"creatorName":"森田, 将司"}],"nameIdentifiers":[{}]},{"creatorNames":[{"creatorName":"湯浅, 晃"}],"nameIdentifiers":[{}]}]},"item_4_source_id_9":{"attribute_name":"書誌レコードID","attribute_value_mlt":[{"subitem_source_identifier":"AA12055912","subitem_source_identifier_type":"NCID"}]},"item_4_textarea_12":{"attribute_name":"Notice","attribute_value_mlt":[{"subitem_textarea_value":"SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc."}]},"item_resource_type":{"attribute_name":"資源タイプ","attribute_value_mlt":[{"resourceuri":"http://purl.org/coar/resource_type/c_18gh","resourcetype":"technical report"}]},"item_4_source_id_11":{"attribute_name":"ISSN","attribute_value_mlt":[{"subitem_source_identifier":"2188-8590","subitem_source_identifier_type":"ISSN"}]},"item_4_description_7":{"attribute_name":"論文抄録","attribute_value_mlt":[{"subitem_description":"GPT-4 等の巨大パラメータをもつ大規模言語モデル（LLM）にはエネルギー消費や特定ドメインへの適用の課題があり，そのため小規模パラメータモデルの研究が盛んになされている．大規模モデルと同等の性能を実現するためには学習データの量や質の課題があり，解決策として大規模モデルを用いて学習データを生成するアプローチが効果的であることが知られている．本稿では，自動車オーナーズマニュアルに基づき，コンテキストをもとに回答する closedQA タスク向けの効果的なデータ拡張手法を提案する．提案手法は頻出質問と質問カテゴリのペアをランダムサンプリングしたものとコンテキストとなるマニュアルを GPT-4 にプロンプトとして与えることで学習データを拡張生成する．実験の結果，本手法によって生成された学習データを用いてファインチューニングした小規模 LLM の性能が GPT-4 と同等となることが確認された．また，本手法により従来手法である Few-shot 法を上回る性能が得られることを確認した．提案手法によって，特定ドメインの QA タスクにおける小規模 LLM のさらなる応用が期待される．","subitem_description_type":"Other"}]},"item_4_biblio_info_10":{"attribute_name":"書誌情報","attribute_value_mlt":[{"bibliographicPageEnd":"2","bibliographic_titles":[{"bibliographic_title":"研究報告バイオ情報学（BIO）"}],"bibliographicPageStart":"1","bibliographicIssueDates":{"bibliographicIssueDate":"2024-06-13","bibliographicIssueDateType":"Issued"},"bibliographicIssueNumber":"43","bibliographicVolumeNumber":"2024-BIO-78"}]},"relation_version_is_last":true,"weko_creator_id":"44499"},"id":234870,"updated":"2025-01-19T09:41:12.564959+00:00","links":{},"created":"2025-01-19T01:36:44.399034+00:00"}