WEKO3
アイテム
ソフトウェア開発のためのオープンソースLLMのファインチューニング
https://ipsj.ixsq.nii.ac.jp/records/232927
https://ipsj.ixsq.nii.ac.jp/records/2329270e352b7a-9532-4759-9388-0392f10877f4
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-SE24216005.pdf (1.4 MB)
2026年2月26日からダウンロード可能です。
|
Copyright (c) 2024 by the Information Processing Society of Japan
|
|
| 非会員：¥660, IPSJ:学会員：¥330, SE:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2024-02-26 | |||||||||||||
| タイトル | ||||||||||||||
| タイトル | ソフトウェア開発のためのオープンソースLLMのファインチューニング | |||||||||||||
| 言語 | ||||||||||||||
| 言語 | jpn | |||||||||||||
| 資源タイプ | ||||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||||
| 資源タイプ | technical report | |||||||||||||
| 著者所属 | ||||||||||||||
| 愛知県立大学情報科学部 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 愛知県立大学情報科学部 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 愛知県立大学情報科学部 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 愛知県立大学情報科学部 | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| School of Information Science and Technology, Aichi Prefectural University | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| School of Information Science and Technology, Aichi Prefectural University | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| School of Information Science and Technology, Aichi Prefectural University | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| School of Information Science and Technology, Aichi Prefectural University | ||||||||||||||
| 著者名 |
伊藤, 菜摘
× 伊藤, 菜摘
× 大久保, 弘崇
× 粕谷, 英人
× 山本, 晋一郎
|
|||||||||||||
| 論文抄録 | ||||||||||||||
| 内容記述タイプ | Other | |||||||||||||
| 内容記述 | 大規模言語モデル (LLM) をソフトウェア開発に活用するために，専門知識を備えた LLM をファインチューニングで実現することが望まれている．本研究では，Cerebras-GPT をファインチューニングし，Haskell のコード生成に特化したモデルを作成する実験により，効果的なファインチューニングのためのデータセット構成手法を見出した．実験には，2 種類の方法で収集した各 200 個の Haskell のプログラミング問題とその解答からなる独自に作成したデータセットを用いた．データの形式を統一し，かつ類似した内容のデータをデータセットの中に複数個含めることで，ファインチューニングの効果がより得られた． | |||||||||||||
| 書誌レコードID | ||||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||||
| 収録物識別子 | AN10112981 | |||||||||||||
| 書誌情報 |
研究報告ソフトウェア工学（SE） 巻 2024-SE-216, 号 5, p. 1-7, 発行日 2024-02-26 |
|||||||||||||
| ISSN | ||||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||||
| 収録物識別子 | 2188-8825 | |||||||||||||
| Notice | ||||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||||
| 出版者 | ||||||||||||||
| 言語 | ja | |||||||||||||
| 出版者 | 情報処理学会 | |||||||||||||
