WEKO3
アイテム
非ラテン文字体系言語を効率的に処理するためのLLM埋め込み空間の共有
https://ipsj.ixsq.nii.ac.jp/records/2007744
https://ipsj.ixsq.nii.ac.jp/records/2007744fa7d49b1-5e5c-4dac-b93c-cd81a546909c
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-NL26267018.pdf (1.3 MB)
2028年2月28日からダウンロード可能です。
|
Copyright (c) 2026 by the Information Processing Society of Japan
|
|
| 非会員：¥660, IPSJ:学会員：¥330, NL:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2026-02-28 | |||||||||||||
| タイトル | ||||||||||||||
| 言語 | ja | |||||||||||||
| タイトル | 非ラテン文字体系言語を効率的に処理するためのLLM埋め込み空間の共有 | |||||||||||||
| タイトル | ||||||||||||||
| 言語 | en | |||||||||||||
| タイトル | Sharing LLM Embedding Spaces for Efficient Processing of Non-Latin Script Languages | |||||||||||||
| 言語 | ||||||||||||||
| 言語 | jpn | |||||||||||||
| キーワード | ||||||||||||||
| 主題Scheme | Other | |||||||||||||
| 主題 | 埋め込み・検索 | |||||||||||||
| 資源タイプ | ||||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||||
| 資源タイプ | technical report | |||||||||||||
| 著者所属 | ||||||||||||||
| 奈良先端科学技術大学院大学 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 奈良先端科学技術大学院大学／MBZUAI／理科学研究所 | ||||||||||||||
| 著者所属 | ||||||||||||||
| MBZUAI／東北大学／理科学研究所 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 奈良先端科学技術大学院大学 | ||||||||||||||
| 著者名 |
辻,航平
× 辻,航平
× 平岡,達也
× 乾,健太郎
× 渡辺,太郎
|
|||||||||||||
| 論文抄録 | ||||||||||||||
| 内容記述タイプ | Other | |||||||||||||
| 内容記述 | 現実的なLLMでは，有限の語彙であらゆる言語を表現する必要がある．そのため，英語が主のLLMでは日本語などの非ラテン文字体系言語の語彙サイズが小さくなり，処理が非効率かつ性能が上がりづらくなる．しかし，単純な語彙拡張や語彙置換には，計算負荷や性能低下などの課題がある．そこで本研究では，複数のサブワードが同じ埋め込みを使う埋め込み空間の共有を導入し，語彙サイズを広げることなく，埋め込み空間を小さくすることで，計算効率や性能低下を最低限に抑えながら従来の課題を解決する． | |||||||||||||
| 書誌レコードID | ||||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||||
| 収録物識別子 | AN10115061 | |||||||||||||
| 書誌情報 |
研究報告自然言語処理（NL） 巻 2026-NL-267, 号 18, p. 1-6, 発行日 2026-02-28 |
|||||||||||||
| ISSN | ||||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||||
| 収録物識別子 | 2188-8779 | |||||||||||||
| Notice | ||||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||||
| 出版者 | ||||||||||||||
| 言語 | ja | |||||||||||||
| 出版者 | 情報処理学会 | |||||||||||||
