WEKO3
アイテム
大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討
https://ipsj.ixsq.nii.ac.jp/records/241813
https://ipsj.ixsq.nii.ac.jp/records/241813932fc4a3-85af-4bd9-a6d6-9093b452558a
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-HCI25211001.pdf (1.3 MB)
2027年1月7日からダウンロード可能です。
|
Copyright (c) 2025 by the Information Processing Society of Japan
|
|
| 非会員：¥660, IPSJ:学会員：¥330, HCI:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2025-01-07 | |||||||||||
| タイトル | ||||||||||||
| タイトル | 大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討 | |||||||||||
| 言語 | ||||||||||||
| 言語 | jpn | |||||||||||
| キーワード | ||||||||||||
| 主題Scheme | Other | |||||||||||
| 主題 | セッション1: 機械学習・大規模言語モデル | |||||||||||
| 資源タイプ | ||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||
| 資源タイプ | technical report | |||||||||||
| 著者所属 | ||||||||||||
| 工学院大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 工学院大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 工学院大学 | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Kogakuin Univaersity | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Kogakuin Univaersity | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Kogakuin Univaersity | ||||||||||||
| 著者名 |
田村, 龍哉
× 田村, 龍哉
× 相川, 佑也
× 見崎, 大悟
|
|||||||||||
| 論文抄録 | ||||||||||||
| 内容記述タイプ | Other | |||||||||||
| 内容記述 | 幅広く活用されるようになった大規模言語モデル (LLM) は，デジタルアシスタントとして情報検索や文章作成などに多くのユーザが活用できるようになった．一方で，説得力がありながら不正確な出力（ハルシネーション）を生成する可能性がある．ハルシネーションによって生成される誤った情報をユーザが信用することによる誤情報への信頼や誤用を引き起こすリスクが懸念されている．しかし，矛盾を強調表示するなどの先行研究の方法では表示される情報量が多くなり，手軽かつ自然に利用できる会話型インターフェースのメリットが損なわれてしまう．本研究では，LLM の出力文体を調整することで，ユーザの LLM への信頼を適切に管理し，慎重な意思決定を促すアプローチの提案を行った．我々は，初等教育レベルの理科の情報探索の文脈でコミュニケーションスタイルを変更した LLM の出力を提示し，参加者が質問の真偽を回答する実験を行った．行動指標と自己報告指標の両方をもちいて，無力な言語を用いたコミュニケーションスタイルの有無が参加者の信頼や行動戦略にどのような影響を与えるのかを検証した．結果として，無力な言語の有無による信頼の変化は統計的に有意ではなかった．しかし，質的分析から無力な言語が使用されると曖昧な表現のためにユーザが情報探索に求める機能との間にギャップが生まれ好ましくないと感じることが示唆され，言語やタスクに合わせた LLM のコミュニケーションスタイルの探求の重要性が浮き彫りになった． | |||||||||||
| 書誌レコードID | ||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||
| 収録物識別子 | AA1221543X | |||||||||||
| 書誌情報 |
研究報告ヒューマンコンピュータインタラクション（HCI） 巻 2025-HCI-211, 号 1, p. 1-7, 発行日 2025-01-07 |
|||||||||||
| ISSN | ||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||
| 収録物識別子 | 2188-8760 | |||||||||||
| Notice | ||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||
| 出版者 | ||||||||||||
| 言語 | ja | |||||||||||
| 出版者 | 情報処理学会 | |||||||||||
