2026-03-16T05:35:00Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00241813 2025-01-19T07:31:55Z 1164:3027:11889:11890

大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討 田村, 龍哉 相川, 佑也 見崎, 大悟 セッション1: 機械学習・大規模言語モデル 幅広く活用されるようになった大規模言語モデル (LLM) は，デジタルアシスタントとして情報検索や文章作成などに多くのユーザが活用できるようになった．一方で，説得力がありながら不正確な出力（ハルシネーション）を生成する可能性がある．ハルシネーションによって生成される誤った情報をユーザが信用することによる誤情報への信頼や誤用を引き起こすリスクが懸念されている．しかし，矛盾を強調表示するなどの先行研究の方法では表示される情報量が多くなり，手軽かつ自然に利用できる会話型インターフェースのメリットが損なわれてしまう．本研究では，LLM の出力文体を調整することで，ユーザの LLM への信頼を適切に管理し，慎重な意思決定を促すアプローチの提案を行った．我々は，初等教育レベルの理科の情報探索の文脈でコミュニケーションスタイルを変更した LLM の出力を提示し，参加者が質問の真偽を回答する実験を行った．行動指標と自己報告指標の両方をもちいて，無力な言語を用いたコミュニケーションスタイルの有無が参加者の信頼や行動戦略にどのような影響を与えるのかを検証した．結果として，無力な言語の有無による信頼の変化は統計的に有意ではなかった．しかし，質的分析から無力な言語が使用されると曖昧な表現のためにユーザが情報探索に求める機能との間にギャップが生まれ好ましくないと感じることが示唆され，言語やタスクに合わせた LLM のコミュニケーションスタイルの探求の重要性が浮き彫りになった． technical report 情報処理学会 2025-01-07 application/pdf 研究報告ヒューマンコンピュータインタラクション（HCI） 1 2025-HCI-211 1 7 2188-8760 AA1221543X https://ipsj.ixsq.nii.ac.jp/record/241813/files/IPSJ-HCI25211001.pdf jpn