{"created":"2025-01-19T01:46:38.682612+00:00","metadata":{"_oai":{"id":"oai:ipsj.ixsq.nii.ac.jp:00241813","sets":["1164:3027:11889:11890"]},"path":["11890"],"owner":"44499","recid":"241813","title":["大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討"],"pubdate":{"attribute_name":"公開日","attribute_value":"2025-01-07"},"_buckets":{"deposit":"0accfb6e-8fc1-47df-9f8c-730657ca92ab"},"_deposit":{"id":"241813","pid":{"type":"depid","value":"241813","revision_id":0},"owners":[44499],"status":"published","created_by":44499},"item_title":"大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討","author_link":["666337","666338","666339"],"item_titles":{"attribute_name":"タイトル","attribute_value_mlt":[{"subitem_title":"大規模言語モデルに対する過度な信頼を調整するためのコミュニケーションスタイルの検討"}]},"item_keyword":{"attribute_name":"キーワード","attribute_value_mlt":[{"subitem_subject":"セッション1: 機械学習・大規模言語モデル","subitem_subject_scheme":"Other"}]},"item_type_id":"4","publish_date":"2025-01-07","item_4_text_3":{"attribute_name":"著者所属","attribute_value_mlt":[{"subitem_text_value":"工学院大学"},{"subitem_text_value":"工学院大学"},{"subitem_text_value":"工学院大学"}]},"item_4_text_4":{"attribute_name":"著者所属(英)","attribute_value_mlt":[{"subitem_text_value":"Kogakuin Univaersity","subitem_text_language":"en"},{"subitem_text_value":"Kogakuin Univaersity","subitem_text_language":"en"},{"subitem_text_value":"Kogakuin Univaersity","subitem_text_language":"en"}]},"item_language":{"attribute_name":"言語","attribute_value_mlt":[{"subitem_language":"jpn"}]},"item_publisher":{"attribute_name":"出版者","attribute_value_mlt":[{"subitem_publisher":"情報処理学会","subitem_publisher_language":"ja"}]},"publish_status":"0","weko_shared_id":-1,"item_file_price":{"attribute_name":"Billing file","attribute_type":"file","attribute_value_mlt":[{"url":{"url":"https://ipsj.ixsq.nii.ac.jp/record/241813/files/IPSJ-HCI25211001.pdf","label":"IPSJ-HCI25211001.pdf"},"date":[{"dateType":"Available","dateValue":"2027-01-07"}],"format":"application/pdf","billing":["billing_file"],"filename":"IPSJ-HCI25211001.pdf","filesize":[{"value":"1.3 MB"}],"mimetype":"application/pdf","priceinfo":[{"tax":["include_tax"],"price":"660","billingrole":"5"},{"tax":["include_tax"],"price":"330","billingrole":"6"},{"tax":["include_tax"],"price":"0","billingrole":"33"},{"tax":["include_tax"],"price":"0","billingrole":"44"}],"accessrole":"open_date","version_id":"ca78aca3-87a3-43ce-ab9a-4aa1afcf62f6","displaytype":"detail","licensetype":"license_note","license_note":"Copyright (c) 2025 by the Information Processing Society of Japan"}]},"item_4_creator_5":{"attribute_name":"著者名","attribute_type":"creator","attribute_value_mlt":[{"creatorNames":[{"creatorName":"田村, 龍哉"}],"nameIdentifiers":[{}]},{"creatorNames":[{"creatorName":"相川, 佑也"}],"nameIdentifiers":[{}]},{"creatorNames":[{"creatorName":"見崎, 大悟"}],"nameIdentifiers":[{}]}]},"item_4_source_id_9":{"attribute_name":"書誌レコードID","attribute_value_mlt":[{"subitem_source_identifier":"AA1221543X","subitem_source_identifier_type":"NCID"}]},"item_4_textarea_12":{"attribute_name":"Notice","attribute_value_mlt":[{"subitem_textarea_value":"SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc."}]},"item_resource_type":{"attribute_name":"資源タイプ","attribute_value_mlt":[{"resourceuri":"http://purl.org/coar/resource_type/c_18gh","resourcetype":"technical report"}]},"item_4_source_id_11":{"attribute_name":"ISSN","attribute_value_mlt":[{"subitem_source_identifier":"2188-8760","subitem_source_identifier_type":"ISSN"}]},"item_4_description_7":{"attribute_name":"論文抄録","attribute_value_mlt":[{"subitem_description":"幅広く活用されるようになった大規模言語モデル (LLM) は，デジタルアシスタントとして情報検索や文章作成などに多くのユーザが活用できるようになった．一方で，説得力がありながら不正確な出力（ハルシネーション）を生成する可能性がある．ハルシネーションによって生成される誤った情報をユーザが信用することによる誤情報への信頼や誤用を引き起こすリスクが懸念されている．しかし，矛盾を強調表示するなどの先行研究の方法では表示される情報量が多くなり，手軽かつ自然に利用できる会話型インターフェースのメリットが損なわれてしまう．本研究では，LLM の出力文体を調整することで，ユーザの LLM への信頼を適切に管理し，慎重な意思決定を促すアプローチの提案を行った．我々は，初等教育レベルの理科の情報探索の文脈でコミュニケーションスタイルを変更した LLM の出力を提示し，参加者が質問の真偽を回答する実験を行った．行動指標と自己報告指標の両方をもちいて，無力な言語を用いたコミュニケーションスタイルの有無が参加者の信頼や行動戦略にどのような影響を与えるのかを検証した．結果として，無力な言語の有無による信頼の変化は統計的に有意ではなかった．しかし，質的分析から無力な言語が使用されると曖昧な表現のためにユーザが情報探索に求める機能との間にギャップが生まれ好ましくないと感じることが示唆され，言語やタスクに合わせた LLM のコミュニケーションスタイルの探求の重要性が浮き彫りになった．","subitem_description_type":"Other"}]},"item_4_biblio_info_10":{"attribute_name":"書誌情報","attribute_value_mlt":[{"bibliographicPageEnd":"7","bibliographic_titles":[{"bibliographic_title":"研究報告ヒューマンコンピュータインタラクション（HCI）"}],"bibliographicPageStart":"1","bibliographicIssueDates":{"bibliographicIssueDate":"2025-01-07","bibliographicIssueDateType":"Issued"},"bibliographicIssueNumber":"1","bibliographicVolumeNumber":"2025-HCI-211"}]},"relation_version_is_last":true,"weko_creator_id":"44499"},"id":241813,"updated":"2025-01-19T07:31:55.611651+00:00","links":{}}