AIの判定に対する初期の受容態度がアルゴリズミック・リコースにおけるユーザ認識に及ぼす影響

• Item type: Journal(1)
• 公開日: 2026-02-15
• タイトル / 言語: ja
• タイトル: AIの判定に対する初期の受容態度がアルゴリズミック・リコースにおけるユーザ認識に及ぼす影響
• タイトル / 言語: en
• タイトル: The Impact of Initial Acceptance Attitudes Toward AI Decisions on User Perceptions in Algorithmic Recourse
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [特集：インタラクションの理解および基盤・応用技術（推薦論文，特選論文）] アルゴリズミック・リコース，反実仮想説明，XAI，一般化加法モデル
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• ID登録: 10.20729/0002007009
• ID登録 / ID登録タイプ: JaLC
• 著者所属: NTT株式会社人間情報研究所
• 著者所属: NTT株式会社コミュニケーション科学基礎研究所／現在，京都大学大学院情報学研究科
• 著者所属: NTT株式会社人間情報研究所
• 著者所属(英): en
• 著者所属(英): Human Informatics Laboratories, NTT, Inc.
• 著者所属(英): en
• 著者所属(英): Communication Science Laboratories, NTT, Inc. / Presently with Graduation School of Informatics, Kyoto University
• 著者所属(英): en
• 著者所属(英): Human Informatics Laboratories, NTT, Inc.
• 著者名: 冨永,登夢; 山下,直美; 倉島,健
• 著者名(英): Tomu Tominaga; Naomi Yamashita; Takeshi Kurashima
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: アルゴリズミック・リコースはAIから不利な判定を下された個人に対して判定理由の理解と将来行動の促進を目的に反実仮想的な提案を示す．既存研究の多くは合理的で実行可能なリコースの生成に注力してきたが，AIから判定を下された時点で（リコースが提供される前に）被意思決定者がその判定結果を受け入れているか否かは考慮されてこなかった．そこで我々は，判定結果に対する最初の受容態度がその後に提供されるリコースに対する認識を左右し，最終的な受容態度に影響を与えるのではないか，という仮説を検証すべく，自動車ローン審査を題材とするシナリオベースのユーザ実験（N=534）を行った．統計解析の結果，最初の受容態度が否定的な被験者はリコースの合理性と実行可能性を低いと感じ，最終的にAIの判定結果に対して否定的な態度を示すことが分かった．一方で，リコースが審査基準を説明するもしくは現実的な範囲で実行できる計画を示すと認識されると，被験者の受容態度は否定的から肯定的に変化することが定性分析から確認された．これらをふまえて，望まない判定結果を下された個人に納得感をもたらすリコース生成システムに関する将来研究の目指すべき方向性や課題について論じた．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Algorithmic recourse provides counterfactual suggestions to help individuals understand unfavorable AI decisions and encourage future actions. While existing research has focused on generating reasonable and actionable recourses, it has not considered how decision subjects' initial acceptance of the AI decision (before any recourse is provided) affects their perception of recourse. In this study, we hypothesized that initial acceptance influences subsequent perceptions of recourse and final acceptance. A user experiment (N=534) on automobile loan screening revealed that participants with a negative initial acceptance perceived the recourse as less reasonable and actionable, leading to a more negative final attitude toward the AI decision. Conversely, when recourse is perceived as explaining the evaluation criteria or offering a realistic action plan, attitudes shifted from negative to positive. These findings highlight future challenges and directions for developing recourse systems that provide individuals with understanding when faced with unfavorable decisions.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 67, 号 2, p. 341-355, 発行日 2026-02-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764
• 公開者 / 言語: ja
• 公開者 / 出版者: 情報処理学会