インフルエンスオペレーションにおける情報の発信・拡散及び影響のモデル化

• Item type: Symposium(1)
• 公開日: 2024-11-14
• タイトル: インフルエンスオペレーションにおける情報の発信・拡散及び影響のモデル化
• タイトル / 言語: en
• タイトル: Modeling of Information Dissemination, Diffusion and Impact in Influence Operations
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: インフルエンスオペレーション,認知バイアス,認知的不協和,Fault Tree Analysis
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 日本大学大学院 生産工学研究科
• 著者所属: 日本大学大学院 生産工学研究科
• 著者所属: 日本大学理工学部
• 著者所属: 日本大学大学院 生産工学研究科
• 著者所属(英): en
• 著者所属(英): Nihon University, Graduate School of Industrial Technology
• 著者所属(英): en
• 著者所属(英): Nihon University, Graduate School of Industrial Technology
• 著者所属(英): en
• 著者所属(英): Nihon University, College of Science and Technology
• 著者所属(英): en
• 著者所属(英): Nihon University, Graduate School of Industrial Technology
• 著者名: 関口, 和巳; 岡田, 万実; 粟飯原, 萌; 古市, 昌一
• 著者名(英): Kazumi, Sekiguchi; Mami, Okada; Megumi, Aibbara; Masakazu, Furuichi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ソーシャルメディアで発信・拡散される情報は,読み手の興味や信念等にマッチした情報がフィルターバブルを通して到達し，エコーチェンバーによって到達量が増幅される．信念は読み手の行動規範として機能するが，情報の影響で更新される場合がある．この性質を個人や集団，国家の意思決定への影響を目的として利用するのがインフルエンス・オペレーション (以後 IO と呼ぶ) であり，詐欺や SNS マーケティング等で用いられる各手法とも共通点が多い．IO では，誤情報と偽情報に加えて，真実ではあるが害を与える目的で発信する害意情報が用いられる．これらが混在する中で読み手が IO に対処するには高い情報リテラシー能力が必要だが，攻撃者側は最新技術と手法を利用するため，教科書等の教材だけで学ぶのは困難で，高いメタ認知能力が求められる．IO に関する従来の研究は，過去の事例分析とモデリング&シミュレーション (M&S) による再現が主流のため，今後予想される攻撃への対処能力向上法の検討に必要な IO の体系化とモデル化が不十分であるという問題がある．そこで，本研究はこの問題点解消を目標とし，まず，過去の IO と詐欺事例で利用された認知バイアスの特徴から共通項を整理した．続いて，システムの故障分析で用いられる Fault Tree Analysis (FTA) を用いて，読み手が信念を更新する事象をシステムの故障と捉えてモデル化した．更に，サイバーセキュリティにおける攻撃のモデル化で利用される Attack Tree Analysis (ATA) を用いて，攻撃者側をモデル化した.最後に，バイアス等と提案モデルの各要素を関連させ，IO の体系化とモデル化手法を提案し，その有効性を評価するため，2016 年の米国大統領選挙における他国の介入事案への適用を試みた．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: This paper describes how information spread through social networking services (SNS) reaches readers via filter bubbles and echo chambers, reinforcing pre-existing beliefs and amplifying its impact. These beliefs can be influenced by new information, which is exploited by influence operations (IO) and deception tactics. Cognitive dissonance theory suggests that emotionally charged information has a stronger impact on people than facts, a phenomenon known as post-truth, where personal beliefs outweigh facts. Combating these tactics requires advanced meta-cognitive skills, as attackers use sophisticated methods. The study addresses these challenges by analyzing cognitive biases in past IO and fraud cases, using Fault Tree Analysis (FTA) to model belief changes as system failures, and Attack Tree Analysis (ATA) to model how attackers intentionally cause these failures. The study links these models to psychological biases to create a systematic understanding of IO. The method is tested on online fraud strategies and the 2016 U.S. presidential election which is one of the typical IO.
• 書誌情報: ワークショップ2024 （CN Workshop 2024) 論文集; 巻 2024, p. 1-11, 発行日 2024-11-14
• 出版者 / 言語: ja
• 出版者: 情報処理学会