大規模言語モデルによるセキュリティ対策の視覚認知メカニズムのモデル化に向けた検討

• Item type: Symposium(1)
• 公開日: 2023-10-23
• タイトル: 大規模言語モデルによるセキュリティ対策の視覚認知メカニズムのモデル化に向けた検討
• タイトル / 言語: en
• タイトル: Towards Modeling the Visual Recognition for Human Security Countermeasures Using Large-Scale Language Models
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: セキュリティ教育，視覚的認知，LLM, 大規模言語モデル，フィッシング，スミッシング，スパム
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 神戸大学大学院
• 著者所属: 神戸大学大学院
• 著者所属: 神戸大学大学院
• 著者所属: 神戸大学大学院
• 著者所属(英): en
• 著者所属(英): Graduate School of Engineering, Kobe University
• 著者所属(英): en
• 著者所属(英): Graduate School of Engineering, Kobe University
• 著者所属(英): en
• 著者所属(英): Graduate School of Engineering, Kobe University
• 著者所属(英): en
• 著者所属(英): Graduate School of Engineering, Kobe University
• 著者名: 鍛冶, 佳佑; 中野, 瑠人; 山田, 明; 小澤, 誠一
• 著者名(英): Keisuke, Kaji; Ryuto, Nakano; Akira, Yamada; Seiichi, Ozawa
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: フィッシングのようなサイバー攻撃では，ユーザ自身による対策が求められる．セキュリティ教育において，フィッシングの場合は，攻撃の特徴を記憶し，それらとWebサイトを比較することによって攻撃を判断するように教育される．しかし，日々進化するサイバー攻撃への対策として，新しい攻撃手法を学び直し続けることはユーザの大きな負担となる．本稿では，大規模言語モデル（LLM：Large Largeage Models）によるセキュリティ対策における視覚的認知メカニズムのモデル化に向けた分析方式を提案する．近年，LLMは，人間のフィードバックによるファインチューニングによって因果推論タスクが可能になってきている．しかし，LLMは，言語によって記述されていないタスクの取り扱いが難しい．そこで，提案方式は，視覚的認知の情報を言語化することによって，LLMによる視覚的認知メカニズムのモデル化を目指す．提案方式の有効性を検証するために，フィッシングサイトと正規サイトをそれぞれ110件用いて評価を行った．その結果，大規模言語モデルと視覚情報だけを用いて，適合率98.2\%，再現率83.7\%の精度でフィッシングサイトを検知できた．さらに，フィッシング対策の文書をLLMに与えて判定過程を観察することによって，人間の認知メカニズムとLLMの振る舞いの関連性を調査した．また，フィッシング判定以外の複数のセキュリティ判定タスクに対するLLMの有効性を明らかにした．今後は，ユーザを狙うさまざまなサイバー攻撃に本手法を拡大して，視覚的認知メカニズムをモデル化することによってセキュリティ対策および教育への応用を検討する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Cyber attacks such as phishing require users to take their own countermeasures. In security education, in the case of phishing, users are taught to memorize the characteristics of the attack and to judge the attack by comparing the attack with the website. However, it is a heavy burden for users to keep learning and relearning new attack methods to counter cyber attacks that are evolving day by day. In this paper, we propose an analysis method for modeling visual cognitive mechanisms in security countermeasures using large language model. Recently, large language model have become capable of performing causal inference tasks through fine tuning with human feedback. However, large language model have difficulty in handling tasks that are not described by language. Therefore, the proposed method aims at modeling visual cognition mechanisms using language model by converting visual cognition information into language. To verify the effectiveness of the proposed method, we conducted an evaluation using 110 phishing sites and legitimate sites, respectively. The results showed that the proposed method was able to detect phishing sites with an accuracy of 98.2\% and 83.7\% using only a large language model and visual information.Furthermore, we investigated the relevance to human cognitive mechanisms by qualitatively comparing the phishing decision process with a large language model given an anti-phishing document. We also clarified the effectiveness of the model in phishing attacks other than phishing sites. In the future, we will apply the model to security attacks other than phishing to realize security countermeasures and education based on cognitive mechanisms.
• 書誌情報: コンピュータセキュリティシンポジウム2023論文集; p. 1536-1543, 発行日 2023-10-23
• 出版者 / 言語: ja
• 出版者: 情報処理学会