悪性パッケージ検出を目的としたSupervisor型LLMエージェントによるPythonパッケージの自律的な段階的解析

• Item type: Symposium(1)
• 公開日: 2025-10-20
• タイトル / 言語: ja
• タイトル: 悪性パッケージ検出を目的としたSupervisor型LLMエージェントによるPythonパッケージの自律的な段階的解析
• タイトル / 言語: en
• タイトル: Autonomous Stepwise Analysis of Python Packages Using Supervisor-Worker LLM Agents for Malicious Package Detection
• 言語: jpn
• キーワード / 主題Scheme: Other
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 早稲田大／理化学研究所革新知能統合研究センター
• 著者所属: 早稲田大学
• 著者所属: 早稲田大／理化学研究所革新知能統合研究センター／情報通信研究機構
• 著者所属(英): Waseda University / RIKEN AIP
• 著者所属(英): Waseda University
• 著者所属(英): Waseda University / RIKEN AI / NICT
• 著者名: 戸田,宇亮; 若井,琢朗; 森,達哉
• 著者名(英): Takaaki Toda; Takuro Wakai; Tatsuya Mori
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: PyPI 等のパッケージレジストリでは，多段階の攻撃チェーンを持つ悪性パッケージが問題となっている．既存の自動検出手法は特定の悪性パターンを捉えることはできるものの，攻撃の全体像や最終意図といった高次のコンテキスト解明には至っていない．本稿では，この課題に対し，人間の専門家の分析を模倣した Supervisor-Worker 型 LLM マルチエージェントを提案する．本手法は，LLM の弱点を責務を分離した専門 Worker と動的な Plan-and-Execute ワークフローで構造的に補い，信頼性の高い段階的解析を実現する．300 件のパッケージを用いた評価では再現率 100%，適合率 99.3% を達成した．さらに，専門家によるユーザスタディでは，悪性パッケージ分析における実用的な品質を確認すると同時に，良性パッケージへの過剰警告の抑制や，専門家の役割に応じた別種の情報提供の必要性といった，人間とLLMベースのセキュリティ解析エージェントが協働するための課題も明らかにした．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Package registries like PyPI are increasingly threatened by malicious packages with multi-stage attack chains that existing automated methods fail to fully contextualize. To address this gap, we propose a Supervisor-Worker LLM multi-agent system that mimics human expert analysis. Our architecture ensures reliable, stepwise analysis by structurally compensating for LLM weaknesses (e.g., hallucination) through specialized Worker agents and a dynamic Plan-and-Execute workflow.; A quantitative evaluation on 300 packages demonstrated high detection performance (100% recall, 99.3% precision). Furthermore, a user study with three security experts confirmed the reports' practical quality for threat analysis. It also revealed key challenges for human-AI collaboration in security, such as the need to suppress excessive warnings for benign packages and to provide distinct types of information tailored to specific expert roles.
• 書誌情報: コンピュータセキュリティシンポジウム2025論文集; p. 9-16, 発行日 2025-10-20
• 出版者 / 言語: ja
• 出版者: 情報処理学会