機械学習システムの不確実性を考慮したデータ駆動型かつシナリオベースのリスク分析

• Item type: SIG Technical Reports(1)
• 公開日: 2024-10-28
• タイトル: 機械学習システムの不確実性を考慮したデータ駆動型かつシナリオベースのリスク分析
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学／QAML株式会社
• 著者所属: 早稲田大学
• 著者所属: 武蔵大学
• 著者所属: 早稲田大学
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University / QAML, Inc.
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Musashi University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者名: 大久保, 利哉; Jati, Hiliamsyah Husen; Jomphon, Runpakprakun; 吉岡, 信和; 鵜林, 尚靖; 竹内, 広宜; 鷲崎, 弘宜
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，機械学習（ML）コンポーネントを持つセーフティクリティカルなシステムが増加している.しかし，既存の安全性解析手法は，ML システムの意思決定の不確実性を系統的に解析することをサポートしていない．そのため，これらの手法で ML システムの詳細なリスク分析を行うには時間がかかるだけでなく，不確実性を考慮したリスクの特定が困難である．本研究では，複数の ML コンポーネントを含むような複雑な ML システムのリスク評価を可能にする新しいリスク解析手法「eAI-Risk」を提案する．本手法はデータ駆動型かつシナリオベースのアプローチであり，ML システムにおける高いリスクにつながる要因を体系的に特定し，その対策を検討する枠組みを提供する．本手法の特徴は，ML システムにおけるリスクを，ML コンポーネントによる分類のパターンやシステムが決定するアクションのパターンを基に，ML システムの不確実性を考慮したリスクを特定できることである．また，それらのリスクを「重大性」と「発生可能性」の二つの観点から定量的に評価し，これらの積をリスクの値として，対処する優先度の高いリスクを特定することを支援する．本稿では，自動運転システム（ADS: Automated Driving System）に eAI-Risk を適用した結果を基に，本手法の有効性を実証する．eAI-Risk のプロセスサイクルを通じて，最適なリスク低減策を検討，適用できることが期待される．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10112981
• 書誌情報: 研究報告ソフトウェア工学（SE）; 巻 2024-SE-218, 号 4, p. 1-8, 発行日 2024-10-28
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8825
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会