@techreport{oai:ipsj.ixsq.nii.ac.jp:00240420,
 author = {大久保, 利哉 and Jati, Hiliamsyah Husen and Jomphon, Runpakprakun and 吉岡, 信和 and 鵜林, 尚靖 and 竹内, 広宜 and 鷲崎, 弘宜},
 issue = {4},
 month = {Oct},
 note = {近年，機械学習（ML）コンポーネントを持つセーフティクリティカルなシステムが増加している.しかし，既存の安全性解析手法は，ML システムの意思決定の不確実性を系統的に解析することをサポートしていない．そのため，これらの手法で ML システムの詳細なリスク分析を行うには時間がかかるだけでなく，不確実性を考慮したリスクの特定が困難である．本研究では，複数の ML コンポーネントを含むような複雑な ML システムのリスク評価を可能にする新しいリスク解析手法「eAI-Risk」を提案する．本手法はデータ駆動型かつシナリオベースのアプローチであり，ML システムにおける高いリスクにつながる要因を体系的に特定し，その対策を検討する枠組みを提供する．本手法の特徴は，ML システムにおけるリスクを，ML コンポーネントによる分類のパターンやシステムが決定するアクションのパターンを基に，ML システムの不確実性を考慮したリスクを特定できることである．また，それらのリスクを「重大性」と「発生可能性」の二つの観点から定量的に評価し，これらの積をリスクの値として，対処する優先度の高いリスクを特定することを支援する．本稿では，自動運転システム（ADS: Automated Driving System）に eAI-Risk を適用した結果を基に，本手法の有効性を実証する．eAI-Risk のプロセスサイクルを通じて，最適なリスク低減策を検討，適用できることが期待される．},
 title = {機械学習システムの不確実性を考慮したデータ駆動型かつシナリオベースのリスク分析},
 year = {2024}
}