| Item type |
Symposium(1) |
| 公開日 |
2024-09-10 |
| タイトル |
|
|
タイトル |
AIシステムに対するセキュリティリスク分析手法の一検討～自動運転システムを対象とした実践と評価～ |
| タイトル |
|
|
言語 |
en |
|
タイトル |
A Study for Security Risk Analysis Methodologies of AI Systems: Practical Implementation and Evaluation of Autonomous Driving Systems |
| 言語 |
|
|
言語 |
jpn |
| キーワード |
|
|
主題Scheme |
Other |
|
主題 |
安全性 |
| 資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_5794 |
|
資源タイプ |
conference paper |
| 著者所属 |
|
|
|
株式会社NTTデータグループ |
| 著者所属 |
|
|
|
株式会社日立製作所 |
| 著者所属 |
|
|
|
株式会社NTTデータ・アイ |
| 著者所属 |
|
|
|
NTTテクノクロス株式会社 |
| 著者所属 |
|
|
|
キヤノン株式会社 |
| 著者所属 |
|
|
|
NTTテクノクロス株式会社 |
| 著者所属 |
|
|
|
NTTテクノクロス株式会社／国立情報学研究所 |
| 著者所属(英) |
|
|
|
en |
|
|
NTT DATA Group Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
Hitachi, Ltd. |
| 著者所属(英) |
|
|
|
en |
|
|
NTT DATA i Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
NTT TechnoCross Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
Canon Inc. |
| 著者所属(英) |
|
|
|
en |
|
|
NTT TechnoCross Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
NTT TechnoCross Corporation / National Institute of Informatics |
| 著者名 |
清宮, 聡史
石野, 正典
伊藤, 匡哉
大澤, 亮孝
斎藤, 健太郎
定行, 裕輔
奥野, 拓也
|
| 論文抄録 |
|
|
内容記述タイプ |
Other |
|
内容記述 |
様々な分野において AI を用いたシステムの開発，提供が加速している．その一方，AI システム固有の攻撃手法が生まれており，誤った予測や判断が生じることによるシステム動作への影響がセキュリティリスクとして危惧されている．しかしながら，AI を活用したシステムを開発 ·提供する側の産業界では，AI セキュリティ対策の具体的な手法が十分に検討されておらず，現状必要な対策が実施されているとは言えない．そこで本研究では，産業界における実アプリケーションを想定した AI セキュリティ対策の実践例として，AI の 1 つである機械学習を活用した自動運転車の画像認識システムを対象に AI セキュリティ対策手法の検討を行った．AI 固有の脅威を踏まえたリスク分析と STAMP/STPA による安全性分析を実施し，画像認識システムに対する攻撃手法とその対策を洗い出しセキュリティ要件を策定した．さらに，リスク分析結果の妥当性検証を目的に，自動運転車向け画像データセットを用いた攻撃によるシステム動作への影響の定量的評価と防御手法の検討を実施した． |
| 書誌情報 |
ソフトウェアエンジニアリングシンポジウム2024論文集
巻 2024,
p. 287-295,
発行日 2024-09-10
|
| 出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |
IPSJ-SES2024043.pdf (4.2 MB)
