生成モデルに関するセキュリティとプライバシの現状

• Item type: Symposium(1)
• 公開日: 2024-10-15
• タイトル / 言語: ja
• タイトル: 生成モデルに関するセキュリティとプライバシの現状
• タイトル / 言語: en
• タイトル: Recent Situations of Security and Privacy on Generative Models
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 株式会社Byerlis
• 著者所属(英): en
• 著者所属(英): Byerlis Inc.
• 著者名: 大畑, 幸矢
• 著者名(英): Satsuya, Ohata
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: プロンプトと呼ばれる入力に応じて文書，画像，動画などを生成する機械学習モデルである生成モデル（生成AIと呼ばれることも多い）は，その利用に専門知識が不要なこともあって人々の日常生活への浸透が進んでいる．一方で，これまでの推論や意思決定のためのモデルと同様に，生成モデルに関してもそのセキュリティやプライバシに関する問題が多く報告され，この課題に取り組む研究者の数は急増している．その結果としてこの分野の進展は非常に速くなっており，研究開発に着手する前段階の現状把握すら容易でない．そのような現状を踏まえ，本稿ではセキュリティのトップ会議でここ数年の間に発表された論文を中心に調査を行い，セキュリティやプライバシ研究における利用法および現状の攻撃と防御に関する結果を示すとともに考察を行う．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Generative models (often called generative AI), which are machine learning models that generate documents, images, and videos in response to inputs called prompts, are becoming increasingly common in people's daily lives. On the other hand, as with traditional inference or decision making models, many security and privacy issues have been reported for generative models. In this paper, we show the results of our survey on recent papers presented at top conferences on security over the past few years.
• 書誌情報: コンピュータセキュリティシンポジウム2024論文集; p. 281-288, 発行日 2024-10-15
• 出版者 / 言語: ja
• 出版者: 情報処理学会