GPTsの公開秘密

• Item type: SIG Technical Reports(1)
• 公開日: 2024-03-14
• タイトル: GPTsの公開秘密
• タイトル / 言語: en
• タイトル: Open Secrets of GPTs
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ICSS(4)
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: NTT コミュニケーションズ株式会社
• 著者所属: NTT セキュリティ・ジャパン株式会社
• 著者所属: 株式会社エヌ・エフ・ラボラトリーズ／早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学／情報通信研究機構／理化学研究所 革新知能統合研究センター
• 著者所属(英): en
• 著者所属(英): NTT Communications Corporation
• 著者所属(英): en
• 著者所属(英): NTT Security (Japan) KK
• 著者所属(英): en
• 著者所属(英): N.F.Laboratories Inc / Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University / NICT / RIKEN AIP
• 著者名: 久保, 佑介; 谷, 知亮; 渡邉, 龍星; 若井, 琢朗; 利川, 悠斗; 森, 達哉
• 著者名(英): Yusuke, Kubo; Tomoaki, Tani; Ryusei, Watanabe; Takuro, Wakai; Yuto, Toshikawa; Tatsuya, Mori
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: OpenAI は 2023 年 11 月に GPTs というサービスを公開した．任意の機能を持つ ChatGPT を容易に作成できる一方で，カスタム GPT の作成に用いた内容が Prompt Leaking という攻撃手法により漏えいする問題が GPTs には存在する．本研究では，公開されているカスタム GPT を大規模に調査し，Prompt Leaking の脅威の実態を明らかにした．また，カスタム GPT を分析する過程で，Prompt Leaking 対策を回避する 3 つの汎用的な攻撃手法を発見した．本稿では，GPTs における Prompt Leaking という脅威の啓発を目的として，調査結果と発見した攻撃手法の詳細および対策について説明する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: OpenAI released a service called GPTs in November 2023. Creating GPTs with arbitrary functionalities is straightforward; however, GPTs face a vulnerability known as Prompt Leaking, where the data used in their development can be leaked through specific attack prompts. In this study, we conducted a large-scale survey of publicly available GPTs to clarify the reality of the Prompt Leaking threat. In the process of analyzing the GPTs, we also discovered three generic attack methods to evade Prompt Leaking countermeasures. In this paper, we describe the results of our survey, the details of the attack methods we discovered, and countermeasures to raise awareness of the Prompt Leaking threat in GPTs.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12628305
• 書誌情報: 研究報告セキュリティ心理学とトラスト（SPT）; 巻 2024-SPT-54, 号 33, p. 1-6, 発行日 2024-03-14
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8671
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会