E2EEメッセージングのための透明性と頑健性を備えたコンテンツモデレーション

• Item type: Symposium(1)
• 公開日: 2025-10-20
• タイトル / 言語: ja
• タイトル: E2EEメッセージングのための透明性と頑健性を備えたコンテンツモデレーション
• 言語: jpn
• キーワード / 主題Scheme: Other
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 慶應義塾大学環境情報学部
• 著者所属: 慶應義塾大学大学院 政策・メディア研究科
• 著者所属: 情報通信研究機構／慶應義塾大学大学院 政策・メディア研究科
• 著者所属: 慶應義塾大学大学院 政策・メディア研究科
• 著者所属: 慶應義塾大学大学院政策・メディア研究科
• 著者所属(英): Environment and Information Studies, Keio University
• 著者所属(英): The Graduate School of Media and Governance, Keio University
• 著者所属(英): National Institute of Information and Communications Technology / Keio University Graduate School of Media and Governance
• 著者所属(英): Keio University Graduate School of Media and Governance
• 著者所属(英): Keio University Graduate School of Media and Governance
• 著者名: 稲垣,凛太郎; 望月,理来; 赤間,滉星; 阿部,涼介; 鈴木,茂哉
• 著者名(英): Rintaro Inagaki; Riku Mochizuki; Kosei Akama; Ryosuke Abe; Shigeya Suzuki
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 本稿では，End-to-End Encryption（E2EE）を導入したメッセージングサービスにおいて，コンテンツモデレーションの透明性と頑健性を両立する手法を提案する．E2EE 環境ではサービス運営者は平文を知り得ないので，メッセージがポリシー違反かの判定が困難である．先行研究は判定基準を秘匿することで攻撃者によるモデレーションの回避を困難にしたが，恣意的な検閲等がないかユーザーが検証できない不透明さが批判された．本稿では，(i) 判定基準の完全公開とその運用の検証可能性を保証する透明性，(ii) ポリシー違反メッセージへの検知能力低下を抑える頑健性を同時に満たす手法を提案する．提案手法では，送信者は送信前に対象のメッセージ送信に対するシードを受け取り，このシードとメッセージで評価される判定関数への準拠をゼロ知識証明で示す．シードの予測不可能性により攻撃戦略を探索攻撃に限定し，レート制御により単位時間あたりの攻撃成功回数を制限する．プロトタイプ実装と評価により実現可能性を実証し，E2EE環境において透明性を犠牲にすることなく実効的なモデレーションを実現する新たなアプローチを示した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: This study proposes a content moderation scheme that achieves both transparency and robustness for End-to-End Encryption (E2EE) messaging services. In E2EE environments, service operators cannot access plaintext messages, making it difficult to detect policy-violating content. Prior researches have maintained robustness by concealing detection criteria, but this lack of transparency has been criticized as it prevents users from verifying the absence of arbitrary censorship. This study proposes a scheme that simultaneously satisfies: (i) transparency that guarantees full disclosure of detection criteria and verifiability of their operation, and (ii) robustness that suppresses degradation in the ability to handle policy-violating messages. In our proposed scheme, senders receive an unpredictable seed generated by the server for each message transmission and demonstrate compliance with the detection function determined by this seed using zero-knowledge proofs. The unpredictability of the seed limits attack strategies to brute-force searches, while rate limiting mathematically bounds the number of successful attacks per unit time. Through prototype implementation and evaluation, we demonstrate the feasibility of our scheme and present a novel scheme for achieving effective moderation in E2EE environments without sacrificing transparency.
• 書誌情報: コンピュータセキュリティシンポジウム2025論文集; p. 1635-1642, 発行日 2025-10-20
• 出版者 / 言語: ja
• 出版者: 情報処理学会