@inproceedings{oai:ipsj.ixsq.nii.ac.jp:00214434,
 author = {芝原, 俊樹 and 三浦, 尭之 and 紀伊, 真昇 and 市川, 敦謙 and Toshiki, Shibahara and Takayuki, Miura and Masanobu, Kii and Atsunori, Ichikawa},
 book = {コンピュータセキュリティシンポジウム2021論文集},
 month = {Oct},
 note = {ベイジアンニューラルネットワーク（NN）は，予測値の不確実性も出力できるため，deep neural network (DNN) の誤識別が深刻な影響を及ぼすタスクで注目されている．特に，Monte Calro (MC) dropout を用いると，NN の構造を変えずに予測時の使い方を変えるだけで，決定的な NN をベイジアン NN として使うことができる．このとき，ベイジアン NN では，より多くの情報を出力するため，教師データの情報が漏洩するリスクも高まる可能性があるが，詳細な調査は行われていない．そこで，本稿では，DNN を決定的な NN として使用した場合と， MC dropout を適用してベイジアン NN として使用した場合で，プライバシーリスクがどの程度異なるかを評価する．プライバシーリスクの評価は，ベイジアン NN の利用シーンを想定して定義した攻撃モデルに従い，ベイジアン NN の出力に基づいてリスクを評価する提案手法を用いて行った．CIFAR-10 と CNN を使用した実験で，ベイジアン NN は決定的な NN よりプライバシーリスクが高いこと，ベイジアン NN の出力を量子化することで有用性を維持しつつプライバシーリスクを低減できる可能性が高いことを示した．, Bayesian neural networks (NNs) that output uncertainties of predictions have attracted attention in a critical situation. Especially, Monte Calro (MC) dropout enables us to use deterministic NNs as Bayesian NNs without changing NN architectures. Since Bayesian NNs output more information than deterministic NNs, Bayesian NNs potentially have higher privacy risks. However, whether applying MC dropout increases privacy risks of deep NNs (DNNs) or not has not been studied. Therefore, we compare privacy risks of deterministic NNs to those of Bayesian NNs. For the comparison, we define an attack model against Bayesian NNs and design a method for evaluating privacy risks of Bayesian NNs. Our experiments using CIFAR-10 and CNN show that Bayesian NNs have higher privacy risks than deterministic NNs and that privacy risks can be decreased without degrading the utility by quantizing outputs of Bayesian NNs.},
 pages = {245--252},
 publisher = {情報処理学会},
 title = {差分プライベートなベイジアンニューラルネットワークのプライバシーリスク},
 year = {2021}
}