@inproceedings{oai:ipsj.ixsq.nii.ac.jp:00228820,
 author = {岩花, 一輝 and 山下, 恭祐 and 矢内, 直人 and 税所, 修 and Kazuki, Iwahana and Kyosuke, Yamashita and Naoto, Yanai and Osamu, Saisho},
 book = {コンピュータセキュリティシンポジウム2023論文集},
 month = {Oct},
 note = {機械学習サービスの中で，高い性能を持つモデルが利用されていることをサービス利用者に対して保証することは重要な課題である．この課題を解決するため，第三者に秘密情報を明かさずに保持していることを証明できるゼロ知識証明を適用することが注目されている．一方で，機械学習モデルは新しいデータに対応するために更新され続けることが一般的であり，モデルが更新された場合，従来のゼロ知識証明の手法を適用できない問題がある．本研究では，部分的な知識を証明するゼロ知識証明方式を利用することで，サービス提供者があるモデルから更新したモデルを利用していることを証明する手法を提案する．具体的には，更新前後のモデルパラメータが一定数同じであることを証明することで，部分的にパラメータが更新されたことを証明できる．代表的なニューラルネットワーク LeNet で最終層だけパラメータが異なる，すなわち 62,050 個のパラメータのうち 61,200 個のパラメータが一致していることを証明，検証する場合に，544秒 かかることを確認した．またその時の必要な証明サイズは 2,012KB であった．この処理時間において，提案手法におけるラグランジュの補完公式の計算時間が支配的であることを確認した．, It is a crucial issue to prove that the model in a machine learning service has a high performance against the model users. To address this issue, applying zero-knowledge proofs that can prove that secret information is held without revealing it to the untrusted parties has been much focused. On the other hand, it is common for machine learning models to be continually updated to accommodate new data. The previous methods cannot apply the updated model. This paper presents a new technique that a service provider proves to utilize the model updated from a certain model based on zero-knowledge proof of partial knowledge. Concretely, proving that a certain number of model parameters are the same before and after the update can indicate that the parameters have been partially updated. In a typical neural network LeNet, it takes 544 seconds to prove and verify that the service provider utilizes the model, which updates only the last layer, i.e., 850 out of 62,050 parameters are updated. The proof size is 2,012 KB. The computation time of Lagrange interpolation in the proposed method is dominant in all processing time.},
 pages = {1520--1527},
 publisher = {情報処理学会},
 title = {機械学習モデルの更新の保証に向けたゼロ知識証明の適用},
 year = {2023}
}