@techreport{oai:ipsj.ixsq.nii.ac.jp:00225724,
 author = {桐淵, 直人 and 佐藤, 佑哉 and 鈴木, 亮平 and 芦澤, 奈実 and 大木, 哲史 and 峰野, 博史 and 西垣, 正勝},
 issue = {16},
 month = {May},
 note = {他者が提供する機械学習モデル（以降，AI と呼ぶ）を利用する際に，安心した AI 利用の促進に向けて，利用者が期待する AI かを検証可能にする検討を行う．その一環として，事前に取得した期待する AI の情報と利用する AI との同一性を検証する手法を提案する．提案手法は，画像を扱う AI を対象に，加工した画像に対する推論の頑健性をフィンガープリントとすることで，AI 内部のパラメータを直接参照せずに AI の特性を調べ，複数枚の画像に対する特性を集めて統計的に処理することで AI の同一性を検証する．利用者が検証したい AI に期待する事柄は状況に応じて様々であり，そのすべてに対応するフレームワークを構築することが本研究の目的である．その内，本稿では，利用者の大きな関心事として AI がどのように作成されたかという観点で，AI を作成する際の重要な要素である学習に用いたデータセットに着目する．実験を通じて，重複のない異なるデータセットで学習した AI を提案手法により識別できることを示す．また，学習における初期のランダムなパラメータなどの差異によって AI 自体が完全に同一でなくても，同じデータセットで学習すれば同一の AI だと判定できることも確認する．提案手法の応用例として，AI の作成者が主張するデータセットで学習したか否かを利用者が検証することで，作成者による虚偽の主張の発見や，特性に応じた適切な AI の利用判断に役立つことが期待される．, When using machine learning models (hereafter referred to as AI) provided by others, this study aims to make it possible to verify whether users expect AI in order to promote the use of AI with peace of mind. As part of this, we propose a method verifying the identity of the expected AI information obtained beforehand with the AI to be used. The proposed method examines the characteristics of AI by making the robustness of inference to processed images as fingerprint for AI handling images without directly referring to the internal parameters of AI. Furthermore, it verifies the identity of AI by collecting and statistically processing the characteristics against multiple images. What users want to verify about AI varies depending on the situation. This study aims to build a framework for all of them. Among them, this paper focuses on the dataset used for learning, which is an essential factor in creating AI, from the perspective of how AI was created as a primary concern of users. Through experiments, we show that the proposed method can identify learned AIs in different datasets without duplication, even if the AIs' architecture is the same. We also confirm that even if the AI is not entirely the same due to differences such as initial random parameters in learning, it can be determined to be the same by learning on the same dataset. As an application of the proposed method, verifying whether the user has learned from the dataset claimed by the AI's creator will help detect false claims by the creator and for judging the appropriate use of AI according to the characteristics.},
 title = {検証可能な機械学習モデルの利用に向けた一検討：画像加工への頑健性に基づくモデルの同一性検証手法の提案},
 year = {2023}
}