顔認証における公平性評価の一検討

• Item type: Symposium(1)
• 公開日: 2021-10-19
• タイトル: 顔認証における公平性評価の一検討
• タイトル / 言語: en
• タイトル: A Study on Fairness Evaluation for Face Recognition Systems
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 顔認証，公平性，生体認証
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 静岡大学／理化学研究所革新知能統合研究センター
• 著者所属: 理化学研究所革新知能統合研究センター
• 著者所属(英): en
• 著者所属(英): Shizuoka University / RIKEN AIP
• 著者所属(英): en
• 著者所属(英): RIKEN AIP
• 著者名: 大木, 哲史; 荒井, ひろみ
• 著者名(英): Tetsushi, Ohki; Hiromi, Arai
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 顔認証技術は，特に欧米において犯罪捜査を目的とした利用が進んでいるが，一方で近年，学習データの偏りによって，有色人種や性別などのセンシティブ情報に依存して顔認証技術の精度が大きく変動することが社会問題となりつつある．本研究では，顔認証における公平性について取り上げる．例えば犯罪者リストとの照合など人生に重大な影響を与える用途において．ある特定のセンシティブ情報をもつグループが犯罪者に誤認識されやすいような状況は不公平であると言える．本研究ではこのような不公平さについて，特に表現学習に基づく汎用的な顔認証システムを取り上げ，その公平性評価方法について検討，評価を行った．MORPH データセットを用いた実験により，デモグラフィックに偏りのある学習セットにより作成された顔特徴抽出器を用いた場合に，認証精度の偏りが生じることや，偏りのあるテストセットを用いることで意図的に高い公平性評価値を算出可能である，属性ごとのしきい値を設定することで認証精度への影響を軽減できることなどが示された．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Face recognition technology is increasingly being used for criminal investigations, especially in Europe and the United States. However, it has become a social problem that the accuracy of face recognition technology varies greatly depending on sensitive information such as race and gender due to training data bias. For example, in a life-critical application such as matching with a criminal list, it is unfair that criminals easily misrecognize a group with certain sensitive information. This paper discusses and evaluates the fairness evaluation method of a general-purpose face recognition system based on representation learning. The MORPH dataset experiments showed that authentication accuracy bias occurs when using a face feature extractor created with a demographically biased training set. Furthermore, we showed that it is possible to intentionally calculate a high fairness evaluation value using a biased test set. The effect on authentication accuracy can be reduced by setting a threshold value for each attribute.
• 書誌情報: コンピュータセキュリティシンポジウム2021論文集; p. 879-886, 発行日 2021-10-19
• 出版者 / 言語: ja
• 出版者: 情報処理学会