メタデータを利用したソーシャルメディア内グループのネットリスク検知

• Item type: Journal(1)
• 公開日: 2020-10-15
• タイトル: メタデータを利用したソーシャルメディア内グループのネットリスク検知
• タイトル / 言語: en
• タイトル: Detection of High Online-Risk Groups on Social Media Using Action Log
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [一般論文] ソーシャルネットワーク，ネットリスク検知，いじめ，誘い出し
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• ID登録: 10.20729/00207256
• ID登録 / ID登録タイプ: JaLC
• 著者所属: 東京大学
• 著者所属: 東京大学
• 著者所属: 東京大学／株式会社サイバーエージェント
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo / CyberAgent.inc
• 著者名: 西口, 真央; 鳥海, 不二夫; 高野, 雅典
• 著者名(英): Mao, Nishiguchi; Fujio, Toriumi; Masanori, Takano
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，オンライン空間上において，主に未成年者を対象としたいじめや誘い出しのような犯罪が起こる可能性，いわゆるネットリスクを抑制することが重要な課題となっている．従来の解決アプローチの1つとしては，主に会話コーパスを入力とした，ネットリスクの高いメッセージやユーザを自動検知する取り組みがあげられる．しかしながら，実社会では会話コーパスの利用自体が困難なケースも存在し，かつ，近年は複数人で交流可能なメディアにおけるリスクが顕著に高まっている．本研究では，会話コーパスを用いずに，メタデータのみを利用してネットリスクの高いグループを識別するモデルを構築する．実データを用いた2クラス分類モデル構築実験の結果，Macro-F1値で0.883と高い精度で高リスクグループが検出可能となった．さらにモデルを解釈することで，特定のネットワーク構造を持つユーザが所属するグループはリスクが高まる，などのいくつかの興味深い知見を得た．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Recently, it has become an important issue to reduce the risk of crimes, such as cyber-bullying and cyber-luring. One traditional approach is to build a model that automatically detects high-risk messages and users. These models mainly use a conversation corpus. However, there are cases where it is difficult to use a conversation corpus in the real world. Furthermore, it has been significantly increasing in recent years of the risk on the media that makes it possible to meet an unspecified number of people. The purpose of this study is to develop a model that estimates groups with high online-risk using only the action log. As a result of the construction experiments of the two-class classification model using actual data, we succeeded in building a relatively high performance model with Macro-F1 value of 0.883. In addition, we have obtained some interesting findings such as “Groups which users with specific network structures belong to have high crime risks.”
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 61, 号 10, p. 1639-1646, 発行日 2020-10-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764