t-SNEの加速と力学系

• Item type: SIG Technical Reports(1)
• 公開日: 2024-06-13
• タイトル: t-SNEの加速と力学系
• タイトル / 言語: en
• タイトル: Dynamics of the accelerated t-SNE
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 機械学習・一般
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 総合研究大学院大学統計科学コース
• 著者所属: 統計数理研究所／理研AIP
• 著者所属(英): en
• 著者所属(英): The Graduate University for Advanced Studies
• 著者所属(英): en
• 著者所属(英): The institute of Statistical Mathematics / RIKEN AIP
• 著者名: 岩崎, 喬一; 日野, 英逸
• 著者名(英): Kyoichi, Iwasaki; Hideitsu, Hino
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 本研究では，探索的データ解析において複雑なデータセットを可視化するためのツールである t- 分布型確率的近傍埋め込み（t-SNE）の収束性を，Nesterov 加速勾配法を取り入れることで向上させる手法を提案する．t-SNE とスペクトルクラスタリングおよび力学系を結びつける先行研究に基づき，加速ダイナミクスを含むように分析を拡張する．これにより，アルゴリズムの挙動の新しい側面として Bessel 関数および修正 Bessel 関数により記述される解軌道が得られた．隣接行列の固有値に対応した理論的性質を明らかにすることに加えて，Nesterov 加速勾配法により，可視化の品質を保ちつつ，従来の勾配降下法と比較して収束性を改善することを実験的に示す．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: This study introduces an approach to enhancing the efficiency of t-Stochastic Neighbor Embedding (t-SNE), a popular tool for visualizing complex datasets in exploratory data analysis, by incorporating the Nesterov’s accelerated gradient method. Building on the foundational work that connects t-SNE with spectral clustering and dynamical systems, we extend the analysis to include accelerated dynamics, revealing the emergence of Bessel and modified Bessel functions as a novel aspect of the algorithm’s behavior. Our approach improves convergence speed compared to traditional gradient descent methods, without sacrificing the quality of the visualization. This advancement not only enhances the practical utility of t-SNE but also contributes to a deeper understanding of its underlying dynamics.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12055912
• 書誌情報: 研究報告バイオ情報学（BIO）; 巻 2024-BIO-78, 号 4, p. 1-8, 発行日 2024-06-13
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8590
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会