正則化最小二乗法を用いた多変量多項式回帰モデルに対するパラメータ推定法

• Item type: Trans(1)
• 公開日: 2024-02-28
• タイトル: 正則化最小二乗法を用いた多変量多項式回帰モデルに対するパラメータ推定法
• タイトル / 言語: en
• タイトル: An Efficient Approach to Parameter Estimation in Multivariate Polynomial Regression Models via Regularized Least Squares
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [オリジナル論文] 予測アルゴリズム，多項式回帰モデル，LASSO
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• 著者所属: 早稲田大学社会科学研究科／株式会社エクサウィザーズ
• 著者所属: 早稲田大学創造理工学研究科
• 著者所属: 早稲田大学社会科学総合学術院
• 著者所属: 早稲田大学創造理工学研究科
• 著者所属(英): en
• 著者所属(英): Graduate School of Social Sciences, Waseda University / ExaWizards Inc.
• 著者所属(英): en
• 著者所属(英): Graduate School of Creative Science and Engineering, Waseda University
• 著者所属(英): en
• 著者所属(英): Faculty of Social Sciences, Waseda University
• 著者所属(英): en
• 著者所属(英): Graduate School of Creative Science and Engineering, Waseda University
• 著者名: 井上, 一磨; 清水, 良太郎; 須子, 統太; 後藤, 正幸
• 著者名(英): Kazuma, Inoue; Ryotaro, Shimizu; Tota, Suko; Masayuki, Goto
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 多項式回帰モデルは，単純な線形回帰モデルに比べて複雑な関係を表現できるモデルであり，様々な予測問題に活用されている．また，複雑な処理を行う機械学習モデルに比べて，高い解釈性を持つという点でも有用なモデルであると考えられる．しかし，多変量の多項式回帰モデルでは，次数が大きくなると変数の数が指数的に増大するため，適切な説明変数の選択が必要である．従来，多変量多項式回帰モデルに対してスパース推定を用いて，効率的に高次の項の推定を可能にするアルゴリズムが提案されている．それらの1つであるSPORE-LASSOは，元の説明変数にLASSOを適用して一部の変数を取り出し，少数の説明変数に任意の次数の多項式展開を行って構築した多項式回帰モデルに対して，再度スパース推定を行うアルゴリズムである．その結果，すべての説明変数を考慮せず，多項式回帰モデルに対する効率的なパラメータ推定を実現している．しかし，従来のアルゴリズムは，最大次数を固定する必要がある．故に，最大次数を小さく設定すると真の構造をとらえることができなくなってしまい，大きく設定した場合には上述のように，変数の数が指数的に増加してしまうという問題を抱えている．そこで本稿では，最大次数が未知の多項式回帰モデルに対し，スパース推定を行う新たなアルゴリズムを提案し，人工データによるシミュレーション実験と実データを用いた実験によりその有効性を検証する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: We introduce a novel algorithm designed to estimate the parameters of multivariate polynomial regression models with an undefined maximum order. Polynomial regression models are crucial tools in predictive tasks. However, as the number of explanatory variables rises, so does the complexity of the polynomial terms, making accurate parameter estimation particularly challenging when dealing with higher order models. The SPORE-LASSO algorithm tackles this issue by leveraging sparse estimation for multivariate polynomial regression models, effectively approximating higher order terms. By utilizing the LASSO technique, it identifies a concise set of significant explanatory variables. This method permits sparse estimation of polynomial regression models, adeptly managing a restricted number of polynomial terms. Nonetheless, conventional algorithms mandate the specification of a maximum order. When this parameter is set too low, the model's true structure may be overlooked. Conversely, if the maximum order is set too high, an unwieldy increase in the number of variables arises. Thus, we've developed a new algorithm that mitigates these issues. We have confirmed the efficacy of this algorithm through simulation experiments employing both synthetic and real-world data.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11464803
• 書誌情報: 情報処理学会論文誌数理モデル化と応用（TOM）; 巻 17, 号 1, p. 36-46, 発行日 2024-02-28
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7780
• 出版者 / 言語: ja
• 出版者: 情報処理学会