权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Statistical mechanical approach to matrix and tensor estimation

矩阵和张量估计的统计机械方法

基本信息

批准号：
22KJ1074
负责人：
岡島光希
金额：
$ 1.6万
依托单位：
The University of Tokyo
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2023
资助国家：
日本
起止时间：
2023-03-08 至 2025-03-31
项目状态：
未结题

项目摘要

本研究課題の目標はデータ構造に即したスパース性に注目した推論の統計力学的解析及びアルゴリズム開発である．特に，本年度はレプリカ法と呼ばれる，ランダムに特徴づけられた機械学習や最適化問題の理論解析に用いられる統計力学的手法の適用範囲の拡張を試みた．一般に，レプリカ法は観測数，説明変数及び真の信号の非零要素の数が全て同じレートで発散する極限において，中心極限定理を適用することで漸近的な理論予測を精密に与えることが知られている．一方，実問題にて現れるデータは観測数によらず低次元の多様体上に分布していると示唆されているように，真の信号の非零要素も観測数に依存せず極少数であると想定する方が現実に即している場合がある．これらの問題設定を既存の統計力学的解析で扱うことは困難である．本年度は，このような極スパース条件下における代表的な推定手法であるL1正則化付き線型回帰を対象として，上記の問題を念頭においた解析を試みた．具体的には，真の信号の少数の非ゼロ成分を個別にミクロな量として扱い，残りの部分についてレプリカ法を用いて平均場的扱いをすることで，L1正則化による特徴量選択の性能などを精密に予測できることがわかった．また，この解析の結果から真の信号の非零要素の位置の推定に対応する，サポート復元のための条件を導くことができた．これらの結果は人工知能及び統計学に関する国際会議 International Conference on Artificial Intelligence and Statistics (AISTATS) にて発表された．

The purpose of this study is to analyze the structure of the structure, namely, the statistical mechanics analysis and the development of the structure. In particular, this year's statistical mechanics method was used to analyze mechanical learning and optimization problems. In general, the number of non-zero elements of the signal is measured by the method of calculation, and the number of non-zero elements of the signal is explained by the central limit theorem. On the one hand, the problem is that the number of measurements in the low dimension is distributed on the multi-body, and the non-zero elements of the true signal are dependent on the number of measurements in the very few cases. The problem sets up an analysis of existing statistical mechanics. This year, the number of cases under consideration is estimated to be L1 regularized linear regression. Specifically, a small number of non-zero components of the true signal are individually measured, and residual components are partially measured using the average field method. The result of this analysis is that the position of the non-zero element of the true signal is estimated, and the condition of the complex element is derived. The results were presented at the International Conference on Artificial Intelligence and Statistics (AISTATS).