Statistical mechanical approach to matrix and tensor estimation
矩阵和张量估计的统计机械方法
基本信息
- 批准号:22KJ1074
- 负责人:
- 金额:$ 1.6万
- 依托单位:
- 依托单位国家:日本
- 项目类别:Grant-in-Aid for JSPS Fellows
- 财政年份:2023
- 资助国家:日本
- 起止时间:2023-03-08 至 2025-03-31
- 项目状态:未结题
- 来源:
- 关键词:
项目摘要
本研究課題の目標はデータ構造に即したスパース性に注目した推論の統計力学的解析及びアルゴリズム開発である.特に,本年度はレプリカ法と呼ばれる,ランダムに特徴づけられた機械学習や最適化問題の理論解析に用いられる統計力学的手法の適用範囲の拡張を試みた.一般に,レプリカ法は観測数,説明変数及び真の信号の非零要素の数が全て同じレートで発散する極限において,中心極限定理を適用することで漸近的な理論予測を精密に与えることが知られている.一方,実問題にて現れるデータは観測数によらず低次元の多様体上に分布していると示唆されているように,真の信号の非零要素も観測数に依存せず極少数であると想定する方が現実に即している場合がある.これらの問題設定を既存の統計力学的解析で扱うことは困難である.本年度は,このような極スパース条件下における代表的な推定手法であるL1正則化付き線型回帰を対象として,上記の問題を念頭においた解析を試みた.具体的には,真の信号の少数の非ゼロ成分を個別にミクロな量として扱い,残りの部分についてレプリカ法を用いて平均場的扱いをすることで,L1正則化による特徴量選択の性能などを精密に予測できることがわかった.また,この解析の結果から真の信号の非零要素の位置の推定に対応する,サポート復元のための条件を導くことができた.これらの結果は人工知能及び統計学に関する国際会議 International Conference on Artificial Intelligence and Statistics (AISTATS) にて発表された.
The purpose of this study is to analyze the structure of the structure, namely, the statistical mechanics analysis and the development of the structure. In particular, this year's statistical mechanics method was used to analyze mechanical learning and optimization problems. In general, the number of non-zero elements of the signal is measured by the method of calculation, and the number of non-zero elements of the signal is explained by the central limit theorem. On the one hand, the problem is that the number of measurements in the low dimension is distributed on the multi-body, and the non-zero elements of the true signal are dependent on the number of measurements in the very few cases. The problem sets up an analysis of existing statistical mechanics. This year, the number of cases under consideration is estimated to be L1 regularized linear regression. Specifically, a small number of non-zero components of the true signal are individually measured, and residual components are partially measured using the average field method. The result of this analysis is that the position of the non-zero element of the true signal is estimated, and the condition of the complex element is derived. The results were presented at the International Conference on Artificial Intelligence and Statistics (AISTATS).
项目成果
期刊论文数量(3)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Average case analysis of Lasso under ultra sparse conditions
超稀疏条件下Lasso的平均情况分析
- DOI:
- 发表时间:2023
- 期刊:
- 影响因子:0
- 作者:K. Okajima;X. Meng;T. Takahashi;Y. Kabashima
- 通讯作者:Y. Kabashima
極スパース条件におけるLassoによるサポート復元条件
支持极其稀疏条件下使用Lasso的恢复条件
- DOI:
- 发表时间:2023
- 期刊:
- 影响因子:0
- 作者:岡島光希;Xiangming Meng;髙橋昂;樺島祥介
- 通讯作者:樺島祥介
極スパース状況下におけるLasso回帰の統計力学的解析
极稀疏条件下Lasso回归的统计力学分析
- DOI:
- 发表时间:2022
- 期刊:
- 影响因子:0
- 作者:岡島光希;Xiangming Meng;髙橋昂;樺島祥介
- 通讯作者:樺島祥介
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
岡島 光希其他文献
岡島 光希的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
相似海外基金
Ultracold quantum gases in optical lattices - Structure and excitations beyond the mean-field approximation (C06)
光学晶格中的超冷量子气体 - 超出平均场近似的结构和激发(C06)
- 批准号:
201295474 - 财政年份:2011
- 资助金额:
$ 1.6万 - 项目类别:
Collaborative Research Centres
The second order mean field approximation of graphical models and its application to Bayesian inference
图模型的二阶平均场逼近及其在贝叶斯推理中的应用
- 批准号:
17500088 - 财政年份:2005
- 资助金额:
$ 1.6万 - 项目类别:
Grant-in-Aid for Scientific Research (C)
確率モデルに対する平均場近似法の情報理論的定式化
随机模型平均场近似方法的信息论表述
- 批准号:
11780287 - 财政年份:1999
- 资助金额:
$ 1.6万 - 项目类别:
Grant-in-Aid for Encouragement of Young Scientists (A)
A USE OF MEAN FIELD APPROXIMATION IN MEDIA INFORMATION PROCESSING USING MARKOV MODEL
平均场近似在马尔可夫模型媒体信息处理中的应用
- 批准号:
10650370 - 财政年份:1998
- 资助金额:
$ 1.6万 - 项目类别:
Grant-in-Aid for Scientific Research (C)
平均場近似理論を用いた大規模最適化並列分散型計算法の開発
利用平均场近似理论开发大规模优化并行分布式计算方法
- 批准号:
04750368 - 财政年份:1992
- 资助金额:
$ 1.6万 - 项目类别:
Grant-in-Aid for Encouragement of Young Scientists (A)
Non-linear cosmic structure formation in the mean-field approximation
平均场近似中的非线性宇宙结构形成
- 批准号:
528166846 - 财政年份:
- 资助金额:
$ 1.6万 - 项目类别:
Research Grants