カーネルヒルベルト空間を用いたセミパラメトリック法とその高次元データ解析への応用

基于核希尔伯特空间的半参数方法及其在高维数据分析中的应用

• 批准号: 15700241
• 负责人: 福水 健次
• 金额: $ 1.54万
• 依托单位: The Institute of Statistical Mathematics
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Young Scientists (B)
• 财政年份: 2003
• 资助国家: 日本
• 起止时间: 2003 至 2005
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-15700241/
• 关键词: 統計的データ解析; セミパラメトリック; カーネル法; ヒルベルト空間; 次元削減; 特徴抽出; 変数選択

本研究は、正規性などの単純な分布の仮定をおかずに高次元データを統計的に解析する手法を確立することを目的としており、そのために変数間の統計的依存性をカーネルヒルベルト空間によって抽出するという、新しいアプローチを探求している。3年間の最終年度にあたる平成17年度は、以下に挙げるように、成果を論文としてまとめるとともに、今後の発展へとつながる新たな方法の基礎的検討を完了した。1.16年度に提案を行った次元削減・変数選択の手法の改良版アルゴリズムに対して、その理論的な解析を行い、統計的な収束性が保障されることを証明した。この結果は論文として投稿予定である。また、アルゴリズムを実現するソフトウエアを作成し、小修正のうえ公開予定である。2.16年度に提案を行った、ヒストグラムによって表現されるようなデータ間の類似度を測るためのカーネルに対して、理論的な考察を加え、論文誌に発表した。3.有限サンプルに基づいた作用素の推定量の収束性に関する理論的成果に基づき、変数間の依存関係を抽出する方法であるカーネル正準相関分析の統計的な収束性を証明した。この成果は国際会議での発表などで評価を得ており、論文誌に投稿予定である。4.カーネル法による特徴抽出を行うことにより、グラフなどの構造化されたデータを処理するための新しい方法に関して検討を行い、小規模な問題において良好な成果を得た。5.カーネルヒルベルト空間を用いた無限次元指数分布族の構成法を提案し、従来の構成法では不可能であった、無限次元指数分布族を用いたサンプルによる推定問題に適用可能であることを示した。この成果について、情報幾何に関する国際会議において発表を行った。

This study aims to explore the relationship between the regularity, purity, distribution and statistical analysis of high-dimensional data. 3 years of the final year, Heisei 17 years, the following year, the results of the paper, the future development of the new method of discussion completed 1.16 The annual proposal is based on the analysis and statistical analysis of the dimensional reduction and numerical selection methods. The results of this paper are set. This is the first time I've ever seen one. 2.16 The annual proposal is based on the analysis of the similarity between the two categories. 3. The theoretical results of the finite element method for estimating the correlation between the elements of the matrix and the statistical correlation of the finite element method are demonstrated. The results of the international conference will be evaluated and the papers will be submitted. 4. Feature extraction in the process of production, construction and processing of new methods, related to research, small-scale problems and good results. 5. The construction method of infinite dimensional index distribution family is proposed, and the construction method of infinite dimensional index distribution family is impossible. The results of the international conference on information geometry were presented.

项目成果

カーネル正準相関分析の一致性

核典型相关分析的一致性

• 发表时间: 2005
• 期刊: 第8回情報論的学習理論ワークショップ予稿集
• 作者: Y.Takeda;N.Nakajima;T.Kamakura;Kenji Fukumizu;Marco Cuturi;福水 健次
• 通讯作者: 福水 健次

Semigroup Kernels on Measures

• 发表时间: 2005-12
• 期刊: J. Mach. Learn. Res.
• 作者: Marco Cuturi;K. Fukumizu;Jean-Philippe Vert

特異モデルの統計学

奇异模型统计

• 发表时间: 2004
• 作者: 福水健次;栗木哲;竹内啓;赤平昌文
• 通讯作者: 赤平昌文

Infinite dimensional exponential families by reproducing kernel Hilbert spaces

通过再现核希尔伯特空间的无限维指数族

• 发表时间: 2006
• 期刊: Proceedings of the Second International Symposium on Information Geometry and its Applications
• 作者: Y.Takeda;N.Nakajima;T.Kamakura;Kenji Fukumizu
• 通讯作者: Kenji Fukumizu

Kenji Fukumizu: "Dimensionality Reduction for Supervised Learning with Reproducing Kernel Hilbert Spaces"Journal of Machine Learning Research. Vol.5. 73-99 (2004)

Kenji Fukumizu：“通过再现内核希尔伯特空间进行监督学习的降维”机器学习研究杂志。