A universal system for constructive data preprocessing

用于建设性数据预处理的通用系统

• 批准号: 21K11778
• 负责人: 安田 宗樹
• 金额: $ 2.66万
• 依托单位: Yamagata University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (C)
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K11778/
• 关键词: データ前処理; 確率モデル; 統計的機械学習; スパースモデリング; データ要素重要度分析; 統計的深層学習; ベイズ統計; 近似アルゴリズム; 特徴量抽出; ボルツマンマシン

本研究計画は、確率モデルを基礎として汎用的に利用できる積極的前処理器の確立を目指す。簡単で効果的なデータ前処理器の実現が本研究の最終的な目標点である。本年度は、主に以下のような研究成果を得た。（１）スパース性の自動学習機能をもつ制限ボルツマンマシン型モデルの提案：データ中のスパース性の抽出はスパースモデリングの文脈で発展してきている。しかしながら、通常のスパースモデリングにおいて、データのスパース度を決定するパラメータ（より具体的には正則化係数）は調節可能なものではないハイパパラメータである。本提案モデルは、スパース度を決定するパラメータの自動調節を可能とした。つまり、自動適応型スパースモデリングである。そして、提案モデルはパターン認識実験において成功している。本提案モデルのデータ前処理器への応用は今後の課題であるが、データ特徴抽出の場面において有効になると期待される。尚、本成果は国際学術論文誌にて発表済みである。（２）制限ボルツマンマシンを基礎としたデータ前処理器の深化：制限ボルツマンマシンに基づくデータ前処理器についての研究は昨年度から継続的に実施している。昨年度は、提案モデルのノイズ頑健性について見出した。本年度は更に研究を進め、要素重要度を推定できる枠組みを相互情報量に基づき提案した。データ前処理において最も重要なのは、不要なデータ要素を刈り込み、重要な要素のみを残すことである。本提案法によりデータの各要素の重要度を情報理論に基づく枠組みを通して算出できるようになった。本提案の要素重要度分析によって、本研究は最終目標に大きく近づいたと言える。尚、本成果は昨年度の成果と併せて国際学会に投稿予定である。

This research project aims to establish a positive pre-processor for the purpose of determining the basis for universal application. The realization of the simplified pre-processor is the ultimate goal of this study. This year, the following research results were obtained. (1) The automatic learning function of the attribute is controlled to limit the display of the attribute. The proposal of the attribute is extracted from the attribute. The context of the attribute is developed. In general, it is possible to adjust the parameters of the system by adjusting the regularization coefficient. The present invention relates to a method for determining the automatic adjustment of a motor vehicle.つまり、自动适応型スパースモデリングである。The proposal was successful. This proposal is aimed at solving the problem of data preprocessing and data feature extraction. The achievements of Shang and this paper are published in the journal of international academic papers. (2) The research on the basic pre-processor of the control system is carried out in the past year. Last year, the proposal was submitted to the National People's Congress. This year, we will update our research and estimate the importance of elements. The most important elements of the previous process are: The proposed method is based on the theory of importance of each element. This paper analyzes the importance of the elements of this proposal, and the ultimate goal of this study is to improve the quality of the project. The results of this study are expected to be submitted to the International Academy of Sciences.

项目成果

Spatial Monte Carlo Integration for Learning Restricted Boltzmann Machines

用于学习受限玻尔兹曼机的空间蒙特卡罗积分

• DOI: 10.34385/proc.71.a2l-b-03
• 发表时间: 2022
• 期刊: IEICE Proceeding Series
• 作者: Kaiji Sekimoto;Muneki Yasuda
• 通讯作者: Muneki Yasuda

Spatial Monte Carlo integration with annealed importance sampling

空间蒙特卡罗积分与退火重要性采样

• DOI: 10.1103/physreve.103.052118
• 发表时间: 2021
• 期刊: Physical Review E
• 影响因子: 2.4
• 作者: 原田魁成;寒河江雅彦;Muneki Yasuda and Kaiji Sekimoto
• 通讯作者: Muneki Yasuda and Kaiji Sekimoto

The association between the subjective quality of sleep and the phase of a 90-minute periodic signal for the wake-up support system

• DOI: 10.1587/nolta.12.464
• 发表时间: 2021
• 期刊: Nonlinear Theory and Its Applications, IEICE
• 作者: Seung-Il Cho;Minami Tsuchiya;Atsushi Tanaka;Muneki Yasuda;T. Harada;Michio Yokoyama

Free Energy Evaluation Using Marginalized Annealed Importance Sampling

• DOI: 10.1103/physreve.106.024127
• 发表时间: 2022-04
• 期刊: Physical review. E
• 作者: Muneki Yasuda;Chako Takahashi

学習済みBERTクラス分類器からのクラス間相関構造の抽出

从训练好的 BERT 分类器中提取类间相关结构

• 发表时间: 2023
• 作者: Fumio Ishioka;Shoji Kajinishi;Koji Kurihara;原 尚幸;高橋良介，安田宗樹
• 通讯作者: 高橋良介，安田宗樹