ベイズ推定による信頼度評価を伴った特徴量選択手法の開発

使用贝叶斯估计开发具有可靠性评估的特征选择方法

• 批准号: 20J21749
• 负责人: 大日方 孝輝
• 金额: $ 1.6万
• 依托单位: The University of Tokyo
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2020
• 资助国家: 日本
• 起止时间: 2020-04-24 至 2023-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-20J21749/
• 关键词: ベイズ推論; 特徴量選択; 信頼度評価; ベイズモデル平均化; 全状態探索; モンテカルロ法

本研究では信頼度評価を伴った特徴量選択手法の開発を目指している。本年度は昨年度より取り組んでいた実データへの適用事例を論文として発表し、また、高次元データへと手法を拡張する研究を進めた。特徴量選択とは予測モデルの特徴量の中から予測に重要な特徴量集合を探し出す手法であり、機械学習モデル構築における重要な技術の1つである。特徴量選択は計算コストの削減だけでなく、予測モデルの解釈性を向上させ、知識の抽出にも繋がる。機械学習の応用を進める上では精度だけでなく、機械学習モデルの推論の信頼度を評価することも重要となる。特徴量選択に関しては、選択の信頼度を評価することで、信頼度の低い結果を専門家が誤った方向へ解釈することを防ぐことが可能となる。先行研究においては、全てのモデル候補を評価する全状態探索の結果から定性的に特徴量選択の不確実性を評価する手法が用いられていた。本研究では、ベイズモデル平均化を用いて全状態探索の結果から定量的に特徴量選択の信頼度を評価する手法に昨年度から取り組んでおり、本年度、蓄電池探索の問題へと適用した研究が査読付き雑誌に掲載された。また数値計算研究の再現性の担保及び本手法の幅広い活用を目指して、同研究で用いたプログラムコードをオープンソースソフトウェアとして公開した。本年度は非線形高次元特徴量空間における特徴量選択の信頼度評価にも取り組んだ。全状態探索の結果から性能指標に関する頻度分布を取ることで、モデル空間の状態密度(DoS)を評価することが可能となる。高次元空間においては全モデルを評価することが困難となるため、サンプリングによりDoSを推定する手法を開発した。開発手法を結晶構造予測問題に適用することで、先行研究で選ばれたモデルと同程度の性能を持つモデルが多数存在することを示し、先行研究の結果が有意とは言えないことを明らかにした。

这项研究旨在开发一种涉及可靠性评估的功能选择方法。今年，我们发表了一篇论文，介绍了自去年以来我们一直在研究的实际数据的示例，并进行了研究以将方法扩展到更高的数据。功能选择是一种找到一组功能的方法，这些功能对于预测模型的特征数量中至关重要，并且是构建机器学习模型的重要技术之一。选择功能数量不仅降低了计算成本，而且还提高了预测模型的解释性，并导致知识提取。在机器学习的应用中，不仅要评估准确性，而且要评估机器学习模型中推断的可靠性。关于功能选择，评估选择的可靠性使得可以防止专家误解低可靠性结果。在先前的研究中，使用一种方法来定性评估特征选择的不确定性，从评估所有模型候选者的所有状态搜索结果。在这项研究中，自去年以来，我们一直在努力定量评估使用贝叶斯模型平均全州搜索结果的特征选择的可靠性，今年，一项针对电池搜索问题的研究发表在同行评审的日记中。此外，为了确保数值计算研究的可重复性和对该方法的广泛使用，研究中使用的程序代码作为开源软件发布。今年，我们还在非线性高维特征空间中对特征选择的可靠性评估进行了研究。通过从完整的状态搜索结果中获取绩效指标的频率分布，可以评估模型空间中的状态密度（DOS）。由于很难在高维空间中评估所有模型，因此开发了一种通过采样来估算DOS的方法。通过将开发方法应用于晶体结构预测问题，我们表明有许多模型与先前研究中选择的模型相似，并揭示了先前研究的结果并不显着。

项目成果

状態密度に基づく特徴量合成アプローチの信頼度評価

基于状态密度的特征合成方法的可靠性评估

• 发表时间: 2023
• 作者: Sae Katayama;Masaki Tateno;大日方孝輝,五十嵐康彦,永田賢二,袖山慶太郎,岡田真人
• 通讯作者: 大日方孝輝,五十嵐康彦,永田賢二,袖山慶太郎,岡田真人

状態密度に基づく特徴量合成アプローチの有意性評価

基于状态密度的特征合成方法的显着性评估

• 发表时间: 2022
• 作者: 岩泉 滉樹;柴田 恭幸;守友 浩;片山 彩，舘野 正樹;岩井碩慶，河野暢明，冨田勝，堀川大樹，荒川和晴;鈴木 颯;大日方孝輝,五十嵐康彦,永田賢二,袖山慶太郎,岡田真人
• 通讯作者: 大日方孝輝,五十嵐康彦,永田賢二,袖山慶太郎,岡田真人

Data integration for multiple alkali metals in predicting coordination energies based on Bayesian inference

• DOI: 10.1080/27660400.2022.2108353
• 发表时间: 2022-09
• 期刊: Science and Technology of Advanced Materials: Methods
• 作者: Koki Obinata;Tomofumi Nakayama;Atsushi Ishikawa;Keitaro Sodeyama;K. Nagata;Y. Igarashi;M. Okada

岡田真人研究室 研究室メンバーページ

冈田正人实验室实验室成员页面