Electricity Price Forecasting with Evolutionary Stacked Auto-Encode of Multi-Layered Artificial Neural Netwok

点击翻译按钮获取中文摘要

令和4年度の研究としてオートエンコダーと浅層ニューラルネットから構成される深層学習ニューラルネットを用いた電力価格予測手法の基礎として次の研究を行った。（１）浅層ニューラルネットとして一般ラジアル基底関数ネットワーク（Generalized Radial Basis Function Network;　GRBFNと略記）について研究した。ここで、GRBFNは、ガウス関数の重み付き和で表現されるRBFNを一般化した手法であり、ガウス関数のパラメターである平均値と標準偏差が学習過程で決定される特徴がある。（２）学習過程において過学習を防止するためにL2ノルムを用いたL2正則化であるWeight Decay法を研究した。ここで、Weight Decay法はパラメータのL2ノルムを最小化する過学習防止法である。さらに、予測精度を上げるために、L1ノルムを用いたL1正則化についても検討した。（３）L1ノルムを用いたL1正則化に関連した分野としてLASSO（Least Abosolute Shrinkage and Selection Operator）モデルについて研究した。ここで、LASSOモデルは複雑な現象をより少ない説明モデルで表現するスパースモデリング手法の1種である。本研究ではLASSOモデルをGRBFNに応用することを検討した。（４）GRBFNの様な非線形モデルにおいてLASSOを用いると、L1ノルム使用のため、ニューラルネットワークの重みとガウス関数のパラメータの最適化には微分情報を使用できない。そこで、進化的計算のBSO（Brain Storm Optimization)を使用する手法を提案した。その結果、スパースモデリング手法に基づくGRBFNを開発することに成功した。