分布推定アルゴリズムにおけるアニーリングの改善

改进分布估计算法中的退火

• 批准号: 07J54103
• 负责人: 庇護 貴之
• 金额: $ 0.58万
• 依托单位: Tokyo Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2007
• 资助国家: 日本
• 起止时间: 2007 至 无数据
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-07J54103/
• 关键词: 分布推定アルゴリズム; 最適化; 統計的推定; モンテカルロ法; インポータンスサンプリング; 遺伝的アルゴリズム

布推定アルゴリズムとは、最適化問題をサシプリングし(適当にいくつか解を選び評価し)、得られた情報から統計的推定を用いて最適化問題の目的関数を予測することで最適化を行う方法である。サンプリングによる最適化自体は遺伝的アルゴリズムの分野で研究されてきたが、分布推定アルゴリズムの一つの特徴は、統計学を用いることでアルゴリズムを数理的に構成した点にある。本研究では、この分布推定アルゴリズムを2つの方向へ数理的に拡張し、数値実験により有効性を確認した。まず第一に局所解の問題に対して階層型インポータンスサンプリングを提案した。遺伝的アルゴリズムでは、局所解の問題に対して多様性の観点から研究が進められてきた。本研究では、複数の乱雑度(多様性)を同時に実現することで、常に一定の乱雑度を保ちつつ、最適化を同時に進める方法を提案した。この方法は従来法を数理的に拡張することで実現できる。また、乱雑度の制御は収束速度に対応しており、これに対しては、統計的推定精度の観点で最適な乱雑度(収束速度)制御方法を提案した。第二に、過去のサンプル(個体)を再利用する方法を提案した。遺伝的アルゴリズムは良いサンプルを次世代で再利用する枠組みとなっているが、一方で分布推定アルゴリズムは過去のサンプルを用いることは定式化の関係上難しい。遺伝的アルゴリズムでは多様性が重要だと認識されているが、過去のサンプルのうち良いものだけを集めると、そこには必然的に偏りが生じる。モンテカルロ積分の観点では、集めたサンプルの分布がわかっていれば偏りを取り除くことができる。提案手法ではモンテカルロ積分(インポータンスサンプリング)の観点から各サンプルに対して重みをつけ、集めたサンプルの分布を陽に記憶することで、インポータンスサンプリングを近似する形で過去サンプルを保存する方法を提案した。

Cloth presumption ア ル ゴ リ ズ ム と は, optimization problem を サ シ プ リ ン グ し (appropriate に い く つ か solution を choose び review 価 し) and ら れ た intelligence か ら statistical presumption of を with い て optimization problem number of masato を の purpose to measure す る こ と で line optimization を う method で あ る. サ ン プ リ ン グ に よ る optimization of autologous は but 伝 ア ル ゴ リ ズ ム の eset で research さ れ て き た が presumption, distribution ア ル ゴ リ ズ ム の a つ の, 徴 は, statistical を い る こ と で ア ル ゴ リ ズ ム を of mathematical に し た point に あ る. In this study, the distribution presumption of で and <s:1> <s:1> ア ア ゴリズムを ゴリズムを2 ア ゴリズムを the に拡 of へ mathematics and physics in the へ direction, and the practical experiments of によ and を confirm the validity of た. First に ま ず bureau solving problems の に し seaborne て class type イ ン ポ ー タ ン ス サ ン プ リ ン グ を proposal し た. But 伝 ア ル ゴ リ ズ ム で は, bureau solution の に し seaborne て multiple others の 観 point か ら research が into め ら れ て き た. This study で は, plural の 雑 degrees (others) more を に at the same time be presently す る こ と で, often に must の disorderly 雑 を bao ち つ つ and optimization を に into め る method proposed を し た. The <s:1> <s:1> method 従 従 is used to find the に拡 zhang する する とで とで とで reality of を mathematics and physics, and で る る る. ま た, disorderly 雑 の suppression は 収 beam speed に 応 seaborne し て お り, こ れ に し seaborne て は, statistical presumption of precision の 観 point で optimum な disorderly 雑 degrees (収 beam speed) suppression method proposed を し た. Second, に. In the past, サ サ プ プ を (individual)を reused する method を proposal た た. But 伝 ア ル ゴ リ ズ ム は good い サ ン プ ル を nextgen で reuse す る 枠 group み と な っ て い る が presumption, one party で distribution ア ル ゴ リ ズ ム は past の サ ン プ ル を with い る こ と は demean の masato tied on difficult し い. But 伝 ア ル ゴ リ ズ ム で は sex of others more important だ が と know さ れ て い る が, past の サ ン プ ル の う ち good い も の だ け を set め る と, そ こ に は inevitable に partial り が raw じ る. モ ン テ カ ル ロ integral の 観 point で は, set め た サ ン プ ル の distribution が わ か っ て い れ ば partial り を take り except く こ と が で き る. Proposal gimmick で は モ ン テ カ ル ロ integral (イ ン ポ ー タ ン ス サ ン プ リ ン グ) の 観 point か ら each サ ン プ ル に し seaborne て heavy み を つ け, set め た サ ン プ ル の distribution を Yang に memory す る こ と で, イ ン ポ ー タ ン ス サ ン プ リ ン グ を approximate す る form で past サ ン プ ル を save す る method proposed を し た.

项目成果

Hierarchical Importance Sampling as Generalized Population Convergence

作为广义总体收敛的分层重要性采样

• 发表时间: 2007
• 作者: Takayuki Higo;Keiki Takadama
• 通讯作者: Keiki Takadama

Maintaining Multiple Populations with Different Diversities for Evolutionary Optimization Based on Probability Models

基于概率模型的进化优化维护多个不同多样性群体

• 发表时间: 2008
• 期刊: 情報処理学会論文誌:数理モデル化と応用 49
• 作者: Takayuki Higo;Keiki Takadama
• 通讯作者: Keiki Takadama

Hierarchical Importance Sampling Instead of Annealing

分层重要性采样代替退火

• 发表时间: 2007
• 作者: Takayuki Higo;Keiki Takadama
• 通讯作者: Keiki Takadama

Maintaining Population with Resampling for Optimization Methods based on Probability Models

基于概率模型的优化方法的重采样维持总体

• 发表时间: 2007
• 作者: Takayuki Higo;Keiki Takadama
• 通讯作者: Keiki Takadama