权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Stability Analysis and Optimal Synthesis of Recurrent Neural Networks by Conic Programming

圆锥规划循环神经网络的稳定性分析与优化综合

基本信息

批准号：
21H01354
负责人：
蛯原義雄
金额：
$ 10.73万
依托单位：
Kyushu University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2026-03-31
项目状态：
未结题

项目摘要

2021年度の取り組みにより，積分二次制約（Integral Quadratic Constraint, IQC）と共正値マルチプライアを用いた再帰型ニューラルネットワーク (Reccuernt Neural Network, RNN) の安定性解析に関する基本的な枠組みを構築することができた．本研究では，RNNの活性化関数として正規化線形ユニット(Rectified Linear Unit, ReLU)が標準的に用いられることに着目している．安定性解析における基本的な考え方は，RNNをReLUと線形部からなる非線形フィードバック系と捉え，さらにIQCの枠組みでReLUの出力の非負性を捉えるために共正値マルチプライアを導入することで，RNNの安定性判別を可能とする半正定値計画問題を導出するというものである．ReLUの特性を捉えるために共正値計画という特殊な錐計画を利用している点に本研究の独創性がある．このRNNの安定性解析手法の構築過程で，ReLUの出力が非負値に限定されることに関連して，線形時不変システムの入力を非負に限定した場合のL2誘導ノルム（L2+誘導ノルムと称する）が，RNN を含むニューラルネットワークの安定性や性能解析において有用であることが分かった．そのため，線形時不変システムのL2+誘導ノルムの解析に関する研究を進め，L2+誘導ノルムの上界値および下界値を算出するための基本的な枠組みを構築した．

In the year 2021, the system was divided into two parts (Integral Quadratic Constraint, IQC). In this study, the stability analysis of the system (Reccuernt Neural Network, RNN) was carried out in the first half of the year. The standard of RNN active number normalizes the standard of Rectified Linear Unit, ReLU. The stability analysis is based on the analysis of stability. The basic method of stability analysis is that the shape of RNN is not the same as that of RNN. The IQC group, the ReLU group, is responsible for the non-sexual capture of the child. It is possible for RNN to determine the stability of positive semidefinite programming problems. ReLU is responsible for the characteristics of positive planning and special planning. In this study, it is necessary to analyze the process of RNN stability analysis, and ReLU is responsible for the analysis of stability. There is no limit to the input force of the L2 guide. it is called the L2 pilot, and the RNN contains the L2 guide. the performance analysis shows that it is useful to analyze the stability of the L2 + guide. the L2 + guide is used to analyze the stability of the system. L2 + instructs the upper bound and the lower bound to calculate the basic components of the cluster.