权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

積分表現理論によるディープニューラルネットの解析と設計指標の開発

使用积分表示理论分析深度神经网络并开发设计指标

基本信息

批准号：
15J07517
负责人：
園田翔
金额：
$ 1.22万
依托单位：
Waseda University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2015
资助国家：
日本
起止时间：
2015-04-24 至 2017-03-31
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-15J07517/
关键词：
ニューラルネット積分表現輸送解釈デノイジング・オートエンコーダーワッサースタイン幾何学自律走行ブレーキシーン認識 LiDAR ディープラーニングリッジレット変換 ReLU ウェーブレット変換ラドン変換

项目摘要

【理論研究】深層デノイジング・オートエンコーダーの積分表現理論デノイジング・オートエンコーダー（DAE）の輸送理論解釈を展開した。昨年度は，浅いニューラルネットが近似できる関数クラスを明らかにした。今年度は，深層ニューラルネット（DNN）が具体的に何を近似しているかまで踏み込んだ。試行錯誤の末，DNNの一種であるDAEは，入力データ点を再配置する輸送写像とみなせることを発見した。つまり，DAEが近似しているものは輸送写像である。これは変分計算で導ける定理だが，数値実験によっても確認できる。輸送写像の積分表現を計算して，深層DAEの積分表現を得た。また，ワッサースタイン幾何学を用いて，輸送写像の極限を調べることで，無限層ニューラルネット（連続DAE）の性質を明らかにした。DAEはデータ分布のエントロピーを減らす方向に入力データを再配置する輸送作用があり，この作用は層を深くした方が顕著になることが分かった。つまり，浅いDAEと深層DAEでは得られる特徴量が異なることから，DAEは積極的に深層化すべきであることが分かる。このような輸送解釈は，DAEに限らず多くのDNNに対して可能であると考えられる。本研究の主結果は雑誌論文として投稿済である（arXiv:1605.02832）。また，同結果を国内で発表して学生最優秀プレゼンテーション賞を受賞した。このほか，積分表現を数値積分によって計算してニューラルネットを学習する方法についてパイロット的な結果が得られたので，学会で発表した。【応用研究】自動車の自立走行システム開発自動車走行時の運転動画および深度データを入力として，ブレーキを踏むべきかどうかをDNNに判別させる運転シーンの識別問題に取り組んだ。DNNが運転動画のどの部分に反応して意思決定を行ったのかを可視化する技術（サライエンシーマップ）を導入し，システムに解釈性を付与した。

[Theoretical research] The integral performance theory of deep layer transport is developed. Last year, the number of visitors to the hotel was reduced to approximately 100. This year, the Deep Network (DNN) is a concrete approximation of the Internet. A new type of transmission error occurred when the transmission error occurred.つまり，DAEが近似しているものは输送写像である。This is the first time I have ever seen such a person. The integral performance of the transmission image is calculated, and the integral performance of the deep DAE is obtained. The limit of transmission image is adjusted by the application of geometry, and the property of infinite layer is clarified. The distribution of power The deep DAE is not the same as the shallow DAE. The deep DAE is not the same as the deep DAE. This is the first time I've ever seen a woman. The main results of this study are published in the journal ArXiv:1605.02832. The best students in the country will be rewarded for their achievements. This is the method of calculating the integral value of the integral and learning the integral value of the integral. [Application Research] Automatic vehicle self-supporting running system development Automatic vehicle running system development automatic vehicle running system The technology of rational decision-making and visualization is introduced into the system.