感覚神経回路における同期発火の神経機構とその情報科学的意義の解明

阐明感觉神经回路同步放电的神经机制及其信息科学意义

• 批准号: 14J08282
• 负责人: 唐木田 亮
• 金额: $ 1.79万
• 依托单位: The University of Tokyo
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2014
• 资助国家: 日本
• 起止时间: 2014-04-25 至 2017-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-14J08282/
• 关键词: ニューラルネットワーク; 機械学習; 勾配法; 深層学習; 計算論的神経科学; ボルツマンマシン; 教師無し学習

本年度の目的は, 感覚系神経回路を模した数理モデルにおいて, 発火の情報科学的意義を解明することである. 申請当初の研究実施計画では生理実験の研究者と共同し, 感覚系の神経細胞集団における同期発火のデータ解析を想定していたが, 本年度はモデルと学習手法の理論構築に従事した. これは, 前年度までの研究が機械学習の手法として工学的に利用価値が高いため, 数理の立場からだけでも情報科学的意義の解明を十分に推進できると考えたためである.神経回路モデルを機械学習の視点から観ると, 階層型モデルでは規格化因子の計算が困難である. この困難性を回避する学習手法の確立は工学的に意義深い. そこで本年度は規格化因子の計算を避ける学習手法として知られるscore matching法の幾何学的な特徴の解析とその特徴を活かしたアルゴリズムの開発を行った. 神経回路モデルの学習において, アルゴリズムは学習の収束を高速化することに成功した.また, 階層型モデルは画像・音声認識において近年, 高い性能を発揮しているが, その学習を可能にする技術の中でも勾配法は重要である. そのような勾配法の中でWeight Normalizationと呼ばれる手法に着目し, この手法が学習の収束を高速化するメカニズムを理論とシミュレーションから明らかにした.さらに, 前年度からの継続研究として, 生理学的に妥当な対数重み分布の結合によって自発発火を再現するモデルをシミュレーションにより解析した. その結果, 入力刺激に応じて脳波に近い周波数を持つ集団同期と発火・非発火の双安定状態が実現することを明らかにした.以上の研究成果をまとめて, 国内学会7件における発表, および査読有り国際学会における3件の発表, 査読有り英文誌における2件の発表を行った.

This year's goal is to understand the mathematical model of the sensory system and the significance of information science. The researchers who applied for the initial research implementation plan agreed with each other that the analysis of the simultaneous firing of the sensory system's neuronal cell set should be determined. This year, the researchers studied the theoretical construction of the method. In the past year, the research on mechanical learning methods and the utilization of engineering have been carried out in a high level, and the stand of mathematics has been changed to the meaning of information science. It is difficult to calculate normalization factors for hierarchical models. The difficulty of avoiding this learning method is of great significance to the establishment of engineering. This year, the calculation of normalization factors is to avoid learning methods and to understand the geometric characteristics of score matching methods. The brain loop is designed to speed up learning, and the brain loop is designed to speed up learning. In recent years, high performance has been developed, and the matching method is important in the study of technology. Weight Normalization and Method of Learning in the Combination Method In the past year, the research on physiology has been carried out to analyze the combination of number distribution and self-generation. As a result, the number of near mid-cycle waves in the input stimulus is maintained at the same time as that in the non-emission bistable state. The above research results are published in 7 domestic societies, 3 international societies and 2 English societies.

项目成果

Input Response of Neural Network Model with Lognormally Distributed Synaptic Weights

对数正态分布突触权重的神经网络模型的输入响应

• DOI: 10.7566/jpsj.85.074001
• 发表时间: 2016
• 期刊: Journal of the Physical Society of Japan
• 影响因子: 1.7
• 作者: Yoshihiro Nagano;Ryo Karakida;Norifumi Watanabe;Atsushi Aoyama;and Masato Okada
• 通讯作者: and Masato Okada

学習の力学理論の温故知新ー平衡点解析と統計力学的解析ー

动态学习理论中的学习——平衡点分析和统计力学分析——

• 发表时间: 2016
• 作者: Toshihiro Kaseda;Yasuki Kansha;Masanori Ishizuka;Yui Kotani;Renaldo Rasfuldi;Atsushi Tsutsumi;唐木田亮
• 通讯作者: 唐木田亮

Adaptive natural gradient learning algorithms for unnormalized statistical models

非归一化统计模型的自适应自然梯度学习算法

• DOI: 10.1007/978-3-319-44778-0_50
• 发表时间: 2016
• 期刊: Lecture Notes in Computer Science (ICANN2016)
• 作者: Ryo Karakida;Masato Okada;Shun-ichi Amari
• 通讯作者: Shun-ichi Amari

Adaptive natural gradient learning based on Riemannian metric of score matching

基于分数匹配黎曼度量的自适应自然梯度学习

• 发表时间: 2016
• 期刊: 4th International Conference on Learning Representations (ICLR)- Workshop Track
• 作者: Ryo Karakida;Masato Okada;Shun-ichi Amari
• 通讯作者: Shun-ichi Amari

Maximum likelihood learning of RBMs with Gaussian visible units on the Stiefel manifold

Stiefel 流形上具有高斯可见单元的 RBM 的最大似然学习

• 发表时间: 2016
• 期刊: Proceedings of European Symposium on Artificial Neural Networks (ESANN) 2016
• 作者: Ryo Karakida;Masato Okada;Shun-ichi Amari
• 通讯作者: Shun-ichi Amari