具有时序处理能力的Spiking-Deep Learning(脉冲深度学习)方法研究
结题报告
批准号:
61573081
项目类别:
面上项目
资助金额:
64.0 万元
负责人:
屈鸿
依托单位:
学科分类:
F0601.人工智能基础
结题年份:
2019
批准年份:
2015
项目状态:
已结题
项目参与者:
左琳、杨尚明、吴婧瑾、张栗粽、解修蕊、张马路、符明晟、黄利伟、刘永胜
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
具有用深度构建的分区域工作机制和具有时间特性的Spiking发放机制是生物大脑系统中常见的信息表示和处理方式。目前对Deep Learning的研究,多数是借鉴于生物视觉认知系统的分区机制,而缺少对神经元信息表示方法的模仿,不能充分的表示时间特征,从而导致很难用以解决具有高度时序特性的数据问题。本课题在分析神经科学、机器学习最新研究成果的基础上,研究具有高度时序表征能力的Deep Learning模型。具体而言,是在现有Deep Learning分层模型的基础上,综合考虑神经系统的Spiking信息表示方式、神经元的Spiking时间编码机制、生物认知的STDP学习规则,研究探索既能高度模仿大脑深度层次结构、又具有良好的时间特征表示能力的时空结合的Deep Learning新模型和算法。从而为Deep Learning在高维时序大数据处理问题中的应用提供理论保障。
英文摘要
Deep Learning models are widely studied in machine learning and have achieved a lot of success. However, these models have few advantages to solve the real-world time-series-dependent problems since they still employee the information representation mechanism in traditional neural networks. Researches on hippocampus electrophysiology experiments reveal that biological neurons transmit information by the spike emitting mechanism, which motivates the temporal coding approach to learning rather than the pure deep architecture. Recently, models and learning methods developed for deep learning still ignore the spike emitting mechanism and are not adept in solving the real-world time-series-dependent problems. This project attempts to make up this defect of deep learning models basing on some recent achievements on neuroscience and spiking neural networks. More specifically, we analyze the latest deep learning models and the temporal-coding mechanism of spiking neural networks to study biologically plausible deep learning models. With experimentally supported learning rules and spike emitting mechanism of spiking neural networks, we explore a new deep learning model with efficient training algorithms, which can solve time-series-dependent problems in a biological way, and represent both the spatial and temporal features of time-series data. This research can be applied to more complex engineering problems and contribute to understanding the learning process of cognitive science, computational neuroscience and machine learning in a high degree.
本课题在神经科学、认知科学最新研究成果基础上,利用机器学习理论方法,研究具有高度时序表征能力的深度学习计算模型。具体而言,是在现有深度学习分层模型的基础上,综合考虑神经系统的脉冲信息表示方式、神经元的脉冲时间编码机制、生物认知的STDP学习规则,研究探索既能高度模仿大脑深度层次结构、又具有良好的时间特征表示能力的时空结合的深度学习新模型和算法,从而为深度学习在高维时序大数据处理问题中的应用提供理论保障。本课题研究具有时序处理能力的Spiking-Deep Learning模型,主要的完成情况概述如下:(1) 通过分析现有脉冲驱动学习算法的局限性,提出了l两种基于膜电压驱动的Spiking神经网络学习算法。该算法用神经元的膜电压作为权重调整的参考信号,可以更加简单高效的对权重进行调整。实验结果表明我们提出的学习算法具有更高的学习效率和准确率; (2) 改进传统基于神经元的聚合-标签学习算法(Aggregate-Label Learning), 并提出适用于Spiking深度网络模型的聚合标签学习算法,该算法可以显著提高聚合-标签学习算法的实际应用能力;(3)为了提高Spiking神经网络学习算法的鲁棒性,引入了动态阈值的权重调整策略。该策略具有良好的普适性,可以被现有的多种监督学习算法采用来提高了其训练模型的鲁棒性;(4) 借鉴生物听觉系统编码机制,提出基于阈值驱动的高效语音信号编码方法,同时依据Spiking神经元膜电压的动态特性,提出了实时动态的解码策略,实现了一种基于Spiking的类脑语音信号处理模型;(5) 借鉴人脑多模态信息处理机制,提出了适用于多模态信息处理的Spiking深度网络模型,该模型可以高效的处理视觉和听觉信息等多模态信息。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
First Error-Based Supervised Learning Algorithm for Spiking Neural Networks
第一个基于误差的尖峰神经网络监督学习算法
DOI:10.3389/fnins.2019.00559
发表时间:2019-06-06
期刊:FRONTIERS IN NEUROSCIENCE
影响因子:4.3
作者:Luo, Xiaoling;Qu, Hong;Chen, Yi
通讯作者:Chen, Yi
Efficient Training of Supervised Spiking Neural Network via Accurate Synaptic-Efficiency Adjustment Method
通过精确的突触效率调整方法有效训练有监督的尖峰神经网络
DOI:10.1109/tnnls.2016.2541339
发表时间:2017-06
期刊:IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS
影响因子:10.4
作者:Xiurui Xie;Hong Qu
通讯作者:Hong Qu
An Efficient Deep Learning Model to Infer User Demographic is Information From Ratings
通过评级信息推断用户人口统计的有效深度学习模型
DOI:10.1109/access.2019.2911720
发表时间:2019
期刊:IEEE Access
影响因子:3.9
作者:Liu Yongsheng;Qu Hong;Chen Wenyu;Mahmud S M Hasan
通讯作者:Mahmud S M Hasan
A novel coordinated path planning method using k-degree smoothing for multi-UAVs
一种新颖的多无人机k度平滑协调路径规划方法
DOI:10.1016/j.asoc.2016.06.046
发表时间:2016-11-01
期刊:APPLIED SOFT COMPUTING
影响因子:8.7
作者:Huang, Liwei;Qu, Hong;Fan, Zhen
通讯作者:Fan, Zhen
The maximum points-based supervised learning rule for spiking neural networks
尖峰神经网络基于最大点的监督学习规则
DOI:10.1007/s00500-018-3576-0
发表时间:2018-11
期刊:Soft Computing
影响因子:4.1
作者:Xie Xiurui;Liu Guisong;Cai Qing;Qu Hong;Zhang Malu
通讯作者:Zhang Malu
具有模块功能特异化性质的新型Spiking神经网络模型研究
  • 批准号:
    61976043
  • 项目类别:
    面上项目
  • 资助金额:
    56.0万元
  • 批准年份:
    2019
  • 负责人:
    屈鸿
  • 依托单位:
Spiking神经网络学习算法研究
  • 批准号:
    61273308
  • 项目类别:
    面上项目
  • 资助金额:
    82.0万元
  • 批准年份:
    2012
  • 负责人:
    屈鸿
  • 依托单位:
脉冲神经网络的研究及应用
  • 批准号:
    60905037
  • 项目类别:
    青年科学基金项目
  • 资助金额:
    19.0万元
  • 批准年份:
    2009
  • 负责人:
    屈鸿
  • 依托单位:
国内基金
海外基金