基于反馈型级联连接模型的多模态语义SFM方法研究
结题报告
批准号:
61501451
项目类别:
青年科学基金项目
资助金额:
19.0 万元
负责人:
沈晔湖
依托单位:
学科分类:
F0113.信息获取与处理
结题年份:
2018
批准年份:
2015
项目状态:
已结题
项目参与者:
刘威、吴永芝、苗静、费清琪、尹一伊、陆烨
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
由运动恢复结构(SFM)是计算机视觉领域的基本问题之一。目前大多数研究基于对图像基本几何基元的几何分析,缺乏对语义信息的利用,因此稳定性不强、应用领域受限。本项目借鉴人脑并行分级处理以及反馈机制,拟研究反馈型级联连接模型框架对SFM 和图像分割、区域类别标记、物体识别等语义子模块进行整合,通过框架的反馈级联机制突破传统将各子问题割裂分析的做法,实现语义输出SFM 系统。本项目还将研究一种包含点、物体、区域等多模态输出SFM 新算法,提升稳定性,减少语义鸿沟。此外现有的基准测试数据库仅针对SFM或者图像理解与分析系统中的单个或部分子模块设计,因此本项目还将构建一个同时包含三维和语义分割信息的室内外SFM基准测试数据。该研究有望丰富SFM 和视频理解与分析算法理论,并推动机器人自主导航、增强现实、电影特效等领域的发展,因此具有重要的科学意义和广泛的应用前景。
英文摘要
Structure from motion (SFM) is one of the basic research fields in computer vision community. However, researchers mainly focus on geometric analysis based on basic geometric elements until now. There are few researches about the combination with semantic information in the images. As a result, the performance of traditional SFM is not robust and its applications are restricted. Inspired by the parallel processing strategy of information and feedback function in our human brain, we plan to research about Cascaded Connection with Feedback Framework. In this framework, current sub-modules of semantic image understanding and SFM can be easily incorporated. This framework overcomes the defects of researches on each sub-module without considering the effects of other sub-modules. This project will propose multi-modality output SFM algorithm with information of points, objects and regions in the Cascaded Connection with feedback Framework in order to improve the robustness of SFM and diminish the semantic gaps in real applications. Current benchmark test databases are only designed according to single or some sub-modules of SFM and image understanding and analysis systems. To cope with the aforementioned defects, this project will build an indoor/outdoor test database with benchmarks about 3D structures and semantic information. This project is hoped to enrich the computational theory of SFM and video understanding and analysis. It will also advance the development of related areas such as autonomous robot navigation, augmented reality and special effects in movie industry etc.. In conclusion, this project is of important scientific meanings and has broad applications in the future.
本项目主要针对机器人视觉定位和环境三维地图构建这个机器人视觉导航领域的核心问题,通过引入图像中的语义信息实现了包含点、平面、物体等多种模态的混合三维地图,从而提升了机器人在室外复杂环境下的定位可靠性和精度,同时拓展了三维地图的适用范围,为机器人视觉定位和环境三维地图构建在室外复杂环境下的实用化进程奠定了基础。. 项目主要完成的研究内容如下:. (1)完成了基于语义分割技术的机器人同时定位与地图构建算法框架的研究和实现,通过对图像进行语义分割实现语义信息与图像特征点信息的结合,并且通过最小化能量似然函数得到最优的相机运动参数以及混合三维地图,在公共数据集以及自建数据集上验证了本算法框架的性能。. (2)完成了稀疏自编码器时空卷积神经网络及其并行加速实现,本项目提出在每个卷积步骤中运用稀疏自动组合策略,通过在隐层节点典型特征表示过程中引入信息约束来处理拓扑结构的自适应稀疏编码。从而使得学习得到的特征能够更好地表示时空域的转换关系并且使得隐层节点数量能够限制在特定的范围之内。我们还实现了基于MapReduce技术的并行化,充分利用多核CPU的计算能力,从而在大规模视频序列中能够更加有效的提取视觉特征。. (3)完成了基于概率神经网络的高效特征融合技术的研究,构建了一个特征融合模型,提升系统对陌生数据的识别能力。. (4)完成了基于数据分布感知的自适应机器学习模型数据压缩技术的研究,提出了与模型数据概率分布相关的数据量化初始化方法,实现了一个机器学习领域训练模型的通用压缩方案,以较高的压缩率达到接近的性能,为某些资源受限的嵌入式环境应用铺平了道路。. (5)完成了高效训练图像前背景自动融合技术开发,实现了均值坐标系统的高效近似方案,完成了GPGPU并行化方案的实现,降低了视频基准序列数据库大规模采集的难度和成本。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
DOI:--
发表时间:2017
期刊:制造业自动化
影响因子:--
作者:刘威;朱淑梅;沈晔湖;周琛;沈缪聪
通讯作者:沈缪聪
Parallelizing Convolutional Neural Networks for Action Event Recognition in Surveillance Videos
并行卷积神经网络用于监控视频中的动作事件识别
DOI:10.1007/s10766-016-0451-4
发表时间:2016-08
期刊:International Journal of Parallel Programming
影响因子:1.5
作者:Qicong Wang;Jinhao Zhao;Dingxi Gong;Yehu Shen;Maozhen Li;Yunqi Lei
通讯作者:Yunqi Lei
Tightly-Coupled Data Compression for Efficient Face Alignment
用于高效人脸对齐的紧耦合数据压缩
DOI:10.3390/app8112284
发表时间:2018-11
期刊:Applied Sciences
影响因子:--
作者:Yehu Shen;Quansheng Jiang;Bangfu Wang;Qixin Zhu;Wenming Yang
通讯作者:Wenming Yang
DOI:10.1049/joe.2018.8294
发表时间:2018-08
期刊:The Journal of Engineering
影响因子:--
作者:Yehu Shen;Quansheng Jiang;Yang Yong;Bangfu Wang;Qixin Zhu
通讯作者:Yehu Shen;Quansheng Jiang;Yang Yong;Bangfu Wang;Qixin Zhu
DOI:--
发表时间:2017
期刊:制造业自动化
影响因子:--
作者:刘威;朱淑梅;周琛;沈晔湖;张彤彤
通讯作者:张彤彤
在线学习语义图模型室外动态环境的视觉SLAM方法研究
  • 批准号:
    51975394
  • 项目类别:
    面上项目
  • 资助金额:
    60.0万元
  • 批准年份:
    2019
  • 负责人:
    沈晔湖
  • 依托单位:
国内基金
海外基金