基于应用长时空域运行特征的图数据存储组织及系统优化研究
批准号:
61772216
项目类别:
面上项目
资助金额:
62.0 万元
负责人:
王芳
依托单位:
学科分类:
计算机系统结构与硬件技术
结题年份:
2021
批准年份:
2017
项目状态:
已结题
项目参与者:
施展、程永利、张玲玲、张永选、徐湘灏、汪修能、易前旭、黄小龙、刘燕
中文摘要
图数据具有一般性表示能力,被广泛应用到交通物流、金融、生物信息、社交网络、电子商务、以及公共安全等众多重要领域。随着移动互联网、智能终端和社交媒体等技术的快速普及应用,图数据亦呈现爆炸式增长。而图数据的关系复杂性和大规模的数据量,给图数据的存储管理和计算分析带来重大技术挑战。目前图处理系统静态单一的内外存数据组织方式、低效的数据访问模式,无法高效地支持种类多样、特征各异的图算法应用,也进一步导致了大规模图处理集群系统能效不高。针对大规模图数据的高效组织,如存储、索引、更新、查找等,已成为急待解决的问题。本项目针对图数据内外存组织形态与图应用运行特征失配的问题,提出基于应用长时空域运行特征的图数据动态内存组织和基于收益评价的图数据外存组织模式,降低计算过程中数据访问开销,支持构建高效、绿色的大规模图处理系统。
英文摘要
Due to the universal expression ability, graph data has been widely used in transportation logistics, finance, bio-information, social networking, e-commerce, public security and many other important areas. With the rapidly popularized and applied technologies, such as mobile Internet, smart terminals and social media, graph data grows rapidly in size. However, due to the complexity and the large-scale size of the graph data, there are some serious challenges during the processes of storage management and computation analysis. Existing graph-processing systems fail to support various types of graph algorithms with different features efficiently, thus leading to the low efficiency of the graph-processing cluster. Because they usually organize external storage data by using a single static and their data access scheme is inefficiently. Hence, it is one of the most important problems to organize the large-scale graph data efficiently, involving the techniques of storage, index, update and query. Based on the problem of the mismatching between the in-memory/external data organizations and the execution features of graph applications, this project proposes a long space-time application runtime characteristics based method of dynamic memory graph data organization and the external graph data organization scheme that is based on the benefit evaluation, to reduce the data access cost in the computation process, thus making the graph-processing systems more energy-efficient when processing large-scale graph-computing jobs.
图数据作为一种重要的数据结构因具有一般性表示能力,被广泛应用到交通物流、金融、生物信息、社交网络、电子商务、以及公共安全等众多重要领域。本项目针对目前图处理系统静态单一的内外存数据组织方式、低效的数据访问模式,无法高效地支持种类多样、特征各异的图算法应用以及大规模图处理集群系统的能效受到限制等问题,开展了一系列基于应用长时空域运行特征的图数据动态内存组织、基于收益评价的图数据外存组织模式和面向不同场景的高能效图计算系统的研究。具体地,(1)对于图数据的动态内存组织的研究,项目组结合了图应用及图数据的动态特征提出了基于图应用特征的高效内存数据布局策略、基于活跃度布局的图处理访存策略以及基于日志结构合并子图的时序图存储模型;(2)对于图数据的外存组织模式研究,项目组通过探寻有效的外存访问收益评价提出了基于索引定位的外存访问策略、基于I/O调度的多任务外存模式图处理系统、面向图处理的粗粒度多外存IO管理策略、基于应用特征的混合I/O 访问和顶点更新策略、外存模式图计算系统的子图构建优化、面向并发多任务的外存模式图计算模型优化以及面向随机游走的分区关联感知I/O管理方法;(3)对于构建高能效的图处理系统,项目从面向大规模图表示学习的高效随机游走算法、面向大规模图的多估测目标抽样技术、面向共享内存三角形计算的轻量压缩技术以及面向高带宽网络的分布式图处理系统的快速消息产生及交换技术等多个应用场景提出了系统优化的解决方案。.基于上述研究成果,本项目共发表学术论文16篇,其中CCF A类会议或期刊论文4篇,申请专利15项,其中获授权8项。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
登录
查看更多内容
CSMqGraph: Coarse-Grained and Multi-external-storage Multi-queue I/O Management for Graph Computing
CSMqGraph:用于图计算的粗粒度、多外部存储、多队列 I/O 管理
DOI:
10.1007/s10766-019-00651-0
发表时间:
2019-11
期刊:
International Journal of Parallel Programming
影响因子:
1.5
作者:
[Chen Shuo, Shi Zhan, Feng Dan, Liu Shang, Wang Fang, Yang Lei, Yu Ruili]
通讯作者:
Yu Ruili
Reservoir-based sampling over large graph streams to estimate triangle counts and node degrees
对大型图流进行基于水库的采样,以估计三角形计数和节点度
DOI:
10.1016/j.future.2020.02.077
发表时间:
2020-07
期刊:
Future Generation Computer Systems-The International Journal of eScience
影响因子:
7.5
作者:
[Zhang Lingling, Jiang Hong, Wang Fang, Feng Dan, Xie Yanwen]
通讯作者:
Xie Yanwen
Using High-Bandwidth Networks Efficiently for Fast Graph Computation
有效使用高带宽网络进行快速图计算
DOI:
10.1109/tpds.2018.2875084
发表时间:
2019-05-01
期刊:
IEEE TRANSACTIONS ON PARALLEL AND DISTRIBUTED SYSTEMS
影响因子:
5.3
作者:
[Cheng, Yongli, Jiang, Hong, Wu, Yunxiang]
通讯作者:
Wu, Yunxiang
CIC-PIM: Trading spare computing power for memory space in graph processing
CIC-PIM:在图处理中用闲置计算能力换取内存空间
DOI:
10.1016/j.jpdc.2020.09.008
发表时间:
2021-01
期刊:
Journal of Parallel and Distributed Computing
影响因子:
3.8
作者:
[Yongxuan Zhang, Hong Jiang, Fang Wang, Yu Hua, Dan Feng, Yongli Cheng, Yuchong Hu, Renzhi Xiao]
通讯作者:
Renzhi Xiao
An efficient memory data organization strategy for application-characteristic graph processing
用于应用特征图处理的高效内存数据组织策略
DOI:
10.1007/s11704-020-0255-y
发表时间:
2021-10
期刊:
Frontiers of Computer Science
影响因子:
4.2
作者:
[Peng Fang, Fang Wang, Zhan Shi, Dan Feng, Qianxu Yi, Xianghao Xu, Yongxuan Zhang]
通讯作者:
Yongxuan Zhang
共 8 条
面向新型NVM的高效安全持久内存系统架构及关键技术
-
批准号:U22A2027
-
项目类别:联合基金项目
-
资助金额:254.00万元
-
批准年份:2022
-
负责人:王芳
-
依托单位:
杏仁核脑区R-spondin 2阳性记忆痕迹细胞兴奋性异常在创伤后应激障碍中的作用及机制
-
批准号:U21A20363
-
项目类别:--
-
资助金额:260万元
-
批准年份:2021
-
负责人:王芳
-
依托单位:
补体C3激活依赖的突触靶向异常修剪在抑郁症中的作用及机制
-
批准号:81971279
-
项目类别:面上项目
-
资助金额:55.0万元
-
批准年份:2019
-
负责人:王芳
-
依托单位:
LncRNA-MALAT1作为ceRNA调控胎盘血管形成的机制研究
-
批准号:81602863
-
项目类别:青年科学基金项目
-
资助金额:18.0万元
-
批准年份:2016
-
负责人:王芳
-
依托单位:
黏附分子肌营养不良蛋白聚糖介导的GABAA受体功能受损在抑郁症发病机制中的作用研究
-
批准号:81671348
-
项目类别:面上项目
-
资助金额:62.0万元
-
批准年份:2016
-
负责人:王芳
-
依托单位:
杏仁核脑区EphrinB2/EphB2信号通路异常介导的负性情绪增强在抑郁症中的作用
-
批准号:81471377
-
项目类别:面上项目
-
资助金额:70.0万元
-
批准年份:2014
-
负责人:王芳
-
依托单位:
miRNA-132逆境应答诱导海马突触可塑性异常在抑郁症中的作用及机制
-
批准号:81173039
-
项目类别:面上项目
-
资助金额:60.0万元
-
批准年份:2011
-
负责人:王芳
-
依托单位:
基于数据多维属性的低能耗数据分布策略研究
-
批准号:60873028
-
项目类别:面上项目
-
资助金额:30.0万元
-
批准年份:2008
-
负责人:王芳
-
依托单位:
沉默突触与功能性突触间转变异常在阿尔茨海默病中的作用
-
批准号:30600658
-
项目类别:青年科学基金项目
-
资助金额:22.0万元
-
批准年份:2006
-
负责人:王芳
-
依托单位:
I/O请求处理的流水作业机制研究
-
批准号:60303032
-
项目类别:青年科学基金项目
-
资助金额:26.0万元
-
批准年份:2003
-
负责人:王芳
-
依托单位:
国内基金
海外基金