集合值索引关键技术研究
批准号:
61562054
项目类别:
地区科学基金项目
资助金额:
38.0 万元
负责人:
贾连印
依托单位:
学科分类:
系统软件、数据库与工业软件
结题年份:
2019
批准年份:
2015
项目状态:
已结题
项目参与者:
李孟娟、游进国、丁家满、范洪博、章永彬、肖力、崔红波、周翠莲
中文摘要
集合无处不在,集合查询分为集合包含查询和集合相似度查询两部分,在很多领域有广泛的应用,但同时面临集合数据量的不断增长、查询日益复杂的挑战。集合查询以高效的索引技术为基础,在基于统计分析、关联规则挖掘等方法深入分析集合数据统计特性的基础上,拟从全面、高效及并行化三个角度来研究集合索引结构和算法。首先,拟设计支持多种不同集合查询谓词的基于trie和反向索引的混合索引结构,以解决传统集合值索引结构只支持部分查询谓词或效率较低的问题;其次针对反向索引结构,通过物化部分频繁访问的反向列表交集结果,解决幂律分布下长列表交集效率低下的问题;最后,研究基于GPU的高效的索引结构和算法的高效实现,设计高效的并行集合查询架构,以进一步提高集合查询的效率。项目组拟开发集合数据综合查询平台,验证提出的索引结构和算法的有效性。本项目的研究成果,将对集合数据管理技术的完善和提高提供有益的补充。
英文摘要
Set is ubiquitous and set queries exist extensively in a large number of fields, such as database, data mining, information retrieval and biological information system. Set queries are facing challenges of ever-growing set sizes and ever-complexing queries. Efficient indexing is the way to efficient set queries. This project mainly aims at researching comprehensive, efficient and parallel set indexes and corresponding set querys based on the anlysis of the datasets in detail by statistics and association rule mining. Firstly, there are only partial predicates supported or all predicates but with low efficiency for traditional indexes. To solve this problem, this project aims to design efficient indexes based on trie and inverted index. Secondly, this project tries to solve the problem of power-law distribution in inverted index by materilizing the intersection of long lists which are frequently accessed. At last, this project researches parallel set indexing and queries on morden GPU platform. Comprehensive platform for set-valued data will be designed to evluate the efficiency of indexing and algorithms proposed. The main research achievements can be beneficial to the improvement and perfection of set data management.
集合值处理广泛应用于数据库、数据挖掘、信息检索、生物信息系统等领域,索引对提高集合值处理效率至关重要,但随着数据量的不断增长,集合值处理面临较大的挑战。本项目从以下方面进行了研究:.对集合值索引结构和算法进行了综述,介绍了常见的过滤技术和算法及其特点等,并指出了本领域存在的挑战和未来努力的方向,为本领域相关研究提供较为详尽的参考。采用频繁模式挖掘等方式对集合数据统计特性进行了分析,提出了Dfimud、UWEFP等频繁模式挖掘算法,可显著提升频繁模式挖掘的效率。该综述和数据分析有助于设计更高效的索引结构和算法。.针对集合包含查询,基于OpenMP并行原语库实现高效的并行子集、等值和超集查询算法,通过for循环并行化来实现查询间并行执行,通过高效的并行共享数据结构PVEC和CountArr及采用高效的调度策略等方式来提高算法的并行度和集合包含查询的效率。.针对基于trie的集合索引结构,着重研究了双数组这一时空高效的trie结构。针对双数组构造效率低的不足,分析发现冲突是构造效率低的主要原因,提出分区双数组结构,可有效将冲突限制在分区范围内,从而降低冲突和冲突处理代价。.针对倒排索引的优化,提出了长度分区的倒排索引结构,通过对倒排索引分区并高效对分区进行组织,可快速过滤不可能满足相似度的集合,从而提高相似度查询的效率。.针对并行算法,基于GPU平台研究了集合T-覆盖查询算法,提出了哈希分段技术,设计了基于GPU的hash分段反向索引结构GHSII并提出高效的T覆盖查询算法GSPS,可充分利用GPU中的快速共享内存,显著降低访问低速设备内存的次数,结合启发式查询序优化来解决负载均衡问题,提高了现有T覆盖查询算法的效率。.最后,项目组还尝试了将集合处理技术和空间技术、自然语言处理等技术结合的研究。提出了高效的空间填充曲线编码算法、研究了基于trie的空间文本索引结构、高效的语义扩展和语义消岐技术、高效的分类算法等,这些为下一步深化集合值索引结构和相关应用打下了坚实的基础。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
登录
查看更多内容
DOI:
--
发表时间:
2017
期刊:
小型微型计算机系统
影响因子:
--
作者:
[崔红波, 游进国, 简兴明, 张正凡, 丁家满]
通讯作者:
丁家满
DOI:
10.16112/j.cnki.53-1223/n.2016.01.009
发表时间:
2016
期刊:
昆明理工大学学报(自然科学版)
影响因子:
--
作者:
[贾连印, 章永彬, 李孟娟, 丁家满, 游进国, 陈玮]
通讯作者:
陈玮
DOI:
10.19650/j.cnki.cjsi.j1804508
发表时间:
2019
期刊:
仪器仪表学报
影响因子:
--
作者:
[丁家满, 原琦, 任东磊, 贾连印, 游进国]
通讯作者:
游进国
DOI:
--
发表时间:
2016
期刊:
云南大学学报(自然科学版)
影响因子:
--
作者:
[李孟娟, 贾连印, 陈文焰, 吕晓伟, 章露露]
通讯作者:
章露露
DOI:
--
发表时间:
2018
期刊:
小型微型计算机系统
影响因子:
--
作者:
[简兴明, 游进国, 梁月明, 贾连印]
通讯作者:
贾连印
共 15 条
高效Hilbert空间填充曲线编解码算法及其在空间关键词查询中的应用
-
批准号:62262035
-
项目类别:地区科学基金项目
-
资助金额:34万元
-
批准年份:2022
-
负责人:贾连印
-
依托单位:
国内基金
海外基金