课题基金 / 基金详情

大规模存储系统性能测试方法与技术研究

批准号:
61170008
项目类别:
面上项目
资助金额:
61.0 万元
负责人:
郑纬民
依托单位:
学科分类:
计算机系统结构与硬件技术
结题年份:
2015
批准年份:
2011
项目状态:
已结题
项目参与者:
张广艳、钱凯、易乐天、罗象宏、李洪昌、程志强、张浩杰、丘建平

项目摘要

结项摘要

项目成果

郑纬民的其他基金

相似基金

相关文献

中文摘要
存储系统性能对于访问大量数据的应用至关重要。性能测试有助于确定影响存储系统性能的关键因素,从而可以有针对性地进行分析和改进。存储系统性能测试主要涉及两个技术挑战:创建真实的存储系统状态,生成有代表性的访问负载。虽然存储系统设计取得很大进步,但存储系统性能测试技术的发展却非常滞后。主要表现在一些关键技术问题依然悬而未决,例如:如何在B系统上重放从A系统采集的trace而又保持负载模式;如何保证分布式播放时整体负载的行为特征;如何快速构建大规模存储系统的真实状态。针对现有大规模存储系统性能测试技术的不足,本项目提出了大规模存储系统性能测试方法与技术研究,面向大规模存储系统性能测试的两大技术挑战,主要研究:访问trace的高效收集与合理重放技术;可扩展的有代表性人工负载生成方法;大规模存储系统真实状态的快速构建技术。最终目标是构建可重复、可扩展、易配置、可信赖的存储系统性能评测体系。
英文摘要
本项目顺利完成了研究计划中的全部内容,初步构建了高效率、可重复、可扩展的存储系统性能评测体系。主要学术进展包括:.① 研究了分级存储系统性能测试技术并实现了测试工具DMStone,它使用文件系统快照生成某一时刻的系统状态,并根据后续的相邻快照的差异分析出后续访问负载的宏观特征,进而生成后续对文件系统的数据访问。DMStone能够提供某一时刻完整的文件系统状态,涵盖了近期访问过的和长期不用的所有文件,而且它能够保证后续文件访问的局部性与真实应用场景相符合。.② 设计了一个块级别存储系统性能测试工具IOmark,它根据来自真实存储系统的I/O 记录生成相同的I/O 请求负载,以模拟运行环境的真实负载变化。使用Linux内核态异步I/O 实现对块级别存储系统的访问;通过跟踪生成的I/O 请求的状态和I/O 记录中的请求时间来控制I/O 请求的发送时间,并筛选I/O 记录中的盘号来控制负载轻重,从而实现精确地重放I/O 负载的功能。.③ 按照TPC-C标准设计并实现了一套符合标准的TPC-C评测程序,并对多套存储系统进行了测试。对TPC-C评测程序的负载特征进行量化分析,从底层磁盘阵列控制器和上层数据库系统两个方面分别对TPC-C程序的数据访问模式、数据块大小分布、读写频率,读写混合比例等进行分析。针对TPC-C评测程序的负载特征,提出一系列系统级优化方法。完成对多套服务器的TPC-C评测,其中,在4路英特尔至强服务器上TPMC值达到101.8万。.④ 本项目研究提出了一系列大规模存储系统性能测试方法与技术,在Linux系统中设计并实现了块级别、文件级别存储系统性能测试工具。这些方法和工具帮助我们理解存储系统内在特征和应用I/O负载模式,为存储阵列、云存储系统、大数据计算等相关技术研究提供了有力支撑,加速了相关成果的提出、实现和优化。.主要学术成绩包括:发表学术论文16篇,其中5篇发表在系统领域国际顶尖期刊ACM Transactions on Storage、IEEE Transactions on Computers、IEEE Transactions on Parallel and Distributed Systems上,SCI 检索8 篇,EI 检索13 篇。获得发明专利授权1 项,申请发明专利1 项。课题负责人郑纬民教授获得2015年度国家技术发明奖二等奖1项。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
AIP: A Tool for Flexible and Transparent Data Management
AIP:灵活透明的数据管理工具
DOI: --
发表时间: --
期刊: Science China Information Sciences
影响因子: --
作者: [Guangyan Zhang, Jianping Qiu, Jiwu Shu, Weimin Zheng]
通讯作者: Weimin Zheng
DOI: 10.1109/tcc.2015.2511752
发表时间: 2020-10
期刊: IEEE Transactions on Cloud Computing
影响因子: 6.5
作者: [Shengmei Luo;Guangyan Zhang;Chengwen Wu;S. Khan;Keqin Li]
通讯作者: Shengmei Luo;Guangyan Zhang;Chengwen Wu;S. Khan;Keqin Li
DOI: 10.1145/2491054
发表时间: 2013-11
期刊: ACM Trans. Storage
影响因子: --
作者: [Guangyan Zhang;Weimin Zheng;Keqin Li]
通讯作者: Guangyan Zhang;Weimin Zheng;Keqin Li
Re-Stream: Real-time and energy-efficient resource scheduling in big data stream computing environments
Re-Stream:大数据流计算环境中实时、节能的资源调度
DOI: 10.1016/j.ins.2015.03.027
发表时间: 2015-10-20
期刊: INFORMATION SCIENCES
影响因子: 8.1
作者: [Sun, Dawei, Zhang, Guangyan, Li, Keqin]
通讯作者: Li, Keqin
共 17 条
    多核处理器系统的流式优化研究
    • 批准号:
      60673144
    • 项目类别:
      面上项目
    • 资助金额:
      25.0万元
    • 批准年份:
      2006
    • 负责人:
      郑纬民
    • 依托单位:
    对等计算及广域网虚拟平台
    • 批准号:
      60433040
    • 项目类别:
      联合基金项目
    • 资助金额:
      200.0万元
    • 批准年份:
      2004
    • 负责人:
      郑纬民
    • 依托单位:
    生物序列分析的高效并行算法研究
    • 批准号:
      60273007
    • 项目类别:
      面上项目
    • 资助金额:
      24.0万元
    • 批准年份:
      2002
    • 负责人:
      郑纬民
    • 依托单位:
    网络计算程序的编译与执行模式的研究
    • 批准号:
      69873023
    • 项目类别:
      面上项目
    • 资助金额:
      12.0万元
    • 批准年份:
      1998
    • 负责人:
      郑纬民
    • 依托单位:
    国内基金
    海外基金