Peta-scale Data Processing for Large-scale Heterogeneous Clusters

大规模异构集群的千万亿级数据处理

基本信息

  • 批准号:
    23700031
  • 负责人:
  • 金额:
    $ 2.66万
  • 依托单位:
  • 依托单位国家:
    日本
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
  • 财政年份:
    2011
  • 资助国家:
    日本
  • 起止时间:
    2011 至 2012
  • 项目状态:
    已结题

项目摘要

We developed a MapReduce framework for GPU-based heterogeneous clusters as an instance of a future large-scale new platform with heterogeneous many core processors for big data applications. We confirmed performance scalability and overhead of our MapReduce framework by running MapReduce-based graph processing applications using 256 nodes 768GPUs of the TSUBAME2.0 supercomputer. Our results lead the foundation of softwaretechnology for next-generation extreme big data processing.
我们为基于 GPU 的异构集群开发了 MapReduce 框架,作为未来大数据应用的具有异构多核处理器的大规模新平台的实例。我们通过使用 TSUBAME2.0 超级计算机的 256 个节点 768GPU 运行基于 MapReduce 的图形处理应用程序,确认了 MapReduce 框架的性能可扩展性和开销。我们的研究结果为下一代极端大数据处理的软件技术奠定了基础。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
大規模並列ファイルシステムに対するワークフローアプリケーションのI/O性能解析
大规模并行文件系统工作流应用程序的I/O性能分析
  • DOI:
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    斎藤貴文;佐藤仁;松岡聡
  • 通讯作者:
    松岡聡
Hadoop on the Tsubame2.0 Supercomputer
Tsubame2.0 超级计算机上的 Hadoop
  • DOI:
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Yoshiyuki Kozuka;Nobuhiro Ito;Kazunori Iwata;Toshiya Mori and Yoshinobu Kawabe;Hiroyuki Takizawa;Hitoshi Sato and Satoshi Matsuoka
  • 通讯作者:
    Hitoshi Sato and Satoshi Matsuoka
汎用グラフ処理モデルGIM-Vの複数GPUによる大規模計算とデータ転送の最適化
通用图处理模型GIM-V的使用多个GPU的大规模计算和数据传输的优化
  • DOI:
  • 发表时间:
    2012
  • 期刊:
  • 影响因子:
    0
  • 作者:
    白幡晃一;佐藤仁;鈴村豊太郎;松岡聡
  • 通讯作者:
    松岡聡
GPGPUを用いた高速大規模グラフ処理に向けて
使用 GPGPU 实现高速大规模图形处理
  • DOI:
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    白幡晃一;佐藤仁;鈴村豊太郎;松岡聡
  • 通讯作者:
    松岡聡
A Scalable Implementation of a MapReduce-based Graph Processing Algorithm for Large-scale Heterogeneous Supercomputers
针对大规模异构超级计算机的基于 MapReduce 的图形处理算法的可扩展实现
  • DOI:
  • 发表时间:
    2013
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Koichi Shirahata;Hitoshi Sato;Toyotaro Suzumura;and Satoshi Matsuoka
  • 通讯作者:
    and Satoshi Matsuoka
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

SATO Hitoshi其他文献

SATO Hitoshi的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('SATO Hitoshi', 18)}}的其他基金

Development of the simulation training for anesthesiologists who take a long rest
麻醉师长时间休息模拟训练的开发
  • 批准号:
    24791612
  • 财政年份:
    2012
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
A study of accountability system for teacher preparation programs in the US
美国教师培训项目问责制研究
  • 批准号:
    23730778
  • 财政年份:
    2011
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
Metal-insulator transition and orbital state of quasi-one-dimensional vanadium system
准一维钒系金属-绝缘体跃迁与轨道态
  • 批准号:
    23540412
  • 财政年份:
    2011
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
Development of a portable type open-window-ionization chamberin mammography
便携式乳腺X线开窗电离室的研制
  • 批准号:
    22591373
  • 财政年份:
    2010
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
Empirical study of systematic evaluation system in teacher preparation program
教师培养项目系统评价体系实证研究
  • 批准号:
    20730505
  • 财政年份:
    2008
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
Spectroscopic Studies on Mechanism of Metal-Insulator Transition of Titanium and Vanadium Oxides
钛、钒氧化物金属-绝缘体转变机理的光谱研究
  • 批准号:
    17540329
  • 财政年份:
    2005
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
Study on the metal-insulator transition of Ti oxide single crystals caused from the band filling by means of photoemission and inverse-photoemission spectroscopies
利用光电发射光谱和反光电发射光谱研究Ti氧化物单晶因带填充引起的金属-绝缘体转变
  • 批准号:
    15540313
  • 财政年份:
    2003
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)

相似海外基金

人工知能技術を活用する時空間データ分散処理システムの開発
利用人工智能技术开发时空数据分布式处理系统
  • 批准号:
    24K14961
  • 财政年份:
    2024
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
超並列分散処理の細胞実装機構を解明するイメージング法の開発
开发一种成像方法来阐明大规模并行分布式处理的细胞实现机制
  • 批准号:
    23K18168
  • 财政年份:
    2023
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Challenging Research (Exploratory)
リアルタイムアプリケーション向けの仮想時刻共有型の分散処理方式
面向实时应用的虚拟分时分布式处理方法
  • 批准号:
    23K16867
  • 财政年份:
    2023
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Early-Career Scientists
車載計算リソースを利用するセキュア分散処理フレームワークの研究
利用车载计算资源的安全分布式处理框架研究
  • 批准号:
    21K11877
  • 财政年份:
    2021
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
IoTデータ流を実時間で価値化する分散処理基盤の研究開発
研发将物联网数据流实时转化为价值的分布式处理平台
  • 批准号:
    17J10021
  • 财政年份:
    2017
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
GPUクラスタを用いた半構造データの並列分散処理基盤の構築
利用GPU集群构建半结构化数据并行分布式处理平台
  • 批准号:
    15J02121
  • 财政年份:
    2015
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
都市インフラのモニタリングのためネットワークセンサーと分散処理に関する研究
城市基础设施监测网络传感器与分布式处理研究
  • 批准号:
    07F07113
  • 财政年份:
    2007
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for JSPS Fellows
ピアツーピア分散処理環境のための自己再生型分散ファイルシステムに関する研究
对等分布式处理环境的自复制分布式文件系统研究
  • 批准号:
    18700056
  • 财政年份:
    2006
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
大規模光回路の高精度解析設計システムの開発とその並列・分散処理化
大规模光路高精度分析设计系统及其并行/分布式处理开发
  • 批准号:
    18760277
  • 财政年份:
    2006
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
木構造スキーマを持つデータベースの分散処理に関する研究
树结构数据库分布式处理研究
  • 批准号:
    17700109
  • 财政年份:
    2005
  • 资助金额:
    $ 2.66万
  • 项目类别:
    Grant-in-Aid for Young Scientists (B)
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了