Accelerating Data Analytics Through Emerging Software-Hardware Mechanisms

通过新兴软硬件机制加速数据分析

基本信息

  • 批准号:
    RGPIN-2015-04358
  • 负责人:
  • 金额:
    $ 2.62万
  • 依托单位:
  • 依托单位国家:
    加拿大
  • 项目类别:
    Discovery Grants Program - Individual
  • 财政年份:
    2018
  • 资助国家:
    加拿大
  • 起止时间:
    2018-01-01 至 2019-12-31
  • 项目状态:
    已结题

项目摘要

The objectives of this research are to investigate algorithms, design, and architectures for enabling an efficient real-time event data analytics platform to support multi-query processing over high-volume and high-frequency event streams. To achieve these objectives, we plan to leverage modern hardware mechanisms, such as Field Programmable Gate Arrays (FPGAs) and Application Processing Units (APUs) in our design. We strive to achieve line-rate multi-query processing by exploiting unprecedented degrees of parallelism and potential for pipelining, only available through custom-built, application-specific and low-level logic design. Furthermore, we intend to compare against the use of emerging Graphical Processing Units (GPUs) in our design, evaluating above all performance, but also development effort.******The need for efficient real-time analytics is an integral part of a growing number of data management problem scenarios such as business analytics, big data processing, and complex event processing. Common among all these scenarios is a predefined set of continuous queries and an unbounded event stream of incoming data that must be processed against the queries in real-time.******However, the vision of enhancing data analytics computations with FPGAs has a few caveats that make acceleration a challenging undertaking. First, current FPGAs are still much slower compared to commodity CPUs. Second, the accelerated application functionality has to be amenable to parallel processing. Third, the on-/off-chip data rates must keep up with chip processing speeds to realize a processing speedup by keeping the custom-built processing pipeline busy. Finally, FPGAs restrict the designer's flexibility and the application's dynamism, both of which are hardly a concern in standard software solutions.******By meeting these challenges in our approach, we propose an FPGA-based real-time analytics platform that supports line-rate processing of data streams over a collection of continuous queries. We plan to explore this problem space along the following three dimensions: (1) Design high-throughput, custom circuits to implement the relational algebra operators, (2) design multi-query optimization techniques amenable to the features offered by FPGAs, (3) design software-to-hardware multi-query processing techniques that map a set of queries into a global query plan for processing by our custom circuits.
本研究的目标是调查算法,设计和架构,使一个有效的实时事件数据分析平台,以支持多查询处理高容量和高频率的事件流。为了实现这些目标,我们计划利用现代硬件机制,如现场可编程门阵列(FPGA)和应用处理单元(APU)在我们的设计。我们努力实现线速多查询处理,利用前所未有的并行度和潜在的流水线,只有通过定制的,特定于应用程序和低层次的逻辑设计。此外,我们打算在我们的设计中使用新兴的图形处理单元(GPU)进行比较,首先评估性能,但也评估开发工作。对高效实时分析的需求是越来越多的数据管理问题场景(如业务分析、大数据处理和复杂事件处理)的一个组成部分。 所有这些场景的共同点是一组预定义的连续查询和传入数据的无界事件流,这些数据必须根据查询实时处理。**然而,使用FPGA增强数据分析计算的愿景有一些警告,使加速成为一项具有挑战性的任务。首先,与商品CPU相比,当前的FPGA仍然要慢得多。其次,加速的应用程序功能必须适合并行处理。第三,片上/片外数据速率必须跟上芯片处理速度,以通过保持定制的处理流水线忙碌来实现处理加速。最后,FPGA限制了设计人员的灵活性和应用程序的动态性,这两者在标准软件解决方案中几乎都不是问题。通过在我们的方法中应对这些挑战,我们提出了一个基于FPGA的实时分析平台,该平台支持在连续查询集合上对数据流进行线速处理。 我们计划沿着以下三个维度探索这个问题空间:(1)设计高吞吐量的自定义电路来实现关系代数运算符,(2)设计符合FPGA提供的功能的多查询优化技术,(3)设计软件到硬件的多查询处理技术,将一组查询映射到一个全局查询计划中,以便由我们的自定义电路进行处理。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Jacobsen, HansArno其他文献

Jacobsen, HansArno的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Jacobsen, HansArno', 18)}}的其他基金

Learning Clouds
学习云
  • 批准号:
    RGPIN-2020-05819
  • 财政年份:
    2022
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual
Learning Clouds
学习云
  • 批准号:
    RGPIN-2020-05819
  • 财政年份:
    2021
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual
Enabling a highly-scalable, cloud-based microservices architecture
实现高度可扩展、基于云的微服务架构
  • 批准号:
    513199-2017
  • 财政年份:
    2020
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Collaborative Research and Development Grants
Learning Clouds
学习云
  • 批准号:
    RGPIN-2020-05819
  • 财政年份:
    2020
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual
Accelerating Data Analytics Through Emerging Software-Hardware Mechanisms
通过新兴软硬件机制加速数据分析
  • 批准号:
    RGPIN-2015-04358
  • 财政年份:
    2019
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual
Enabling a highly-scalable, cloud-based microservices architecture
实现高度可扩展、基于云的微服务架构
  • 批准号:
    513199-2017
  • 财政年份:
    2019
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Collaborative Research and Development Grants
ETCHING: Edge-To-Cloud Heterogeneous Infrastructure NetworkinG
ETCHING:边缘到云异构基础设施网络
  • 批准号:
    RTI-2020-00136
  • 财政年份:
    2019
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Research Tools and Instruments
Enabling a highly-scalable, cloud-based microservices architecture
实现高度可扩展、基于云的微服务架构
  • 批准号:
    513199-2017
  • 财政年份:
    2018
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Collaborative Research and Development Grants
Accelerating Data Analytics Through Emerging Software-Hardware Mechanisms
通过新兴软硬件机制加速数据分析
  • 批准号:
    RGPIN-2015-04358
  • 财政年份:
    2017
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual
Accelerating Data Analytics Through Emerging Software-Hardware Mechanisms
通过新兴软硬件机制加速数据分析
  • 批准号:
    RGPIN-2015-04358
  • 财政年份:
    2016
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Grants Program - Individual

相似国自然基金

Data-driven Recommendation System Construction of an Online Medical Platform Based on the Fusion of Information
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    万元
  • 项目类别:
    外国青年学者研究基金项目
Scalable Learning and Optimization: High-dimensional Models and Online Decision-Making Strategies for Big Data Analysis
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    万元
  • 项目类别:
    合作创新研究团队
Development of a Linear Stochastic Model for Wind Field Reconstruction from Limited Measurement Data
  • 批准号:
  • 批准年份:
    2020
  • 资助金额:
    40 万元
  • 项目类别:
基于Linked Open Data的Web服务语义互操作关键技术
  • 批准号:
    61373035
  • 批准年份:
    2013
  • 资助金额:
    77.0 万元
  • 项目类别:
    面上项目
Molecular Interaction Reconstruction of Rheumatoid Arthritis Therapies Using Clinical Data
  • 批准号:
    31070748
  • 批准年份:
    2010
  • 资助金额:
    34.0 万元
  • 项目类别:
    面上项目
高维数据的函数型数据(functional data)分析方法
  • 批准号:
    11001084
  • 批准年份:
    2010
  • 资助金额:
    16.0 万元
  • 项目类别:
    青年科学基金项目
染色体复制负调控因子datA在细胞周期中的作用
  • 批准号:
    31060015
  • 批准年份:
    2010
  • 资助金额:
    25.0 万元
  • 项目类别:
    地区科学基金项目
Computational Methods for Analyzing Toponome Data
  • 批准号:
    60601030
  • 批准年份:
    2006
  • 资助金额:
    17.0 万元
  • 项目类别:
    青年科学基金项目

相似海外基金

Home Office National Crime and Justice Lab Policy: Crime Data Analytics UKRI Policy Fellowship
内政部国家犯罪和司法实验室政策:犯罪数据分析 UKRI 政策奖学金
  • 批准号:
    ES/Y004930/1
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Fellowship
CellScope: A marketplace for recycling/upcycling Battery Cells from e-waste powered by traceable health analytics data
CellScope:从电子垃圾中回收/升级电池的市场,由可追踪的健康分析数据提供支持
  • 批准号:
    10114372
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    SME Support
REU Site: Online Interdisciplinary Big Data Analytics in Science and Engineering
REU 网站:科学与工程领域的在线跨学科大数据分析
  • 批准号:
    2348755
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Standard Grant
REU Site: Multidisciplinary Graph Data Analytics
REU 网站:多学科图数据分析
  • 批准号:
    2349486
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Standard Grant
Project North AI - a new data and analytics platform that uses AI to support the financing and distribution of independent film
Project North AI - 一个新的数据和分析平台,利用人工智能支持独立电影的融资和发行
  • 批准号:
    10103511
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Investment Accelerator
Research Coordination Network (RCN) for Privacy Preserving Data Sharing and Analytics
用于隐私保护数据共享和分析的研究协调网络 (RCN)
  • 批准号:
    2413978
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Standard Grant
Conference: Workshop on Sports Analytics to Strengthen Data Science Undergraduate Curriculum
会议:加强数据科学本科课程的体育分析研讨会
  • 批准号:
    2309891
  • 财政年份:
    2024
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Standard Grant
Integrated data led analytics for financial planners
面向财务规划人员的集成数据主导分析
  • 批准号:
    10058015
  • 财政年份:
    2023
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Collaborative R&D
Trust-Oriented Data Analytics in Online Social Networks
在线社交网络中面向信任的数据分析
  • 批准号:
    DP230100676
  • 财政年份:
    2023
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Discovery Projects
Data Analytics for Urban Environmental Planning
城市环境规划数据分析
  • 批准号:
    2888288
  • 财政年份:
    2023
  • 资助金额:
    $ 2.62万
  • 项目类别:
    Studentship
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了