Give MPI Threading a Fair Chance: A Study of Multithreaded MPI Designs
Give MPI Threading a Fair Chance: A Study of Multithreaded MPI Designs
复制标题
给 MPI 线程一个公平的机会：多线程 MPI 设计研究
DOI：
10.1109/cluster.2019.8891015
复制
发表时间：
2019
期刊：
影响因子：
--
通讯作者：
Hjelm, N.
中科院分区：
文献类型：
--
作者：
Patinyasakdikul, T.;Eberius, D.;Bosilca, G.;Hjelm, N.
在过去的十年中，消息传递接口（MPI）已经成为高性能计算（HPC）中最突出的编程范例之一。最近，随着现代硬件的变化导致处理器内核数量的急剧增加，并行应用程序的开发人员正在转向更集成的并行编程范式，其中MPI与其他可能的节点级编程范式或MPI+X一起使用。根据对HPC社区的一项调查，MPI+线程成为HPC社区中最受欢迎的选择之一。然而，MPI中的线程支持对交付的整体性能有许多损害，因此，它的采用受到了损害。本文对MPI的主要实现之一Open MPI中的MPI多线程实现设计进行了深入的研究，并揭示了当前设计的一些不足。我们提出、实现并评估了一种通信进程内部处理的新设计，它可以显著提高多线程性能，增加MPI在MPI+X编程范式中的可行性。
The Message Passing Interface (MPI) has been one of the most prominent programming paradigms in high-performance computing (HPC) for the past decade. Lately, with changes in modern hardware leading to a drastic increase in the number of processor cores, developers of parallel applications are moving toward more integrated parallel programming paradigms, where MPI is used along with other, possibly node-level, programming paradigms, or MPI+X. MPI+threads emerged as one of the favorite choices in HPC community, according to a survey of the HPC community. However, threading support in MPI comes with many compromises to the overall performance delivered, and, therefore, its adoption is compromised. This paper studies in depth the MPI multi-threaded implementation design in one of the leading MPI implementations, Open MPI, and expose some of the shortcomings of the current design. We propose, implement, and evaluate a new design of the internal handling of communication progress which allows for a significant boost in multi-threading performance, increasing the viability of MPI in the MPI+X programming paradigm.
登录
查看更多内容
MPC-MPI：减少总体内存消耗的 MPI 实现
DOI：
--
发表时间：
2009
期刊：
PVM/MPI
影响因子：
--
作者：
Marc Pérache;Patrick Carribault;H. Jourdren
通讯作者：
H. Jourdren
提高MPI多线程RMA通信性能
DOI：
--
发表时间：
2018
期刊：
International Conference on Parallel Processing
影响因子：
--
作者：
N. Hjelm;Matthew G. F. Dosanjh;Ryan E. Grant;Taylor L. Groves;P. Bridges;D. Arnold
通讯作者：
D. Arnold
多速率：用于快速评估多线程通信性能的灵活 MPI 基准
DOI：
--
发表时间：
2019
期刊：
Workshop on Exascale MPI
影响因子：
--
作者：
Thananon Patinyasakdikul;Xi Luo;David Eberius;G. Bosilca
通讯作者：
G. Bosilca
测量多线程消息匹配的痛苦
DOI：
--
发表时间：
2018
期刊：
European Conference on Parallel Processing
影响因子：
--
作者：
W. Schonbein;Matthew G. F. Dosanjh;Ryan E. Grant;P. Bridges
通讯作者：
P. Bridges
进程中进程：实用地址空间共享技术
DOI：
--
发表时间：
2018
期刊：
IEEE International Symposium on High-Performance Parallel Distributed Computing
影响因子：
--
作者：
A. Hori;Min Si;Balazs Gerofi;Masamichi Takagi;Jai Dayal;P. Balaji;Y. Ishikawa
通讯作者：
Y. Ishikawa