sibsutisВестник СибГУТИThe Herald of the Siberian State University of Telecommunications and Information Science1998-6920СибГУТИ10.55648/1998-6920-2022-16-3-38-47sibsutis-149Research ArticleСтатьиАлгоритмы нерегулярных коллективных операций стандарта MPI для систем с разделяемой памятьюShared Memory-based Algorithms for Vector Collective Operations of the MPI StandardРоманютаА. А.RomanyutaA. A.

Романюта Алексей Андреевич - аспирант 1 курса, ассистент кафедры вычислительных систем СибГУТИ.

630102, Новосибирск, ул. Кирова, 86.

Alexey A. Romanyuta - Computer systems department, SibSUTIS.

Novosibirsk.

alexey_r.98@ngs.ruКурносовМ. Г.KurnosovM. G.

Курносов Михаил Георгиевич – доктор технических наук, профессор, профессор кафедры вычислительных систем СибГУТИ; старший научный сотрудник ИФП им. А. В. Ржанова СО РАН.

630090, Новосибиpск, пp. Ак. Лавpентьева, 13.

 Тел. (383)  269-83-82; (383) 330-56-26

Mikhail G. Kurnosov - Doctor of Technical Science, Professor, SibSUTIS; Senior Research Scientist, Computer Systems Laboratory, Rzhanov Institute of Semiconductor Physics of the Siberian Branch of the RAS.

Novosibirsk.

mkurnosov@sibsutis.ruСибирский государственный университет телекоммуникаций и информатикиРоссияSiberian State University of Telecommunications and Information ScienceRussian FederationСибирский государственный университет телекоммуникаций и информатики; Институт физики полупроводников им. А.В. Ржанова СО РАНРоссияSiberian State University of Telecommunications and Information Science; Rzhanov Institute of Semiconductor Physics of the Siberian Branch of the RASRussian Federation202201102022033847Copyright © Романюта А.А., Курносов М.Г., 20222022Романюта А.А., Курносов М.Г.Romanyuta A.A., Kurnosov M.G.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.sibsutis.ru/jour/article/view/149

Предложены алгоритмы реализации коллективных операций MPI_Scatterv, MPI_Gatherv, MPI_Allgatherv для многопроцессорных SMP/NUMA-систем. Алгоритмы используют подход на основе копирования фрагментов сообщений через очереди в сегменте совместно используемой памяти (Copy-In-Copy-Out). Программная реализация выполнена на базе библиотеки Open MPI и в среднем на 20–40 % обеспечивает меньшее время выполнения операций MPI_Scatterv, MPI_Gatherv, MPI_Allgatherv по сравнению с реализацией в компоненте coll/tuned библиотеки Open MPI.

Algorithms for MPI_Scatterv, MPI_Gatherv, MPI_Allgatherv collective operations using the shared memory of multiprocessor SMP/NUMA systems are proposed. The algorithms use an approach based on copying message fragments via queues in a shared memory segment (Copy-In-Copy-Out). The algorithms were implemented based on Open MPI and the execution time is reduced on average by 20-40% for the MPI_Scatterv, MPI_Gatherv, MPI_Allgatherv operations compared to the coll/tuned component of the Open MPI library.

коллективные операциивычислительные системыScattervGathervAllgathervMPIРабота выполнена в рамках государственного задания № 071-03-2022-001.ReferencesMPI: A Message-Passing Interface Standard Version 4.0 [Электронный ресурс]. URL: http://www.mpi-forum.org/docs/mpi-4.0/mpi40-report.pdf (дата обращения: 15.05.2022).MPI: A Message-Passing Interface Standard Version 4.0, available at: http://www.mpi-forum.org/docs/mpi-4.0/mpi40-report.pdf (accessed: 15.05.2022).Open MPI: Open Source High Performance Computing [Электронный ресурс]. URL: http://www.open-mpi.org (дата обращения: 15.05.2022).Open MPI: Open Source High Performance Computing, available at: http://www.open-mpi.org (accessed: 15.05.2022)CMA: Cross Memory Attach [Электронный ресурс]. URL: https://lwn.net/Articles/405284/ (дата обращения: 20.05.2022).CMA: Cross Memory Attach, available at: https://lwn.net/Articles/405284/ (accessed: 20.05.2022)KNEM High-Performance Intra-Node MPI Communication [Электронный ресурс].URL: https://knem.gitlabpages.inria.fr (дата обращения: 20.05.2022).KNEM High-Performance Intra-Node MPI Communication, available at: https://knem.gitlabpages.inria.fr (accessed: 20.05.2022)XPMEM: Linux Cross-Memory Attach [Электронный ресурс]. URL: https://github.com/hjelmn/xpmem (дата обращения: 20.05.2022).XPMEM: Linux Cross-Memory Attach, available at: https://github.com/hjelmn/xpmem (accessed: 20.05.2022)Курносов М. Г., Токмашева Е. И. Алгоритм широковещательной передачи стандарта MPI на базе разделяемой памяти многопроцессорных NUMA-узлов // Вестник СибГУТИ. 2020. № 1 (49). С. 42–59.Kurnosov, M. G., Tokmasheva E. I. Algoritm shirokoveshchatel'noj peredachi standarta MPI na baze razdelyaemoj pamyati mnogoprocessornyh NUMA-uzlov [MPI Broadcast Algorithm Based on Shared Memory of Multiprocessor NUMA Nodes]. Vestnik SibGUTI, 2020, no. 1, pp. 42-59.Graham R. L., Shipman G. MPI Support for Multi-core Architectures: Optimized Shared Memory Collectives // Proc. of the 15th European PVM/MPI Users’ Group Meeting, 2008. P. 130–140.Graham R. L., Shipman G. MPI Support for Multi-core Architectures: Optimized Shared Memory Collectives. Proc. of the 15th European PVM/MPI Users’ Group Meeting, 2008, pp. 130–140.Jain S., Kaleem R., Balmana M., Langer A., Durnov D., Sannikov A. and Garzaran M. Framework for Scalable Intra-Node Collective Operations using Shared Memory // Proc. of the International Conference for High Performance Computing, Networking, Storage, and Analysis (SC-2018), 2018. P. 374–385.Jain S., Kaleem R., Balmana M., Langer A., Durnov D., Sannikov A. and Garzaran M. Framework for Scalable Intra-Node Collective Operations using Shared Memory. Proc. of the International Conference for High Performance Computing, Networking, Storage, and Analysis (SC-2018), 2018, pp. 374–385.

The authors declare that there are no conflicts of interest present.