sibsutisВестник СибГУТИThe Herald of the Siberian State University of Telecommunications and Information Science1998-6920СибГУТИ10.55648/1998-6920-2022-16-2-3-11sibsutis-128Research ArticleСтатьиИерархический алгоритм барьерной синхронизации для многопроцессорных систем с общей памятьюBarrier synchronization hierarchical algorithm for multicore shared-memory systemsКурносовМихаил ГеоргиевичKurnosovMikhail GeorgievichКурносов Михаил Георгиевич, д.т.н., профессор, профессор кафедры вычислительных систем; старший научный сотрудник 

630102, Новосибирск, ул. Кирова, 86, тел. (383) 269-83-82

630090, Новосибиpск, пpосп. Академика Лавpентьева, 13, тел. (383) 330-56-26

Mikhail G. Kurnosov, Doctor of technical sciences, Professor

Novosibirsk

mkurnosov@sibguti.ruСибирский государственный университет телекоммуникаций и информатики; Институт физики полупроводников им. А. В. Ржанова СО РАНРоссияSiberian State University of Telecommunications and Information ScienceRussian Federation20222207202202Вестник СибГУТИ311Copyright © Курносов М.Г., 20222022Курносов М.Г.Kurnosov M.G.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.sibsutis.ru/jour/article/view/128

Разработан иерархический алгоритм барьерной синхронизации стандарта MPI, которыйформирует группы процессов, разделяющие общие ресурсы на уровнях иерархии памяти:кеш-память L2/L3, NUMA-узел, процессор. Синхронизация выполняется параллельно вгруппах на каждом уровне иерархии, что позволяет локализовать межпроцессные взаимо-действия. Реализация выполнена на базе библиотеки Open MPI. Эксперименты на серверес двумя процессорами Huawei Kunpeng (128 ядер, 4 NUMA-узла) показали, что предложен-ный алгоритм с группировкой процессов по NUMA-узлам обеспечивает минимальноевремя выполнения по сравнению с известными методами и устойчив к изменению способараспределения процессов по процессорным ядрам.

A hierarchical MPI barrier synchronization algorithm creating groups of processes that share common re-sources at the memory hierarchy levels (L2/L3 caches, NUMA node, socket) is proposed. Synchronization isperformed in groups at each level of the hierarchy. Experiments on a dual-socket server with two HuaweiKunpeng processors (128 cores, 4 NUMA nodes) showed that the proposed algorithm with NUMA nodesprocess grouping provides the minimum execution time compared to known methods and is resistant to differ-ent schemes of process placement.

барьерсинхронизацияMPIarriershared memoryMPINUMAРабота выполнена в рамках Государственного задания No 071-03-2022-001.ReferencesJain S., Kaleem R., Balmana M., Langer A., Durnov D., Sannikov A. and Garzaran M. Framework for Scalable Intra-Node Collective Operations using Shared Memory // Proc. of the International Conference for High Performance Computing, Networking, Storage, and Analysis (SC-2018), 2018. P. 374–385.Jain S., Kaleem R., Balmana M., Langer A., Durnov D., Sannikov A. and Garzaran M. Framework for Scalable Intra-Node Collective Operations using Shared Memory. Proc. of the International Conference for High Performance Computing, Networking, Storage, and Analysis (SC-2018), 2018, pp. 374-385.Курносов М. Г., Токмашева Е. И. Оптимизация барьерной синхронизации на асимметричных NUMA-подсистемах процессорных ядер // Вестник СибГУТИ. 2021. № 1. C. 36–49.Kurnosov M.G., Tokmasheva E.I. Optimizacija bar'ernoj sinhronizacii na asimmetrichnyh NUMApodsistemah processornyh jader [Barrier Optimization on Asymmetrical NUMA Subsystems]. Vestnik SibGUTI, 2021, no. 1, pp. 36-49.Yew P. C., Tzeng N. F., Lawrie D. H. Distributing Hot Spot Addressing in Large Scale Multiprocessors // IEEE Transactions on Computers. 1987. V. C-36, Is. 4. P. 388–395.Yew P.C., Tzeng N.F., Lawrie D.H. Distributing Hot Spot Addressing in Large Scale Multiprocessors. IEEE Transactions on Computers, 1987, vol. C-36, iss. 4, pp. 388-395.Mellor-Crummey J. M., Scott M. L. Algorithms for Scalable Synchronization on Shared-memory Multiprocessors // ACM Transactions on Computer Systems. 1991. № 9 (1). P. 21–65.Mellor-Crummey J.M., Scott M.L. Algorithms for Scalable Synchronization on Shared-memory Multiprocessors. ACM Transactions on Computer Systems, 1991, vol. 9(1), pp. 21-65.Hengsen D., Finkel R., Manber U. Two Algorithms for Barrier Synchronization // Int. Journal of Parallel Programming. 1988. V. 17, Is. 1. P. 1–17.Hengsen D., Finkel R., Manber U. Two Algorithms for Barrier Synchronization. Int. Journal of Parallel Programming, 1988, vol. 17, iss. 1, pp. 1-17.Brooks E. The butterfly barrier // Journal of Parallel Programming. 1986. V. 15, Is. 4. P. 295–307.Brooks E. The butterfly barrier. Journal of Parallel Programming, 1986, vol. 15, iss. 4, pp. 295-307.

The authors declare that there are no conflicts of interest present.