sibsutisВестник СибГУТИThe Herald of the Siberian State University of Telecommunications and Information Science1998-6920СибГУТИsibsutis-453Research ArticleСтатьиЭвристические алгоритмы оптимизации информационных обменов в параллельных PGAS-программахHeuristic algorithms of communication optimization in parallel PGAS-programsКулагинИ. И.KulaginI. ..ivan.i.kulagin@gmail.comПазниковА. А.PaznikovA. ..apaznikov@gmail.comКурносовМ. Г.KurnosovM. ..mkurnosov@gmail.comСибГУТИRussian Federation201426102022035266Copyright © Кулагин И.И., Пазников А.А., Курносов М.Г., 20222022Кулагин И.И., Пазников А.А., Курносов М.Г.Kulagin I..., Paznikov A..., Kurnosov M...Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestnik.sibsutis.ru/jour/article/view/453

В работе предложены эвристические алгоритмы оптимизации информационных обменов в параллельных PGAS-программах, обеспечивающие сокращение времени их выполнения. Последнее достигается с помощью учёта иерархической структуры вычислительных систем при выполнении операции редукции и опережающего копирования удалённых массивов на узлы вычислительной системы. Созданные алгоритмы программно реализованы для PGAS-языков Cray Chapel и IBM X10; проведено их экспериментальное исследование на кластерных вычислительных системах.

This paper represents the heuristic algorithms of communication optimization in parallel PGAS-programs providing time minimization of its execution. This is achieved by accounting of hierarchical structure of computer systems while executing reduction and preloading of remote arrays to computer system's nodes. Developed algorithms are implemented for PGAS languages: Cray Chapel and IBM X10 and simulated on cluster computer systems.

параллельное программированиекомпиляторная оптимизацияредукцияскалярная заменаPGASCray ChapelIBM X10PGAScompiler optimizationreductionscalar replaceCray ChapelIBM X10ReferencesХорошевский В.Г. Распределённые вычислительные системы с программируемой струк-турой // Вестник СибГУТИ. 2010. № 2 (10). С. 3-41.Хорошевский В.Г. Распределённые вычислительные системы с программируемой струк-турой // Вестник СибГУТИ. 2010. № 2 (10). С. 3-41.Rabenseifner R. Optimization of Collective Reduction Operations // Computational Science - ICCS 2004 - Lecture Notes in Computer Science. 2004. Vol. 3036. P. 1-9.Rabenseifner R. Optimization of Collective Reduction Operations // Computational Science - ICCS 2004 - Lecture Notes in Computer Science. 2004. Vol. 3036. P. 1-9.Li S., Hoefler T., Snir M. NUMA-Aware Shared-Memory Collective Communication for MPI // HPDC 2013. 2013. P. 85-96.Li S., Hoefler T., Snir M. NUMA-Aware Shared-Memory Collective Communication for MPI // HPDC 2013. 2013. P. 85-96.Курносов М.Г. Алгоритмы трансляционно-циклических информационных обменов в иерархических распределённых вычислительных системах // Вестник компьютерных и информационных технологий. 2011. № 5. С. 27 - 34.Курносов М.Г. Алгоритмы трансляционно-циклических информационных обменов в иерархических распределённых вычислительных системах // Вестник компьютерных и информационных технологий. 2011. № 5. С. 27 - 34.Kennedy K., Allen John R. Optimizing compilers for modern architectures: a dependence-based approach. Morgan Kaufmann Publishers Inc. San Francisco, CA, USA 2002. 834 p.Kennedy K., Allen John R. Optimizing compilers for modern architectures: a dependence-based approach. Morgan Kaufmann Publishers Inc. San Francisco, CA, USA 2002. 834 p.Barik R., Zhao J., Grove D., Peshansky I., Budimlic Z., Sarkar V. Communication Optimizations for Distirbuted - Memory X10 Programs // IEEE International Parallel and Distributed Processing Symposium. 2011. P. 1 - 13.Barik R., Zhao J., Grove D., Peshansky I., Budimlic Z., Sarkar V. Communication Optimizations for Distirbuted - Memory X10 Programs // IEEE International Parallel and Distributed Processing Symposium. 2011. P. 1 - 13.Chen W., Iancu C., Yelick K. Communication Optimizations for Fine-grained UPC Applications // 14th International Conference on Parallel Architectures and Compilation Techniques (PACT), 2005. Tech Report LBNL-58382.Chen W., Iancu C., Yelick K. Communication Optimizations for Fine-grained UPC Applications // 14th International Conference on Parallel Architectures and Compilation Techniques (PACT), 2005. Tech Report LBNL-58382.Mallón D.A., Taboada G.L., Teijeiro C., Domínguez J.G., Gómez A., Wibecan B. Scalable PGAS collective operations in NUMA clusters // Cluster Computing. 2014. 23 p.Mallón D.A., Taboada G.L., Teijeiro C., Domínguez J.G., Gómez A., Wibecan B. Scalable PGAS collective operations in NUMA clusters // Cluster Computing. 2014. 23 p.Nishtalab R., Zhenga Y., Hargrovea P.H., Yelick K.A. Tuning collective communication for Partitioned Global Address Space programming models // Parallel Computing. 2011. Vol. 37. P. 576 - 591.Nishtalab R., Zhenga Y., Hargrovea P.H., Yelick K.A. Tuning collective communication for Partitioned Global Address Space programming models // Parallel Computing. 2011. Vol. 37. P. 576 - 591.Callahan D., Chamberlain B.L., Zima H.P. The Cascade High Productivity Language // HIPS 2004. 2004. P. 52 - 60.Callahan D., Chamberlain B.L., Zima H.P. The Cascade High Productivity Language // HIPS 2004. 2004. P. 52 - 60.Nanjegowda R., Hernandez O., Chapman B., Jin H. Scalability Evaluation of Barrier Algorithms for OpenMP // IWOMP '09 Proceedings of the 5th International Workshop on OpenMP: Evolving OpenMP in an Age of Extreme Parallelism. 2009. Vol. 5568. P. 42 - 52.Nanjegowda R., Hernandez O., Chapman B., Jin H. Scalability Evaluation of Barrier Algorithms for OpenMP // IWOMP '09 Proceedings of the 5th International Workshop on OpenMP: Evolving OpenMP in an Age of Extreme Parallelism. 2009. Vol. 5568. P. 42 - 52.Callahan D., Carr S., Kennedy K. Improving register allocation for subscripted variables // PLDI ’90, New York, NY, USA, 1990. ACM. P. 53 - 65.Callahan D., Carr S., Kennedy K. Improving register allocation for subscripted variables // PLDI ’90, New York, NY, USA, 1990. ACM. P. 53 - 65.Charles P., Donawa C., Ebcioglu K., Grothoff C., Kielstra A., Praun C., Saraswat V., Sarkar V. X10: An Object-oriented approach to non-uniform Clustered Computing // OOPSLA 2005. P. 519 - 538.Charles P., Donawa C., Ebcioglu K., Grothoff C., Kielstra A., Praun C., Saraswat V., Sarkar V. X10: An Object-oriented approach to non-uniform Clustered Computing // OOPSLA 2005. P. 519 - 538.

The authors declare that there are no conflicts of interest present.