Skip to main content

2018 | OriginalPaper | Buchkapitel

Implementation and Performance Analysis of 2.5D-PDGEMM on the K Computer

verfasst von : Daichi Mukunoki, Toshiyuki Imamura

Erschienen in: Parallel Processing and Applied Mathematics

Verlag: Springer International Publishing

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

In this study, we propose a 2D-compatible implementation of 2.5D parallel matrix multiplication (2.5D-PDGEMM), which was designed to perform computations of 2D distributed matrices on a 2D process grid. We evaluated the performance of our implementation using 16384 nodes (131072 cores) on the K computer, which is a highly parallel computer. The results show that our 2.5D implementation outperforms conventional 2D implementations including the ScaLAPACK PDGEMM routine, in terms of strong scaling, even when the cost for matrix redistribution between 2D and 2.5D distributions is included. We discussed the performance of our implementation by providing a breakdown of the performance and describing the performance model of the implementation.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Georganas, E., González-Domínguez, J., Solomonik, E., Zheng, Y., Touriño, J., Yelick, K.: Communication avoiding and overlapping for numerical linear algebra. In: Proceedings of International Conference on High Performance Computing, Networking, Storage and Analysis (SC 2012), pp. 100:1–100:11 (2012) Georganas, E., González-Domínguez, J., Solomonik, E., Zheng, Y., Touriño, J., Yelick, K.: Communication avoiding and overlapping for numerical linear algebra. In: Proceedings of International Conference on High Performance Computing, Networking, Storage and Analysis (SC 2012), pp. 100:1–100:11 (2012)
2.
Zurück zum Zitat Kitazawa, Y., Kuroda, A., Shida, N., Adachi, T., Minami, K.: Evaluation of MPI communication performance using throughput on the K computer. In: Proceedings of IPSJ Symposium on High Performance Computing and Computational Science (HPCS2017), pp. 17–25 (2017). (in Japanese) Kitazawa, Y., Kuroda, A., Shida, N., Adachi, T., Minami, K.: Evaluation of MPI communication performance using throughput on the K computer. In: Proceedings of IPSJ Symposium on High Performance Computing and Computational Science (HPCS2017), pp. 17–25 (2017). (in Japanese)
3.
Zurück zum Zitat Lipshitz, B., Ballard, G., Demmel, J., Schwartz, O.: Communication-avoiding parallel strassen: implementation and performance. In: Proceedings of International Conference on High Performance Computing, Networking, Storage and Analysis (SC 2012), pp. 101:1–101:11 (2012) Lipshitz, B., Ballard, G., Demmel, J., Schwartz, O.: Communication-avoiding parallel strassen: implementation and performance. In: Proceedings of International Conference on High Performance Computing, Networking, Storage and Analysis (SC 2012), pp. 101:1–101:11 (2012)
4.
Zurück zum Zitat Schatz, M., Van de Geijn, R.A., Poulson, J.: Parallel matrix multiplication: a systematic journey. SIAM J. Sci. Comput. 38(6), C748–C781 (2016)MathSciNetCrossRefMATH Schatz, M., Van de Geijn, R.A., Poulson, J.: Parallel matrix multiplication: a systematic journey. SIAM J. Sci. Comput. 38(6), C748–C781 (2016)MathSciNetCrossRefMATH
7.
Zurück zum Zitat Van de Geijn, R.A., Watts, J.: SUMMA: scalable universal matrix multiplication algorithm, Technical report. Department of Computer Science, University of Texas at Austin (1995) Van de Geijn, R.A., Watts, J.: SUMMA: scalable universal matrix multiplication algorithm, Technical report. Department of Computer Science, University of Texas at Austin (1995)
Metadaten
Titel
Implementation and Performance Analysis of 2.5D-PDGEMM on the K Computer
verfasst von
Daichi Mukunoki
Toshiyuki Imamura
Copyright-Jahr
2018
DOI
https://doi.org/10.1007/978-3-319-78024-5_31