CeDMA: Enhancing Memory Efficiency of Heterogeneous Accelerator Systems Through Central DMA Controlling

CeDMA, oder Central Direct Memory Access Control System, ist eine neuartige Architektur zur Steigerung der Speichereffizienz in heterogenen Rechnerplattformen. Dieses Kapitel befasst sich mit den Herausforderungen des Speichermanagements in Systemen, die unterschiedliche Verarbeitungselemente wie CPUs, GPUs und spezialisierte Beschleuniger integrieren. Es stellt CeDMA als Lösung vor, die eine direkte, softwarekonfigurierbare Datenübertragung zwischen den Beschleunigern ermöglicht und so die Latenz reduziert und den Durchsatz verbessert. Die Architektur besteht aus einer zentralen DMA-Engine mit Mehrkanal-Arbitration, Adressumwandlung und protokollagnostischen Speicherschnittstellen auf Hardwareseite sowie einer programmierbaren DMA-Befehlsschnittstelle und laufzeitadaptiver Planung auf Softwareseite. Das Kapitel präsentiert außerdem eine umfassende Bewertung von CeDMA gegenüber herkömmlichen cache- und pufferbasierten Speichersystemen, die seine überlegene Leistung über unterschiedliche Arbeitslasten hinweg demonstriert. Die Ergebnisse zeigen, dass CeDMA den externen Speicherzugriff um bis zu 75% reduzieren, die Anwendungsleistung um bis zu 60% verbessern und die Zugriffslatenz um bis zu 45% verringern kann. Das Kapitel schließt mit einer Diskussion über die Skalierbarkeit von CeDMA und sein Potenzial, die Herausforderungen des Speichermanagements in zukünftigen heterogenen Many-Core-Systemen anzugehen.