Informatik
Bahnbrechende simultane und heterogene Multi-Threading-Technologie für schnelleres Rechnen
Securities.io hält strenge redaktionelle Standards ein und erhält möglicherweise eine Vergütung für geprüfte Links. Wir sind kein registrierter Anlageberater und dies stellt keine Anlageberatung dar. Bitte beachten Sie unsere Affiliate-Offenlegung.
Obwohl alle neuen Geräte von Technologiegiganten wie Apple und Google inkrementelle Verbesserungen aufweisen – eine einstellige Verlängerung der Akkulaufzeit, ein Nanometer weniger für den Prozessor, der für die Hersteller noch nicht die optimale Ausbeute bringt, oder ein paar zusätzliche Megapixel – ist die Frage stellt sich: Reichen solch bescheidene Verbesserungen wirklich aus? Ist das Hinzufügen weiterer Hardware die Lösung?
Nicht laut Associate Professor Hung-Wei Tseng vom Department of Electrical and Computer Engineering der University of California, Riverside (UCR). Er sagt:
„Sie müssen keine neuen Prozessoren hinzufügen, da Sie diese bereits haben.“
Professor Tseng hat zusammen mit einem Forscherteam entwickelte ein neues Software-Framework für die Parallelverarbeitung wird Simultaneous and Heterogeneous Multi-Threading (SHMT) genannt. Ersten Ergebnissen zufolge ist SHMT bereit, die Verarbeitungsgeschwindigkeit erheblich zu steigern und den Stromverbrauch zu senken, indem es die latenten Fähigkeiten aktueller Prozessoren in Personalcomputern, Mobiltelefonen und anderen Geräten nutzt.
SHMT wird von der Tech-Community als „bahnbrechend“ bezeichnet und zielt darauf ab, Engpässe im Datenfluss zu beseitigen und die nahtlose Zusammenarbeit vieler Verarbeitungseinheiten zu erleichtern. Dieser Durchbruch könnte sich nicht nur auf die persönliche Elektronik, sondern auch auf Rechenzentren und andere Arten massiv paralleler Datenverarbeitung auswirken.
Den Engpass beseitigen
Bevor wir uns daran machen, das volle Potenzial des simultanen und heterogenen Multithreadings auszuschöpfen, wollen wir zunächst die Grenzen aktueller Computersysteme verstehen.
In den meisten Geräten verarbeiten verschiedene Komponenten, wie die Zentraleinheit (CPU), die Grafikverarbeitungseinheit (GPU) und die Tensorverarbeitungseinheit (TPU), Informationen separat. Daten werden von einer Verarbeitungseinheit zur anderen übertragen, was häufig zu „Engpässen“ führt, die die Gesamtsystemleistung beeinträchtigen.
Dies wird durch traditionelle Programmiermodelle noch verschärft, die Aufgaben typischerweise an einen einzigen Prozessortyp delegieren, wodurch andere Ressourcen ungenutzt bleiben und nicht ausgelastet sind. In der Forschungsarbeit „Simultaneous and Heterogeneous Multi-threading“ von Kuan-Chieh Hsu und Hung-Wei Tseng wird diese Beobachtung aufgegriffen und festgestellt:
„Die etablierten Programmiermodelle konzentrieren sich darauf, nur die effizientesten Verarbeitungseinheiten für jede Coderegion zu verwenden und die Verarbeitungsleistung in heterogenen Computern nicht ausreichend auszunutzen.“
SHMT weicht von diesem Ansatz ab, indem es die Vielfalt mehrerer Komponenten innerhalb eines Computersystems nutzt. Dieses Konzept wird als Heterogenität bezeichnet. Durch die Aufschlüsselung von Rechenfunktionen und deren Verteilung auf verfügbare Verarbeitungseinheiten ermöglicht SHMT eine echte Parallelverarbeitung.
Dieser Ansatz, Rechenfunktionen zu zerlegen und auf mehrere Verarbeitungseinheiten zu verteilen, maximiert die Nutzung der verfügbaren Ressourcen, um die Leistung zu verbessern und Energie zu sparen. Das Forschungspapier analysiert die Mängel traditioneller Programmiermodelle weiter, indem es feststellt, dass sie „eine Coderegion nur exklusiv an eine Art von Prozessor delegieren können, wodurch andere Rechenressourcen ungenutzt bleiben, ohne zur aktuellen Funktion beizutragen“.
SHMT hingegen zielt darauf ab, diese Einschränkungen zu überwinden, indem es die individuellen Fähigkeiten jeder Verarbeitungseinheit und ihre gemeinsame Arbeit an einem gemeinsamen Codebereich nutzt. Die Autoren weisen zudem darauf hin, dass die moderne Computertechnologie unbestreitbar heterogen ist, da alle Computerplattformen mehrere Arten von Verarbeitungseinheiten und Hardwarebeschleunigern integrieren. Dies erfordert ein Programmiermodell, das die Leistung dieser unterschiedlichen Komponenten effektiv nutzen kann (und genau das ist das Ziel von SHMT).
Somit ebnet SHMT den Weg für schnelleres und effizienteres Rechnen, indem es die Engpässe im heute traditionellen Rechnen beseitigt.
Wie funktionieren simultane und heterogene Multi-Threading-Technologie?
Offensichtlich ist die effiziente Verwaltung und Verteilung von Rechenaktivitäten auf verschiedene Hardwarekomponenten das Grundprinzip von SHMT.
Das Framework umfasst eine Sammlung virtueller Operationen (VOPs), um die Auslagerung von Aufgaben von einer CPU-Anwendung auf eine zu erleichtern virtuelles Hardwaregerät. Der Studie zufolge „ermöglicht eine Reihe virtueller Operationen (VOPs) einem CPU-Programm, eine Funktion auf ein virtuelles Hardwaregerät auszulagern.“ Diese VOPs vermitteln die Kommunikation und Aufgabendelegation, indem sie eine Barriere zwischen dem Programm und der Hardware schaffen.
Ein Laufzeitsystem optimiert die Leistung, indem es die Fähigkeiten jeder Hardwareressource bewertet und während der Ausführung der Anwendung intelligente Planungsentscheidungen trifft. Laut der Studie „steuert ein Laufzeitsystem während der Programmausführung die virtuelle Hardware für simultanes und heterogenes Multithreading und misst so die Fähigkeit der Hardwareressource, Planungsentscheidungen zu treffen.“ Um die Ressourceneffizienz zu maximieren und sich an auftragsspezifische Anforderungen anzupassen, wertet SHMT die Hardwarefähigkeiten dynamisch aus.
Das Laufzeitsystem zerlegt VOPs in High-Level-Operations (HLOPs), um sie auf verschiedene Hardware-Task-Warteschlangen zu verteilen. Laut der Studie „teilt das Laufzeitsystem VOPs in eine oder mehrere High-Level-Operationen (HLOPs) auf, um mehrere Hardwareressourcen gleichzeitig zu nutzen.“ Durch die Zerlegung von VOPs in HLOPs wird eine detaillierte Kontrolle über die Auftragszuteilung und die maximale Auslastung jeder Verarbeitungseinheit erreicht.
Die SHMT-Planungsrichtlinie nutzt einen QAWS-Ansatz (Quality-Aware Work-Stealing), der eine effiziente Ressourcennutzung und abwechslungsreiche Arbeitslasten gewährleistet. Laut der Studie „verwendet SHMT eine QAWS-Planungsrichtlinie (Quality-Aware Work-Stealing), die keine Ressourcen bindet, sondern zur Aufrechterhaltung der Qualitätskontrolle und Auslastungsverteilung beiträgt.“ Dieser Ansatz verteilt die Arbeit nicht nur effektiv im System, sondern verhindert auch, dass Verarbeitungseinheiten Ressourcen horten.
Wenn SHMT die Leistung maximieren möchte, ohne die Qualität zu beeinträchtigen, benötigt es die QAWS-Planungsrichtlinie. In der Studie heißt es: „SHMT muss das Ergebnis sicherstellen, ohne dass ein erheblicher Mehraufwand entsteht.“ Um sicherzustellen, dass die Ausgabe heterogener Verarbeitungseinheiten genau und konsistent ist, integriert SHMT Qualitätskontrolltechniken in die Planung.
Die Fähigkeit von SHMT, die spezifischen Fähigkeiten jeder einzelnen Hardware zu nutzen, ist ein großer Pluspunkt. In der Studie heißt es: „SHMT kann die Berechnung von derselben Funktion auf mehrere Arten von Rechenressourcen aufteilen und nutzt dabei heterogene Arten der Parallelität.“ SHMT steigert die Leistung erheblich, da es die Parallelität in heterogenen Systemen nutzt, um Jobs gleichzeitig auf mehreren Prozessoreinheiten auszuführen.
Ein weiterer Aspekt von SHMT, der flexibel und anpassungsfähig sein soll, ist das Laufzeitsystem. Und laut der Studie: „Da HLOPs hardwareunabhängig sind, kann das Laufzeitsystem die Aufgabenzuweisung je nach Bedarf anpassen.“ Aufgrund seiner Anpassungsfähigkeit kann SHMT im Handumdrehen auf Änderungen der Hardwareverfügbarkeit oder der Arbeitslastanforderungen reagieren und so dafür sorgen, dass das System mit maximaler Effizienz und Leistung läuft.
Insgesamt legt die Studie alle notwendigen Schritte dar, um zu verstehen, wie SHMT funktioniert, und lenkt die Aufmerksamkeit auf die kritischen Teile und Prozesse, die es dem Unternehmen ermöglichen, in heterogenen Computerumgebungen eine bemerkenswerte Effizienz und Effektivität zu erreichen. Dank SHMT, das VOPs, HLOPs und die QAWS-Planungsstrategie nutzt, um die Parallelverarbeitung zu revolutionieren, bricht ein neues Zeitalter effizienter und leistungsstarker Datenverarbeitung an.
Positive Erkenntnisse aus ersten Tests des Prototyps
Um die Funktionsfähigkeit von SHMT zu beweisen, führten die Forscher der UCR strenge Tests an einem Prototypsystem durch, das die Fähigkeiten eines Rechenzentrums nachahmte und dabei Standardkomponenten moderner Mobiltelefone verwendete. Der Prototyp umfasste eine Google Edge TPU, die über den M.2 Key E-Steckplatz des Systems integriert wurde, ein NVIDIA Jetson Nano-Modul mit einem Quad-Core-ARM-Cortex-A57-Prozessor und 128 GPU-Kernen mit Maxwell-Architektur.
Um die Leistung des SHMT-Frameworks unter verschiedenen Arbeitslastbedingungen zu bewerten, führten die Forscher den Prototyp durch eine Reihe von Benchmark-Programmen. Das Ergebnis war beeindruckend: Die leistungsstärkste QAWS-Strategie reduzierte nicht nur den Energieverbrauch um 51 %, sondern verbesserte auch die Verarbeitungsleistung um das 1.95-Fache im Vergleich zur Basistechnik.
Die Ergebnisse unterstreichen das Potenzial von SHMT, die Verarbeitungsleistung und Energieeffizienz in einem breiten Spektrum von Geräten und Softwareanwendungen deutlich zu verbessern. SHMT hat gezeigt, dass es möglich ist, das Beste aus Ihrem aktuellen Setup herauszuholen, indem alle Ressourcen besser genutzt werden, ohne ein Vermögen für neue Hardware ausgeben zu müssen.
Da der Bedarf an schnellerem und effizienterem Computing immer größer wird, werden Durchbrüche wie simultanes und heterogenes Multithreading für die Gestaltung der zukünftigen Entwicklung der Technologie immer wichtiger. Die Arbeit des UCR-Forschungsteams macht deutlich, dass es nie einfacher war, langfristige, leistungsstarke Computerlösungen zu finden, die sich an die dynamischen Anforderungen unserer digitalen Welt anpassen können, als mit der Arbeit des UCR-Forschungsteams.
Implikationen und zukünftige Richtungen des simultanen und heterogenen Multithreadings
Die Entwicklung und Erprobung von SHMT stellen einen tiefgreifenden Wandel in der Zukunft der Datenverarbeitung dar. Es hat das Potenzial, das Design und die Nutzung von Computergeräten in verschiedenen Anwendungen zu revolutionieren, indem es erhebliche Leistungssteigerungen und Energieeinsparungen mit vorhandener Hardware ermöglicht.
Mit der zunehmenden Akzeptanz von SHMT können Verbraucher möglicherweise teure Hardware-Updates vermeiden und sich über schnellere, reaktionsfähigere Mobilgeräte, Tablets, Laptops und Desktops freuen. Dadurch werden bald mehr Menschen in der Lage sein, Hochleistungscomputer zu kaufen und darauf zuzugreifen, was dazu beiträgt, die digitale Kluft zu schließen.
Auch für Rechenzentren und andere große Computersysteme könnte SHMT ein unverzichtbares Instrument zur Kosten- und Energieverbrauchssenkung ohne Leistungseinbußen sein. Darüber hinaus werden Innovationen wie SHMT, die Energieeffizienz und Nachhaltigkeit fördern, angesichts der zunehmenden Sorgen über die Umweltauswirkungen dieser Technologie an Bedeutung gewinnen.
Trotz aller Bemühungen erkennt das UCR-Forschungsteam, dass es immer noch Hindernisse zu überwinden gibt und Möglichkeiten für weitere Untersuchungen und Fortschritte in der Zukunft besteht. Software-Ingenieure und Hardware-Hersteller müssen eng zusammenarbeiten, um SHMT in großem Maßstab zu implementieren. Dadurch wird gewährleistet, dass die Technologie auf allen Geräten und Plattformen gut funktioniert. Es bedarf jedoch weiterer Forschung, um herauszufinden, welche Anwendungen und Workloads am besten für den Einsatz dieser revolutionären Technologie geeignet sind.
Trotz dieser Hindernisse haben Wissenschaftler und Unternehmen die vielversprechenden ersten Ergebnisse von SHMT zur Kenntnis genommen. Die Aussicht, dass diese bahnbrechende Technologie die Computerbranche revolutionieren könnte, wird mit fortschreitenden Studien und der Etablierung von Kooperationen immer attraktiver.
Wie viele andere brillante Ideen scheint auch simultanes und heterogenes Multithreading ein Produkt des gesunden Menschenverstandes zu sein, aber der Teufel steckt im Detail. Obwohl die Idee eines gemeinsamen Caches zwischen CPUs und GPUs faszinierend ist, erfordert sie wahrscheinlich eine komplette Überarbeitung der Hardware-Architektur.
Es würde eine Abkehr von der aktuellen x86-64-Architektur erfordern, und ein solches Design würde die Entwicklung einer neuen Prozessorarchitektur mit einem gemeinsamen L3- oder L4-Cache erfordern. Dies würde wiederum die Komplexität der CPU erhöhen und möglicherweise alle Vorteile des gemeinsam genutzten Caches zunichte machen.
Darüber hinaus ist der Cache-Speicher im Vergleich zum System-RAM normalerweise viel kleiner und eignet sich nicht gut für GPU-Anwendungen, die große Mengen an Speicher mit hoher Bandbreite erfordern. Allerdings Entwicklungen wie universelles Gedächtnis kann auf diese Bedenken eingehen. Während die Forschung zu SHMT weitergeht, wird es spannend sein zu sehen, wie sich diese innovative Technologie weiterentwickelt und die Zukunft der Parallelverarbeitung und des heterogenen Computings beeinflusst.
