Öffnen der Blackbox

Jede Sekunde des Tages stellt uns vor die Wahl, von der Entscheidung, was wir am Morgen anziehen wollen, bis zur Auswahl aus einem Menü beim Abendessen. Unabhängig davon, ob eine Entscheidung trivial oder lebensverändernd ist, ist die Entscheidungsfindung ein grundlegendes Element der menschlichen Erfahrung.

Es ist immer leicht zu hinterfragen, ob jemand die richtige Wahl getroffen hat. Manchmal lässt sich das erst sagen, wenn die Konsequenzen später ans Licht kommen. Professor Aviral Shrivastava (links) und Doktorand Shail Dave (rechts) arbeiten an der Forschung zur Verbesserung der Design-Space-Exploration, einer entscheidenden Komponente bei der Entwicklung von Deep-Learning-Beschleunigern, die optimieren, wie effizient Computer Algorithmen der künstlichen Intelligenz ausführen. Foto von Erika Gronek/ASU Vollständiges Bild herunterladen

In den Bereichen Hardware- und Softwarearchitektur verwenden Ingenieure eine Technologie namens Design Space Exploration, um bei der Bewertung von Entscheidungen während des Entwurfsprozesses der Computerarchitektur zu helfen und unter den verfügbaren Optionen den Entwurf mit der besten Leistung zu ermitteln.

Design-Weltraumforschungstechnologie kann eine bevorzugte Option basierend auf gewünschten Ergebnissen wie Geschwindigkeit, Stromverbrauch und Genauigkeit auswählen. Die Technologie kann auf eine Vielzahl von Anwendungen angewendet werden, von Objekt- oder Personenerkennungssoftware bis hin zu hochwertiger Mikroelektronik.

Deep Learning, eine vom menschlichen Gehirn inspirierte Methode der künstlichen Intelligenz, bringt Computern bei, Daten zu verarbeiten. Entwürfe von Deep-Learning-Beschleunigern, bei denen es sich um Computer handelt, die auf die effiziente Ausführung von Deep-Learning-Algorithmen für künstliche Intelligenz spezialisiert sind, verlassen sich bei der Auswahl aus ihren umfangreichen Optionslisten auf die Erforschung des Designraums. Da es bei einigen dieser Beschleunigerkonstruktionen Milliarden und Abermilliarden zu bewertender Auswahlmöglichkeiten gibt, kann es Tage oder sogar Wochen dauern, bis bestehende Optimierungsprozesse abgeschlossen sind, selbst wenn nur ein kleiner Teil der Auswahlmöglichkeiten bewertet wird.

Der Prozess wird durch Black-Box-Erkundungen noch komplizierter, auf die Deep-Learning-Beschleuniger bei der Entscheidungsfindung zurückgreifen. Black-Box-Erkundungen dienen dazu, Informationen zu verarbeiten, ohne Einzelheiten zu ihrer Begründung preiszugeben.

Shail Dave, Doktorand im Bereich Computertechnik an der School of Computing and Augmented Intelligence, Teil der Ira A. Fulton Schools of Engineering der Arizona State University, arbeitet daran, dieses Problem durch erklärbare Designraumforschung, ein Rahmenwerk aus Algorithmen und Systemen, zu lösen Dies wird es Forschern und Prozessorentwicklern ermöglichen, die Gründe für Deep-Learning-Beschleunigerdesigns zu verstehen, indem die Engpässe, die den Prozess verlangsamen, analysiert und entschärft werden.

„Normalerweise werden Hardware- und Softwaredesigns durch Black-Box-Mechanismen wie evolutionäre Algorithmen oder KI-basierte Ansätze wie Reinforcement Learning und Bayes’sche Optimierung untersucht und optimiert“, sagt Dave. „Diese Black-Box-Mechanismen erfordern übermäßig viele Testläufe, da sie nicht erklärbar sind und nicht begründen können, wie sich die Auswahl einer Designkonfiguration auf die Gesamtqualität des Designs auswirkt.“

Durch die Rationalisierung des Entscheidungsprozesses des Beschleunigers ermöglicht Daves Forschung, dass Entwurfsmethoden Entscheidungen viel schneller treffen und nur wenige Minuten benötigen, verglichen mit den Tagen oder Wochen, die bestehende Modelle für die Verarbeitung dieser Informationen benötigen können. Dadurch sind Designoptimierungsmodelle kleiner, systematischer und verbrauchen weniger Energie.

Daves Forschung bietet eine Alternative, die nicht nur die Sucheffizienz verbessert, sondern Ingenieuren auch dabei hilft, optimale Ergebnisse zu erzielen und Einblicke in Designentscheidungen zu gewinnen. Durch das Verständnis der Gründe für Designentscheidungen und der damit verbundenen Engpässe kann die Methode verfügbare Designpunkte in jedem Schritt des Prozesses analysieren und die guten und schlechten Optionen ermitteln, bevor sie ihre Entscheidung trifft, die von der Technologie bewusst nach Bewertung der vielversprechendsten verfügbaren Optionen getroffen wird .

Dave weist darauf hin, dass seine Algorithmen auch Designparameter in verschiedenen Anwendungsfällen optimieren können. Beispielsweise können die Algorithmen den Stromverbrauch von Batterien für maximale Effizienz in Geräten unterschiedlicher Größe, vom Smartphone bis hin zu leistungsstarken Prozessoren in einem Supercomputer, budgetieren und gleichzeitig die Anwendungsverarbeitung in der gewünschten Zeit abschließen.

Vor allem kann Daves Algorithmus Designlösungen untersuchen, die für mehrere Anwendungen relevant sind, beispielsweise solche, die sich in Funktionalität oder Verarbeitungseigenschaften unterscheiden, und gleichzeitig deren Ineffizienzen bei der Ausführung des Produkts beheben. Dies ist wichtig, da viele der heutigen auf künstlicher Intelligenz basierenden Anwendungen eine multimodale Verarbeitung erfordern, was bedeutet, dass ein Beschleunigerdesign möglicherweise zur Erledigung mehrerer Aufgaben verwendet werden muss.

„Das Tolle an dieser Arbeit ist, dass sie formalisiert, wie die Informationen eines Systems genutzt werden können, um fundierte Entscheidungen zu treffen, und dass sie auf eine Vielzahl von Anwendungen und in verschiedenen Branchen angewendet werden kann, in denen diese Zielsysteme Verbesserungen und Erklärbarkeit im Prozess benötigen“, sagt Dave. „Wir analysieren, wie wir die beste Leistung für jede gegebene Architekturkonfiguration mit unterschiedlichen Einschränkungen erzielen können, je nachdem, was der Benutzer als wichtigstes Bedürfnis priorisiert.“

Daves Artikel zu dieser Forschung mit dem Titel „Explainable-DSE: An Agile and Explainable Exploration of Efficient Hardware/Software Codesigns of Deep Learning Accelerators Using Bottleneck Analysis“ wurde in die internationale Konferenz 2024 der Association for Computing Machinery zur architektonischen Unterstützung von Programmiersprachen aufgenommen and Operating Systems, oder ASPLOS, ein führendes akademisches Forum für multidisziplinäre Computersystemforschung, die Hardware, Software und die Interaktion zwischen den beiden Bereichen umfasst.

Darüber hinaus wurde Daves Forschung mit dem zweiten Platz in der Absolventenkategorie des studentischen Forschungswettbewerbs 2022 der Association for Computing Machinery ausgezeichnet, womit seine Arbeit als eine der wichtigsten studentischen Forschungen in Informatik und Ingenieurwesen weltweit anerkannt wurde.

Aviral Shrivastava, Professor für Informatik und Ingenieurwesen an den Fulton Schools und Daves Mentor und Mitarbeiter bei der Forschung, sagt, er sei stolz, dass Dave für seine harte Arbeit gefeiert wird.

„Es braucht einen sehr motivierten Studenten, um einen solchen Erfolg zu erzielen“, sagt Shrivastava. „In eine solche Forschung fließen so viele Überlegungen, Komplexitäten und Details ein. Man muss wirklich mit starken Forschern zusammenarbeiten, und Shail war einer von ihnen in meinem Team.“

Dave und Shrivastava arbeiten auch zusammen, um diese Forschung im Rahmen des Artificial Intelligence Hardware-Programms der Semiconductor Research Corporation auf die Halbleiterindustrie anzuwenden. Das Programm befasst sich mit bestehenden und neuen Herausforderungen in der Informations- und Kommunikationstechnologie und unterstützt die Forschung zur Bewältigung der Herausforderung der Umgestaltung von Design und Fertigung zukünftiger Mikrochips.

Shrivastava weist darauf hin, dass eine der positiven Auswirkungen dieser Forschung auf die Praxis darin besteht, dass sie den Energiebedarf und den CO2-Fußabdruck dieser Arbeit im Vergleich zu bestehenden Modellen und Prozessen drastisch reduziert.

„Das Training neuronaler Netze kann den gleichen CO2-Fußabdruck haben wie ein Transatlantikflug“, sagt Shrivastava. „Die Möglichkeit, den gesamten CO2-Fußabdruck durch eine effizientere Gestaltung dieser Technologie zu reduzieren, wird große globale Auswirkungen haben.“

Angesichts der erheblichen positiven Auswirkungen auf die Umwelt und der Fähigkeit, Entscheidungsprozesse effektiver zu steuern, sieht Shrivastava die Auswirkungen der Forschung auf nahezu alle Bereiche und Branchen.

„Indem wir diese Beschleuniger formaler, systematischer und automatischer gestalten, ersparen wir den Menschen die endlose Suche im Weltraum ohne jegliche Anleitung“, sagt er. „Diese Technologie bietet eine introspektive, intelligente und aufschlussreiche Möglichkeit, alle verfügbaren Informationen zu verstehen.“

Kommunikationsspezialist, Ira A. Fulton Schools of Engineering

602-543-1590 [email protected]