Entwicklung kleinerer und energieeffizienterer KI-Chips

Insbesondere die neuronalen Netze stehen im Fokus der Wissenschaftler an der BTU Cottbus-Senftenberg und der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU). Die im Projekt entwickelten energieeffizienten Chips sind die Grundlage für zahlreiche Anwendungen wie beispielsweise die Bild- und Sprachverarbeitung.

Für die Inferenz neuronaler Netze, also das „Trainieren“ von Anwendungen in der KI, werden sukzessiv sogenannte Gewichtsmatrizen mit entsprechenden Vektoren multipliziert. Auf diese Weise entwickelt sich das „Hirn“ der Künstlichen Intelligenz. Diese Operationen sind mit einem extrem hohen Rechenaufwand verbunden, und sie sind eine Herausforderung für aktuell verfügbare Prozessoren. Vor diesem Hintergrund steht die Vereinfachung dieser Gewichtsmatrizen durch ein neues mathematisches Verfahren, der sogenannten Matrixdekomposition, im Mittelpunkt des Verbundvorhabens.

Dafür zerlegen die Wissenschaftler die ursprünglichen Gewichtsmatrizen in Teilmatrizen mit einer speziellen Struktur. Diese spezielle Struktur kann dann wiederum dafür genutzt werden, eine neue Art von Prozessoren zu erschaffen. Diese sind gezielt für diese Art der Zerlegung optimiert. Mit diesem Verfahren wird es möglich, neue KI-Prozessoren zu generieren, die sechsmal kleiner sind. Entsprechend lässt sich auch der Energieverbrauch minimieren. Die so entwickelten Chips können dann als Grundlage für viele Anwendung, wie beispielsweise die Signalanalyse in tragbaren Sensoren, dienen.

Für ihre Forschungen bündeln die Wissenschaftler*innen beider Hochschulen unter Leitung von Dr.-Ing. Marc Reichenbach vom Fachgebiet Technische Informatik an der BTU und Prof. Dr.-Ing. Ralf Müller vom Lehrstuhl für Digitale Übertragung an der FAU ihre Kompetenzen aus den Bereichen der Informationstheorie und Rechnerarchitektur.