Spikende Memristische Architekturen für Learning-to-Learn

Derzeitige Anwendungen der künstlichen Intelligenz (artificial intelligence, AI) und des maschinellen Lernens (ML) benötigen leistungsfähige und daher energieintensive Berechnungsserver, und können daher nicht lokal und autonom auf mobilen Geräten ausgeführt werden. Schon heute gibt es aber einen stark ansteigenden Bedarf on sochen in the field Anwendungen, etwa für mobile Geräte, autonomes Fahren, autonome Robotik, edge devices und dem Internet of Things. In SMALL untersuchen wir extrem energieeffiziente Lösungen für dieses Anwendungsszenario. Inspiriert von der Architektur des Gehirns wird das entworfene System auf spikenden neuronalen Netzwerken (SNNs) basieren. In SMALL wird neuartige Hardware entworfen werden, die solche SNNs implementiert. Im Gegensatz zu herkömmlicher digitaler Computerhardware wird diese Hardware energieeffizient mit analogen (kontinuierlichen) statt mit digitalen Signalen rechnen. Eine weitere essentielle Innovation des Systems ist dessen Speichertechnolgie, der nicht aus üblichen Speicherbausteinen, sondern aus neuartigen memristischen Speicherelementen bestehen wird. Im Gegensatz zu herkömmlichen Speicher kann memristischer Speicher analoge und nicht nur digitale Werte speichern. Dieser auf Nanotechnolgie basierende Ansatz verspricht extrem hohe Speicherdichten und weitere Steigerung der Energieeffizienz. In der Praxis müssen AI Anwendungen oft adaptiv sein, d.h., sie müssen sich an die Umgebung anpassen und ihre Funktion an die gegebene Situation anpassen. Um eine solche Adaptivität zu gewährleisten, untersuchen wir inwieweit learning to learn (L2L) Methoden auf solche spikenden memristischen Systeme anwendbar sind. Learning to learn bezeichnet ein Verfahren in dem ein System (durch Lernverfahren) darauf optimiert wird schnell und effizient zu lernen. Somit kann gewährleistet werden, dass sich das System schnell auf neue Situationen einstellen kann. Das Ziel von SMALL ist es also, ein vielseitiges, adaptives, und extrem energieeffizientes AI- System zu bauen. Die Funktionalität und Effizienz des Systems wir in einer real-world Robotik-Umgebung getestet.

Derzeitige Anwendungen von Künstlicher Intelligenz (KI) benötigen enorme Rechenkapazitäten. Im Gegensatz dazu gibt es einen steigenden Bedarf an energieeffizienten autonom lernenden KI Systemen. In diesem Projekt untersuchten wir Optionen für das Lernen in unkonventioneller Hardware die auf sogenannten spikenden neuronalen Netzwerken basiert. Dies sind neuronale Netzwerke die das Verhalten von biologischen Neuronen imitieren, wobei die Kommunikation zwischen Neuronen durch zeitliche Pulse erfolgt, sogenannte Spikes. Diese Netzwerke wurden in energieeffizienter "neuromorpher" Hardware implementiert, also Hardware die essentielle Aspekte biologischer neuronaler Netzwerke implementiert. Als synaptische Verbindungen zwischen Neuronen wurden Memristoren verwendet, das sind neuartige Nano-Schaltungselemente. Memristoren können in großer Zahl effizient implementiert werden. Da sie aber sehr unzuverlässlich arbeiten, benötigen es neuartige Lernverfahren um sie sinnvoll in neuronalen Netzwerken einsetzen zu können. Will man KI Systeme in der realen Welt einsetzen, so ist es oft notwendig sie vor Ort zu trainieren, was aber typischerweise Trainingsmethoden verlangt die nicht effizient in Hardware implementiert werden können. Um dieses Problem zu lösen untersuchten wir "learning to learn" (L2L) Methoden, das sind Methoden bei denen das KI System zuerst darauf optimiert wird schnell zu lernen. Das eigentliche Lernen vor Ort kann dann schneller und mit einfacher zu implementierenden Methoden ausgeführt werden. In diesem Projekt entwickelten wir neuartige Varianten von spikenden neuronalen Netzwerken die deutlich mächtiger und vielseitiger sind als vorherige Modelle. Diese Netzwerke sind in der Lage verschiedene komplexe Probleme - wie zum Beispiel das Evaluieren von mathematischen Ausdrücken - zu lösen. Im Speziellen entwickelten wir Netzwerke mit gehirn-inspirierten Gedächtnisstrukturen. Dadurch können solche Netzwerke von einzelnen Beispielen lernen oder auch Fragen über vorher präsentierte Geschichten beantworten. Des Weiteren wurden neuartige Trainingsalgorithmen für neuromorphe Hardware mit unpräzisen synaptischen Gewichten und solche für Hardware mit unzuverlässigen memristischen Synapsen entwickelt. Um die schnelle Anpassung von neuromorphen KI Systemen vor Ort zu ermöglichen, entwickelten wir auch L2L-Ansätze für neuromorphe Hardware. In Kollaboration mit unseren Projektpartnern entwickelten wir ein experimentelles System für eine Anwendung dieser Paradigmen in der Robotik. Ein industrieller Roboterarm wurde von einem spikendem neuronalen Netzwerk mit memristischen Synapsen gesteuert. Dieses wurde mittels L2L darauf trainiert aus einer einzigen Demonstration einer Armbewegung eine entsprechende Armtrajektorie zu lernen. Dies zeigt, dass der L2L Ansatz geeignet ist um neuromorphe System schnell an bestimmte Aufgaben anzupassen.