Website
Aktuelles zur Forschung

Nachhaltige Künstliche Intelligenz

Dienstag, 09.07.2024

Grafische Darstellung von "Spiking" Neuronen. Bild: KI generiert mit DALL·E am 03.07.2024

Saya Higuchi und Prof. Dr. Sebastian Otte vom Institut für Robotik und Kognitive Systeme präsentieren energieeffiziente Neuronale Netzwerke auf der renommierten International Conference on Machine Learning (ICML) 2024

Eine große Herausforderung der künstlichen Intelligenz (KI) ist der enorme Energieverbrauch. Große Computer, die KI-Modelle trainieren und betreiben, benötigen sehr viel Strom. Dies führt zu hohen Energiekosten und klimaschädlichen CO₂-Emissionen. Auch ist die Frage der Energieeffizienz besonders kritisch für den Einsatz von KI in mobilen Robotern, tragbaren Geräten und intelligenten Sensoren – also überall da, wo KI in Systemen mit begrenzter Energieversorgung eingebettet ist.

Ein Trend in Richtung nachhaltigere KI ist das Neuromorphic Computing, das sich an der Funktionsweise des menschlichen Gehirns orientiert. Beim Neuromorphic Computing ist das Ziel, durch Ausnutzung der speziellen Eigenschaften neuronaler Informationsverarbeitung leistungsfähigere und effizientere Systeme für künstliche Intelligenz zu entwickeln, um letztlich den Energiebedarf massiv zu senken.

In diesem Bereich ist nun der Doktorandin Saya Higuchi und Prof. Dr. Sebastian Otte vom Institut für Robotik und Kognitive Systeme der Universität zu Lübeck in Zusammenarbeit mit Centrum Wiskunde & Informatica (CWI) in Amsterdam ein bedeutender Fortschritt gelungen.  „Wir haben es geschafft, ein etabliertes, aber bisher vor allem theoretisch relevantes Neuronenmodell so zu modifizieren, dass man damit stabil und effektiv lernen kann – besser als mit allen derzeit verwendeten vergleichbar komplexen Neuronmodellen. Besonders interessant ist dabei der Effekt der potenziellen Energieeinsparung.“ erklärt Prof. Otte.

Verbesserte neuronale Netzwerke 

Dafür nutzen Otte und sein Team sogenannte „Spiking Neural Networks“, eine spezielle Art von KI, die besonders energieeffizient ist. Spiking Neuronen funktionieren ähnlich wie biologische Neuronen und verbrauchen nur dann Energie, wenn sie tatsächlich aktiv sind. Der zentrale Beitrag des Lübecker Forschungsteams ist hierbei das „Balanced Resonate-and-Fire“-Modell, welches deutlich stabiler und zuverlässiger arbeitet als bisherige Modelle. „Das Besondere an dem Neuronenmodell ist, dass es in Schwingung versetzt werden kann. Dadurch eignet es sich besonders gut, um Daten zu verarbeiten in denen Schwingungen, d.h. periodische Muster enthalten sind.“ erläutert Frau Higuchi. Schwingungen finden sich in vielen natürlichen Daten wie Schall, biometrischen Signalen, robotischen Sensordaten, aber auch in Klimadaten und Videos. Diese Verbesserung ermöglicht es, dass KI besser und effizienter lernen kann und dabei deutlich weniger Energie verbraucht.

Ein Schritt Richtung nachhaltige KI

Diese Fortschritte haben das Potenzial, die Entwicklung energieeffizienter und leistungsstarker KI-Systeme voranzutreiben, was insbesondere in Anwendungsbereichen wie der Medizintechnik, der Spracherkennung und der Automatisierung von Bedeutung sein wird. Zukünftig wollen die Forschenden die Modelle auf größere und komplexere Datensätze anwenden und durch Hardware-Implementierungen die praktischen Anwendungen dieser Modelle weiter erforschen. 

Originalveröffentlichung:  

Higuchi et al. Proceedings of the 41st International Conference on Machine Learning, Vienna, Austria, 2024. https://openreview.net/forum?id=dkdilv4XD4&noteId=jilaEjoKx8 

Kontakt:

Prof. Sebastian Otte
Adaptive AI Forschungsgruppe
Institut für Robotik und Kognitive Systeme
Universität zu Lübeck
Email: sebastian.otte(at)uni-luebeck(dot)de 

Prof. Sebastian Otte, Leiter der Forschungsgruppe Adaptive KI am Institut für Robotik und Kognitive Systeme (Foto: Tobias Duffe)

Saya Higuchi, Doktorandin am Institut für Robotik und Kognitive Systeme (Foto: privat)