KI

KI soll nur so viel Rechenleistung nutzen wie nötig

Forschende wollen KI-Aufgaben mit passendem Rechenaufwand bearbeiten. Wie die Idee funktioniert und was noch offen ist.

Von Wolfgang

02. Nov. 20263 Min. Lesezeit

Rechenzentrum mit KI-Anfragen

Eine kurze Frage und eine schwierige Recherche müssen nicht dieselbe Rechenarbeit auslösen. An der University of California in Santa Barbara erforscht ein Team, wie KI-Systeme ihren Aufwand künftig an die jeweilige Aufgabe anpassen können. Für einfache Anfragen sollen leichtere Einstellungen reichen; anspruchsvollere Aufgaben würden mehr Rechenleistung erhalten.

Das Vorhaben gehört zu fünf frühen Forschungsprojekten, die das Institut für Energieeffizienz der Universität fördert. Die Universität stellte die Projekte am 30. Oktober vor. Eine fertige Lösung oder gemessene Einsparung für das neue System gibt es in der Ankündigung noch nicht.

Eine Weiche für den Rechenaufwand

Ein großes KI-Modell verarbeitet eine Anfrage in mehreren Rechenschritten. Die Forscher Mahnoosh Alizadeh und Ramtin Pedarsani wollen untersuchen, wie sich dafür je nach Schwierigkeit eine leichtere oder aufwendigere Konfiguration auswählen lässt. Die Idee: Ein einfaches Anliegen soll nicht automatisch denselben Aufwand beanspruchen wie ein Problem, das mehrere anspruchsvolle Schritte erfordert.

Schematische Weiche leitet einfache und schwierige KI-Aufgaben zu unterschiedlich vielen Rechenschichten.
Das Schema zeigt das Forschungsprinzip: Je nach Aufgabe könnte unterschiedlich viel Verarbeitung nötig sein. (Quelle: KI generiert)

Die Weiche müsste zuverlässig genug entscheiden, welche Verarbeitung für eine Aufgabe ausreicht. Spart sie an der falschen Stelle, kann die Antwort schlechter werden. Das Team will daher nicht nur die Größe eines Modells oder die Zahl seiner Rechenoperationen betrachten. Geplant ist, den Energiebedarf für eine korrekte Antwort zu messen und dabei ein gefordertes Qualitätsniveau einzuhalten.

Ein einfaches Gedankenbeispiel macht den Unterschied deutlich: Eine Lösung, die wenig Strom braucht, aber häufig falsch liegt, hilft bei einer Aufgabe nur begrenzt. Umgekehrt kann mehr Rechenarbeit sinnvoll sein, wenn sie eine schwierige Frage verlässlicher beantwortet. Wie gut sich die passende Stufe vorab wählen lässt, muss das Forschungsprojekt erst zeigen.

Auch KI-Agenten sollen kürzere Wege finden

Ein zweites gefördertes Team um Informatiker Xin Eric Wang beschäftigt sich mit KI-Agenten. Solche Programme bearbeiten Aufgaben über mehrere Schritte, etwa indem sie Informationen suchen oder Software bedienen. Dabei verarbeiten sie Text in kleinen Einheiten, den sogenannten Tokens. Bei langen Abläufen können sich diese Einheiten und die wiederholt verarbeiteten Informationen summieren.

Wangs Gruppe entwickelt laut Universität ein quelloffenes System, das Modelle zu kürzeren erfolgreichen Lösungswegen trainieren und wiederholte Verarbeitung bei langen Aufgaben verringern soll. Auch hier ist das Ziel eine geringere Rechenlast bei erhaltener Leistung. Die Ankündigung nennt dafür noch kein Ergebnis des neuen Projekts.

Weniger Energie allein genügt als Maß nicht

Wie stark sich eine solche Anpassung auswirkt, hängt von der Aufgabe und der technischen Umgebung ab. Eine unabhängige Untersuchung zur Textklassifikation verglich beispielsweise Genauigkeit und Energieverbrauch verschiedener Sprachmodelle auf unterschiedlicher Hardware. Sie untersucht damit eine konkrete Anwendung; ihre Ergebnisse lassen sich nicht als Einsparwert für das neue Projekt übertragen.

Für die Forschung in Santa Barbara ist genau diese Verbindung entscheidend: Nicht nur die verbrauchte Energie zählt, sondern auch, ob die Antwort den Zweck erfüllt. Die Universität fördert die Arbeiten zunächst als frühe Forschung. Ob die vorgeschlagene Auswahl im praktischen Betrieb zuverlässig funktioniert und wie viel Energie sie spart, bleibt zu messen.

Quellen

Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft.