Eine Frage eintippen, eine Antwort erhalten: Was dabei an Strom verbraucht wird, lässt sich nicht aus der Textlänge allein ablesen. Ein sinnvoller Vergleich misst die Energie für dieselbe Aufgabe und berücksichtigt zugleich, wie gut die Antworten sind. Welche Hardware rechnet, wie viele Anfragen gleichzeitig laufen und wo gemessen wird, gehört ebenfalls zum Ergebnis.
Das zeigen zwei Forschungsarbeiten zu Sprachmodellen. Die eine vergleicht direkt gemessene Energie und Fähigkeiten zahlreicher Modelle; die andere untersucht ein Werkzeug, das verschiedene Abschnitte einer Anfrage und Teile des Rechners getrennt erfasst. Beide machen deutlich, weshalb eine pauschale Stromzahl für jede KI-Antwort wenig erklärt.
Was beim Antworten passiert
Das Training eines Sprachmodells und seine spätere Anwendung sind verschiedene Vorgänge. Bei der Anwendung, der sogenannten Inferenz, verarbeitet das bereits trainierte Modell eine Eingabe und erzeugt daraus eine Ausgabe. Der Rechner zerlegt Text dafür in Token: Ein Token kann ein Wort, ein Wortteil oder ein anderes Textzeichenbündel sein. Aus der Zahl der Token allein folgt jedoch noch nicht, wie viel Strom die Hardware verbraucht.
Eine Anfrage umfasst zunächst die Verarbeitung der Eingabe. Danach erzeugt das Modell die Antwort schrittweise. Die Forschungsarbeit TokenPowerBench trennt diese Phasen bei der Messung. Eine lange mitgeschickte Vorlage und eine lange generierte Antwort können den Ablauf unterschiedlich beeinflussen. Wer nur die sichtbare Antwort zählt, lässt einen Teil der Arbeit außer Betracht.
Hinzu kommt die Art des Modells und des Rechners. Ein Modell kann mehr oder weniger Rechenarbeit benötigen; unterschiedliche Beschleuniger und Software setzen diese Arbeit unterschiedlich um. Auch die gleichzeitige Bearbeitung mehrerer Anfragen, im Fachjargon Batching, verändert die Auslastung. Der Strombedarf pro Anfrage hängt deshalb davon ab, unter welchen Bedingungen der Dienst arbeitet.
Weniger Token bedeuten nicht automatisch weniger Energie
Die Oxford-Forscher Zeyu Yang und Wes Armour haben 86 Modellstände mit offenen Gewichten auf sieben Aufgabensammlungen und sechs Hardwareplattformen untersucht. Sie verglichen die gemessene Energie mit den Ergebnissen der Modelle. Die Arbeit liegt als Preprint vor, also als Forschungsmanuskript vor einer gegebenenfalls noch ausstehenden fachlichen Begutachtung.
Ihr Befund: Die Zahl der erzeugten Token war ein unzuverlässiger Ersatz für die Energiemessung. Je nach Auswertung ordnete sie 18 bis 24 Prozent der verglichenen Modellpaare anders ein als der tatsächliche Energieverbrauch. Ein Modell, das weniger Textbausteine ausgibt, kann in einem solchen Vergleich also trotzdem mehr Energie benötigen. Die Prozentzahlen beschreiben die untersuchten Modellpaare, nicht den Anteil aller KI-Anfragen.
Der Grund ist anschaulich: Ein Token ist eine Einheit des verarbeiteten Textes, keine Energieeinheit. Wie viel Arbeit für seine Erzeugung anfällt und wie schnell die Hardware sie erledigt, hängt von Modell und Betrieb ab. Eine reine Tokenstatistik kann bei der Beschreibung einer Aufgabe helfen, ersetzt aber den Stromzähler oder eine geeignete Leistungsmessung nicht.
Leistung ist noch kein Verbrauch
Ein Messgerät kann anzeigen, mit welcher elektrischen Leistung ein Rechner gerade arbeitet. Leistung wird in Watt angegeben; Energie berücksichtigt zusätzlich die Zeit. Läuft ein Gerät beispielsweise eine Stunde lang konstant mit 100 Watt, benötigt es 100 Wattstunden. Das ist ein einfaches Rechenbeispiel, keine Messung einer KI-Anfrage.
In der Praxis schwankt die Leistung. Um die Energie einer Aufgabe zu bestimmen, wird die Leistung über die Dauer aufsummiert. Yang und Armour nutzen dafür Sensordaten ihrer Hardware. Ihre Hauptmessung umfasst vor allem die Beschleuniger und bildet keine vollständige Stromrechnung eines Rechenzentrums ab. Je nach gewählter Grenze können etwa weitere Serverkomponenten oder die Gebäudetechnik hinzukommen.
TokenPowerBench betrachtet neben Komponenten auch größere Systemebenen und ordnet Messwerte den Phasen der Anfrage zu. Daraus lässt sich besser erkennen, welche Teile und Abschnitte im jeweiligen Versuchsaufbau zur gemessenen Energie beitragen. Vergleiche sind nur dann aussagekräftig, wenn dieselbe Grenze verwendet oder der Unterschied klar benannt wird.
Die richtige Antwort gehört in den Vergleich
Angenommen, zwei Modelle erhalten dieselbe Sammlung von Aufgaben. Das erste benötigt weniger Energie, beantwortet aber deutlich weniger Fragen richtig. Wer nur Wattstunden pro Anfrage meldet, sieht den Nachteil nicht. Umgekehrt sagt ein hoher Punktestand allein nichts darüber, wie viel Energie dafür nötig war.
Yang und Armour stellen deshalb Fähigkeiten und gemessene Energie gemeinsam dar. In ihren Versuchen unterscheiden sich selbst Konfigurationen mit ähnlichen Ergebnissen teils stark im Energiebedarf. Für einen fairen Vergleich müssen Aufgabe, Bewertung und gewünschte Qualität feststehen. Bei einer offenen Schreibaufgabe ist Qualität schwieriger zu bewerten als bei einer Frage mit eindeutig prüfbarer Lösung. Auch diese Wahl beeinflusst, was eine Kennzahl aussagt.
Die Studie untersucht vor allem hohe Auslastung und offene Modellgewichte. Ein kommerzieller Dienst kann andere Modelle, Hardware, Auslastung und Messgrenzen verwenden. Aus den Ergebnissen lässt sich deshalb kein allgemeiner Verbrauch für eine konkrete Chatbot-Antwort ableiten. Selbst bei gleichem Dienst kann eine kurze Frage mit kurzer Antwort anders ausfallen als die Verarbeitung eines langen Dokuments.
Wer einen Energievergleich verstehen will, sollte daher nach fünf Angaben suchen: Welche Aufgabe wurde gestellt und wie wurde die Qualität bewertet? Welches Modell und welche Hardware liefen mit welcher Auslastung? Wie lang waren Eingabe und Ausgabe? Und welche Teile des Systems erfasst die Messung? Erst zusammen machen diese Angaben aus einer einzelnen Zahl einen brauchbaren Vergleich.
Quellen
- Zeyu Yang und Wes Armour: Measuring the Inference Energy Efficiency of Open-Weight LLMs across Benchmarks, Reasoning Modes, and Hardware, 9. Oktober 2026
- Chenxu Niu et al.: TokenPowerBench: Benchmarking the Power Consumption of LLM Inference, 2. Dezember 2025
Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde redaktionell geprüft.
