Energieverbrauch von KI: Was Training und Nutzung wirklich verbrauchen

Der Energieverbrauch von KI ist in den letzten Jahren zu einem viel diskutierten Thema geworden. Große Sprachmodelle laufen in Rechenzentren mit Tausenden spezialisierter Chips, die Strom brauchen und gekühlt werden müssen. Wie groß der Fußabdruck einer einzelnen Anfrage ist, lässt sich nur schätzen, denn die Anbieter legen ihre Zahlen nur teilweise offen.

Wo Energie verbraucht wird

• Training: Ein großes Modell wird über Wochen oder Monate auf sehr vielen Grafikprozessoren trainiert. Das ist ein großer, aber einmaliger Aufwand pro Modell.
• Inferenz: Jede Anfrage braucht Rechenleistung. Weil Modelle von sehr vielen Menschen genutzt werden, macht die Nutzung in Summe einen großen Teil des Verbrauchs aus. Mehr dazu unter Was ist Inferenz?
• Kühlung: Rechenzentren brauchen Kühlung, teils mit Wasser. Der Wasserverbrauch hängt stark von Standort und Technik ab.
• Hardware-Herstellung: Auch die Produktion der Chips und Server verursacht Emissionen.

Wovon der Verbrauch einer Anfrage abhängt

• Modellgröße: Große Modelle rechnen pro Token mehr als kleine, siehe Parameter eines Sprachmodells.
• Länge von Eingabe und Ausgabe: Mehr Tokens bedeuten mehr Rechenarbeit.
• Reasoning: Modelle, die vor der Antwort lange nachdenken, erzeugen viele zusätzliche Tokens.
• Bilder, Audio und Video: Videogenerierung ist besonders rechenintensiv.
• Agenten: Ein Agent, der eine Aufgabe in vielen Schritten erledigt, ruft das Modell dutzendfach auf.
• Rechenzentrum: Effizienz der Hardware und Strommix am Standort.

Zahlen mit Vorsicht lesen

Im Netz kursieren viele Angaben zum KI Stromverbrauch pro Anfrage. Sie unterscheiden sich teils um ein Vielfaches, weil sie auf unterschiedlichen Annahmen, Modellen und Jahren beruhen. Einige Anbieter haben eigene Werte veröffentlicht, die Methodik ist aber nicht einheitlich. Sicher ist: Effizienz pro Token ist über die Jahre gestiegen, gleichzeitig wächst die Nutzung stark. Die großen Technologieunternehmen bauen deshalb zusätzliche Rechenzentren und schließen Verträge über Stromlieferungen. Neuigkeiten dazu finden Sie in den KI-News.

Was die Regulierung verlangt

Die KI-Verordnung verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, unter anderem Informationen zum Energieverbrauch ihrer Modelle zu dokumentieren, sofern bekannt oder schätzbar. In Deutschland gelten zudem für Rechenzentren Effizienzvorgaben nach dem Energieeffizienzgesetz. Dies ist keine Rechtsberatung.

So nutzen Sie KI sparsamer

1. Passendes Modell wählen: Für einfache Aufgaben genügt oft ein kleines Modell. Das spart Energie und Geld, siehe Small Language Models.
2. Reasoning nur bei Bedarf: Den Denkmodus für schwierige Aufgaben einschalten, nicht für jede Kleinigkeit.
3. Kürzere Prompts: Unnötigen Ballast entfernen. Wie viele Tokens ein Text hat, zeigt der Token-Zähler.
4. Kürzere Antworten verlangen: „Antworte in höchstens fünf Sätzen.“
5. Caching nutzen: Wiederkehrende Prompt-Teile werden bei Prompt Caching nicht jedes Mal neu berechnet.
6. Bilder und Videos gezielt erzeugen statt Dutzende Varianten durchzuprobieren.

Viele dieser Maßnahmen senken gleichzeitig die Kosten. Was sich bei Ihrer Nutzung sparen lässt, zeigt der Spar-Rechner.

Für Unternehmen kann es sinnvoll sein, bei Anbietern nach Angaben zu Rechenzentrumsstandorten und Strombezug zu fragen und diese in Nachhaltigkeitsberichte aufzunehmen, sofern belastbare Daten vorliegen.