KI-Kosten überwachen: Monitoring und Dashboards für API-Ausgaben
KI-Kosten überwachen ist Pflicht, sobald eine Anwendung mit echten Nutzern läuft. Anders als bei festen Lizenzen schwanken API-Kosten mit jeder Anfrage. Ein geänderter Prompt, ein Fehler in einer Schleife oder ein unerwarteter Ansturm kann die Rechnung über Nacht vervielfachen. Gutes Monitoring zeigt solche Ausreißer, bevor die Monatsrechnung kommt.
Was die Anbieter mitliefern
OpenAI, Anthropic und Google zeigen in ihren Konsolen den Verbrauch nach Tag, Modell und Projekt beziehungsweise Arbeitsbereich. Das reicht für einen ersten Überblick. Was dort fehlt, ist der Bezug zu Ihrem Geschäft: Welcher Kunde, welche Funktion, welcher Prompt hat die Kosten verursacht? Diese Zuordnung müssen Sie selbst herstellen.
Eigene Messung: die Nutzungsangaben speichern
Jede API-Antwort enthält Nutzungsangaben: Eingabe-Tokens, Ausgabe-Tokens, bei Bedarf gecachte Tokens und Reasoning-Tokens. Speichern Sie diese Werte zu jeder Anfrage, zusammen mit:
- Zeitpunkt und Modell
- Funktion oder Endpunkt Ihrer Anwendung (etwa „Zusammenfassung“, „Chat“)
- Kunde oder Mandant, bei internen Anwendungen die Abteilung
- Version des Prompts
- Dauer und Ergebnis (erfolgreich, Fehler, Wiederholung)
Mit den Preisen je Million Tokens lassen sich daraus die Kosten je Anfrage berechnen. Achten Sie darauf, dass Preisänderungen der Anbieter in Ihre Berechnung einfließen; aktuelle Werte stehen auf den Modellseiten.
Die wichtigsten Kennzahlen
- Kosten je Tag, aufgeteilt nach Modell. Ein Sprung fällt hier sofort auf.
- Kosten je Anfrage im Durchschnitt und als Spitzenwert. Steigt der Durchschnitt, wurde vermutlich ein Prompt länger.
- Kosten je Kunde oder Nutzer. Zeigt, ob einzelne Vielnutzer die Kalkulation sprengen.
- Cache-Trefferquote. Fällt sie, hat sich vermutlich der Anfang eines Prompts verändert.
- Anteil der Fehler und Wiederholungen. Jede Wiederholung kostet mit.
- Verhältnis von Ausgabe zu Eingabe. Wird die Ausgabe plötzlich länger, fehlt vielleicht eine Längenvorgabe.
Dashboards und Werkzeuge
Für das Dashboard brauchen Sie keine Spezialsoftware. Viele Teams schreiben die Nutzungsdaten in eine Datenbank und werten sie mit einem vorhandenen BI-Werkzeug oder einer Tabelle aus. Daneben gibt es spezialisierte Plattformen für die Beobachtung von KI-Anwendungen, die Anfragen, Prompts und Kosten automatisch erfassen. Prüfen Sie dabei den Datenschutz: Wenn ganze Prompts mitgeschrieben werden, landen auch personenbezogene Daten im Monitoring.
Warnungen statt Kontrolle von Hand
Ein Dashboard hilft nur, wenn jemand draufschaut. Ergänzen Sie es deshalb um automatische Warnungen:
- Tageskosten über einem festen Wert
- Kosten je Anfrage deutlich über dem Durchschnitt der letzten Woche
- ungewöhnlich viele Anfragen von einem einzelnen Nutzer
Zusätzlich sollten harte Grenzen beim Anbieter gesetzt sein. Wie das geht, beschreibt Ausgabenlimits für KI-APIs setzen.
Vom Monitoring zum Budget
Nach einigen Wochen Messung kennen Sie die echten Kosten je Anfrage. Damit lässt sich das Budget für das nächste Quartal belastbar planen: Der Budget-Rechner zeigt, wie viele Anfragen ein Betrag abdeckt, der Ratgeber KI-Budget planen erklärt das Vorgehen.
Kosten richtig zuordnen
Geben Sie jedem Projekt oder Kunden einen eigenen API-Schlüssel oder ein eigenes Projekt beim Anbieter. So lassen sich Kosten auch ohne eigenes Dashboard sauber trennen und interne Verrechnungen begründen.
Erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Allgemeine Information, keine Rechts-, Steuer- oder Finanzberatung.