LLM-Nutzung auswerten

Token-Verbrauch aus Logs zusammenrechnen

Mit diesem Werkzeug können Sie die LLM-Nutzung auswerten, die in Ihren eigenen API-Logs steht. Jede Antwort einer KI-API enthält ein Objekt mit den usage Tokens des Aufrufs: bei OpenAI Chat Completions etwa prompt_tokens und completion_tokens, bei der Responses API und bei Anthropic input_tokens und output_tokens, bei Google Gemini usageMetadata mit promptTokenCount. Das Werkzeug sucht diese Objekte in beliebigem Text, auch mitten in Log-Zeilen, und ordnet sie dem Modell zu, das im selben Eintrag steht.

Heraus kommt der Token-Verbrauch je Modell mit Eingabe, gelesenen und geschriebenen Cache-Tokens, Ausgabe und dem Anteil der Reasoning-Tokens sowie die Kosten je Modell nach den Listenpreisen der Modelldatenbank dieser Website. Dabei werden die Unterschiede der Anbieter beachtet: Bei OpenAI und Gemini sind gecachte Tokens in der Eingabe enthalten, bei Anthropic werden sie getrennt gemeldet. Geschriebene Cache-Tokens berechnet das Werkzeug bei Anthropic mit dem 1,25-fachen Eingabepreis, wie er für den Cache mit fünf Minuten Laufzeit gilt. So können Sie API-Logs auswerten und mit der Rechnung vergleichen.

Grenzen: Das Werkzeug kann nur zählen, was in den Logs steht. Fehlt das Modell in einem Eintrag, wird der Preis des gewählten Ersatzmodells verwendet. Sondertarife, Batch-Rabatte, Aufpreise für langen Kontext und Preisänderungen im Zeitraum werden nicht berücksichtigt. Ergebnisdateien der Batch-API werten Sie mit Batch-Ergebnisse auswerten aus, künftige Kosten schätzt der KI-Kostenrechner.