Gesamtkosten von KI-Projekten (TCO): Was neben der API-Rechnung anfällt

Die Gesamtkosten von KI-Projekten bestehen nur zu einem kleinen Teil aus der Rechnung des KI-Anbieters. Entwicklung, Einbindung in bestehende Systeme, Qualitätsprüfung, Betrieb und Pflege kosten in vielen Projekten deutlich mehr als die Tokens. Wer nur die API-Preise vergleicht, plant zu knapp. Die Betrachtung der Total Cost of Ownership (TCO) über die gesamte Laufzeit verhindert das.

Die Kostenblöcke

Einmalige Kosten:

• Konzept und Auswahl: Anwendungsfall klären, Modelle und Anbieter testen
• Entwicklung: Prompts, Programmlogik, Oberfläche, Anbindung an Datenquellen
• Datenaufbereitung: Dokumente bereinigen, strukturieren, für RAG vorbereiten
• Testdaten und Bewertung: Beispielfälle sammeln, Qualitätskriterien festlegen
• Datenschutz und Recht: Prüfung, Verträge, Dokumentation
• Einführung: Schulung der Nutzer, Anpassung von Abläufen

Laufende Kosten:

• Tokens bzw. Lizenzen, abhängig von Nutzung und Modell
• Infrastruktur: Server, Datenbanken, Vektordatenbank, Monitoring
• Qualitätssicherung: Stichproben, Auswertung von Beschwerden, Nachbesserung
• Pflege: Prompts anpassen, Modellwechsel, neue Dokumente einpflegen
• Support für Nutzer

Versteckte Treiber

Einige Posten tauchen in vielen Planungen gar nicht auf. Eine ausführliche Liste bietet Versteckte KI-Kosten. Besonders häufig unterschätzt:

1. Modellwechsel: Anbieter kündigen ältere Modelle ab. Jeder Wechsel erfordert neue Tests und oft angepasste Prompts.
2. Menschliche Prüfung: Wenn Ergebnisse vor der Verwendung kontrolliert werden müssen, ist diese Arbeitszeit Teil der Kosten.
3. Wachstum: Erfolgreiche Anwendungen werden mehr genutzt, Prompts werden länger, neue Funktionen kommen hinzu.
4. Compliance: Dokumentation nach KI-Verordnung und DSGVO, etwa ein Verzeichnis der eingesetzten KI-Systeme, das der Generator KI-Verzeichnis erstellen vorbereitet.

Eine Beispielrechnung in Worten

Ein mittelständisches Unternehmen baut einen internen Assistenten, der Fragen zu Handbüchern beantwortet. Die Entwicklung dauert einige Wochen interner oder externer Arbeit. Die Tokenkosten für einige hundert Anfragen am Tag liegen mit einem mittleren Modell im zweistelligen bis niedrigen dreistelligen Bereich pro Monat. Dazu kommen Hosting, regelmäßige Pflege der Dokumente und einige Stunden Qualitätsprüfung im Monat. Über drei Jahre gerechnet machen die Tokens in solchen Projekten oft nur einen kleinen Teil der Gesamtkosten aus; den größten Anteil haben Personalkosten für Entwicklung und Pflege.

So rechnen Sie die TCO

1. Laufzeit festlegen, etwa drei Jahre.
2. Einmalige Kosten schätzen, mit Puffer.
3. Laufende Tokenkosten aus Anfragen und Tokens je Anfrage berechnen, mit dem KI-Kostenrechner.
4. Personalaufwand für Betrieb und Pflege in Stunden pro Monat schätzen.
5. Alles über die Laufzeit addieren und dem Nutzen gegenüberstellen.

Den Nutzen, etwa eingesparte Arbeitszeit, stellt der KI-ROI-Rechner den Kosten gegenüber. Für den Vergleich mit menschlicher Arbeit eignet sich KI vs. Mensch: Kostenvergleich.

Kaufen oder bauen?

Die TCO-Betrachtung hilft auch bei der Grundsatzfrage, ob ein fertiges Produkt oder eine Eigenentwicklung günstiger ist. Fertige Lösungen wie Business-Abos oder Copilot haben höhere Lizenzkosten je Nutzer, aber kaum Entwicklungs- und Pflegeaufwand. Eigenentwicklungen lohnen sich eher bei hohen Stückzahlen, speziellen Abläufen oder wenn die KI Teil eines verkauften Produkts ist. Wie Sie ein solches Produkt kalkulieren, zeigt KI-Produkt kalkulieren.

Kosten über die Zeit

Der Kostenverlauf ist selten gleichmäßig: Am Anfang dominieren Entwicklung und Einführung, danach die laufenden Posten. Planen Sie zusätzlich einmal im Jahr Aufwand für Modellwechsel und Überarbeitung ein.