Eigener KI-Server: Was er kostet und wann er sich lohnt

Ein eigener KI-Server verspricht volle Kontrolle über die Daten und keine Kosten je Anfrage. Dafür fallen Anschaffung, Strom, Wartung und Arbeitszeit an. Ob sich das rechnet, hängt weniger vom Preis der Hardware ab als von zwei Fragen: Wie viel wird der Server tatsächlich genutzt, und reicht ein offenes Modell in der Größe, die Sie betreiben können?

Gründe für einen eigenen Server

• Datenschutz und Geheimhaltung: Daten verlassen das Haus nicht. Für Berufsgeheimnisträger, Forschung oder Entwicklung kann das entscheidend sein.
• Unabhängigkeit: keine Preisänderungen, keine Abkündigung von Modellen, kein Ausfall beim Anbieter.
• Planbare Kosten: feste Anschaffung statt schwankender Monatsrechnung.
• Betrieb ohne Internet in abgeschotteten Netzen.

Die Kostenblöcke

1. Hardware: Server oder Workstation mit einer oder mehreren GPUs. Der Grafikspeicher bestimmt, welche Modelle laufen. Für Modelle mit rund 70 Milliarden Parametern braucht es auch komprimiert 40 GB und mehr.
2. Strom: GPUs ziehen unter Last viel Leistung. Bei Dauerbetrieb ist das ein spürbarer Posten, dazu kommt Kühlung.
3. Abschreibung: KI-Hardware veraltet schnell. Planen Sie mit wenigen Jahren Nutzungsdauer.
4. Arbeitszeit: Einrichtung, Updates, Sicherheit, Überwachung und Hilfe für Nutzer.
5. Software: Die gängigen Programme für den Betrieb sind oft quelloffen; Verwaltungs- und Sicherheitsfunktionen für Unternehmen können Lizenzkosten verursachen.

Was ein eigener Server leisten kann

Auf einem Server im Unternehmen laufen offene Modelle, die je nach Größe für Zusammenfassungen, Klassifizierung, Entwürfe, interne Suche und einfache Assistenten gut geeignet sind. Bei schwierigen Analysen, langen Agentenaufgaben und anspruchsvollem Code liegen die großen Modelle der Anbieter in Vergleichstests meist vorn. Prüfen Sie deshalb vor dem Kauf mit echten Aufgaben, ob ein Modell in der für Sie bezahlbaren Größe ausreicht. Grundlagen erklärt KI lokal ausführen.

Gewinnschwelle gegenüber der API

Die Rechnung folgt einem einfachen Muster:

1. Gesamtkosten des Servers über die Nutzungsdauer: Hardware plus Strom plus Arbeitszeit.
2. Erwartete Tokens über denselben Zeitraum, realistisch geschätzt.
3. Gesamtkosten geteilt durch Tokens ergibt Ihren Preis je Million Tokens.
4. Vergleich mit dem API-Preis eines Modells ähnlicher Qualität, berechnet mit dem KI-Kostenrechner.

Kleinere API-Modelle kosten oft nur Bruchteile eines Dollars je Million Eingabe-Tokens. Gegen solche Preise kommt ein eigener Server nur bei hoher, gleichmäßiger Auslastung an. Bei gelegentlicher Nutzung durch wenige Mitarbeitende ist die API oder ein Business-Abo fast immer günstiger.

Alternativen zwischen Cloud und Keller

• GPU mieten: eigene Modelle ohne Anschaffung, mehr in GPU mieten: Kosten.
• Offene Modelle bei EU-Anbietern: Betrieb durch einen Dienstleister in einem europäischen Rechenzentrum, abgerechnet nach Tokens.
• Business-Tarife mit Datenschutzzusagen und Vertrag zur Auftragsverarbeitung, wie in Auftragsverarbeitung mit KI-Anbietern beschrieben.

Empfehlung

Beginnen Sie mit einem Test auf vorhandener oder gemieteter Hardware. Messen Sie Qualität, Geschwindigkeit und Nutzung über einige Wochen. Erst wenn feststeht, dass ein offenes Modell reicht und der Server gut ausgelastet sein wird, lohnt die Anschaffung. Die gesamte Kostenbetrachtung beschreibt Gesamtkosten von KI-Projekten.

Denken Sie außerdem an Ausfallsicherheit: Ein einzelner Server ist ein einzelner Fehlerpunkt. Wer geschäftskritische Abläufe darauf stützt, braucht Ersatzteile, Wartungsvertrag oder einen Ausweichweg über eine API.