Open-Weight-Modelle oder API: Was ist günstiger?

1 Min. LesezeitAktualisiert am Mit KI erstellt · redaktionell verantwortet

Open-Weight-Modelle wie Llama, Mistral, Qwen oder DeepSeek lassen sich herunterladen und auf eigener Hardware betreiben. Das klingt nach „kostenlos“, ist es aber selten: Grafikkarten, Strom und Betreuung kosten Geld. Ob sich das lohnt, hängt vor allem von der Menge ab.

Kurz gesagt

Open-Weight-Modelle wie Llama, Mistral oder Qwen sind zwar frei herunterladbar, der eigene Betrieb kostet aber Hardware, Strom und vor allem Betreuung. Für die meisten Unternehmen mit unter einigen hundert Millionen Tokens im Monat ist die API günstiger; selbst hosten lohnt sich bei Dauerlast oder strengen Datenvorgaben.

Begriffe: Open Source oder Open Weight?

Bei den meisten „offenen“ Modellen sind nur die trainierten Gewichte frei verfügbar, nicht die Trainingsdaten und nicht immer der Trainingscode. Deshalb spricht man genauer von Open-Weight-Modellen. Die Lizenzen unterscheiden sich: Manche erlauben jede Nutzung, andere schränken kommerzielle Nutzung oder sehr große Anbieter ein.

Was der eigene Betrieb kostet

  • Hardware: Ein kleines Modell (7 bis 14 Milliarden Parameter) läuft auf einer guten Grafikkarte. Große Modelle brauchen Server mit mehreren Rechenzentrums-GPUs, die zehntausende Euro kosten oder mehrere Euro pro Stunde Miete.
  • Strom und Kühlung bei eigener Hardware.
  • Betreuung: Einrichtung, Updates, Überwachung, Sicherheit. Oft der größte Posten.
  • Auslastung: Ein Server kostet auch nachts Geld, wenn niemand fragt.

Was die API kostet

Bei der API zahlen Sie nur pro Token. Kleine Modelle kosten wenige Cent pro Million Tokens, und dieselben Open-Weight-Modelle werden auch von Cloud-Anbietern per API angeboten, oft sehr günstig. Für die meisten Unternehmen mit unter einigen hundert Millionen Tokens im Monat ist die API deshalb billiger als ein eigener GPU-Server. Ihre Monatskosten per API zeigt der KI-Kostenrechner.

Wann sich selbst hosten trotzdem lohnt

  • sehr hohe, gleichmäßige Last, die eine GPU rund um die Uhr auslastet
  • Daten dürfen das eigene Netz nicht verlassen (Geheimhaltung, Branchenvorgaben)
  • Betrieb ohne Internet, etwa in der Produktion
  • Feinabstimmung auf eigene Daten mit voller Kontrolle

Der Mittelweg

Viele Cloud-Anbieter betreiben Open-Weight-Modelle in europäischen Rechenzentren mit Vertrag zur Auftragsverarbeitung. Das verbindet Datenschutz mit API-Komfort. Auch die großen Modelle von OpenAI, Anthropic und Google gibt es über Azure, AWS und Google Cloud mit Datenverarbeitung in der EU.

Häufige Fragen

Sind Open-Weight-Modelle dasselbe wie Open Source KI?

Nicht ganz. Bei den meisten offenen Modellen sind nur die trainierten Gewichte frei verfügbar, nicht die Trainingsdaten und nicht immer der Trainingscode. Auch die Lizenzen unterscheiden sich; manche schränken kommerzielle Nutzung oder sehr große Anbieter ein.

Welche Hardware braucht ein eigener Server für KI-Modelle?

Ein kleines Modell mit 7 bis 14 Milliarden Parametern läuft auf einer guten Grafikkarte. Große Modelle brauchen Server mit mehreren Rechenzentrums-GPUs, die zehntausende Euro kosten oder mehrere Euro pro Stunde Miete.

Gibt es einen Mittelweg zwischen selbst hosten und US-API?

Ja. Viele Cloud-Anbieter betreiben Open-Weight-Modelle in europäischen Rechenzentren mit Vertrag zur Auftragsverarbeitung. Auch die Modelle von OpenAI, Anthropic und Google gibt es über Azure, AWS und Google Cloud mit Datenverarbeitung in der EU.

Leon Blatz betreibt Tokenlabor und verantwortet alle Inhalte redaktionell. Texte entstehen mit Unterstützung von KI unter redaktioneller Kontrolle; Preise und Fakten stammen aus den genannten Quellen, Hinweise auf Fehler werden geprüft und korrigiert. Mehr über Tokenlabor

Allgemeine Information, keine Rechts-, Steuer- oder Finanzberatung.

KostenrechnerMonatskosten für alle Modelle aus Tokenmengen und Anfragen, mit Caching, Batch und Teilen-Link.
Öffnen

Auch hilfreich: Systemprompt-Kostenrechner · KI-Preiskalkulation

Weiterlesen

Passende Artikel

Alle zu Kosten und Modelle
  1. GPU mieten: Kosten für den Betrieb eigener KI-ModelleGPU mieten für eigene KI-Modelle: wie Cloud-GPUs abgerechnet werden, welcher Grafikspeicher nötig ist und wann sich die Miete gegenüber der API lohnt.
  2. Open-Source-KI-Modelle: Was offen wirklich bedeutet und wann es sich lohntOpen-Source-KI-Modelle erklärt: Unterschied zwischen Open Source und Open Weight, bekannte Modellfamilien, Lizenzen, Kosten und wann sich eigene Modelle lohnen.
  3. Eigener KI-Server: Was er kostet und wann er sich lohntEigener KI-Server im Unternehmen: Anschaffung, Strom, Betrieb und Abschreibung im Vergleich zur API. Für wen sich lokale KI-Hardware lohnt und für wen nicht.
  4. OpenAI-API-Kosten verstehen: Modellstufen, Abrechnung und RabatteOpenAI-API-Kosten verstehen: welche GPT-Modellstufe was kostet, wie Eingabe, Ausgabe, Cache und Batch abgerechnet werden und wie Sie die Rechnung planen.