Streaming-Antwort zusammensetzen
Streaming-Antwort zusammensetzen: Rohe Server-Sent Events von OpenAI, Anthropic oder Gemini einfügen und den vollständigen Text, Ereignisse und Tokenverbrauch sehen.
| Angabe | Wert |
|---|
Streaming lesbar machen
Mit Streaming liefern KI-APIs die Antwort in vielen kleinen Ereignissen. Beim Debuggen sieht man dann hunderte Zeilen mit „data: {…}“ statt eines lesbaren Textes. Das Werkzeug setzt die Textstücke wieder zusammen und zeigt Ereignisse, Abbruchgrund und Tokenverbrauch.
Erkannt werden die Formate der Chat-Completions- und Responses-Schnittstelle von OpenAI, der Messages-Schnittstelle von Anthropic und von Google Gemini.
Häufige Fragen
Was sind Server-Sent Events?
Ein Verfahren, bei dem der Server über eine offene Verbindung nacheinander Ereignisse schickt. KI-APIs nutzen es für Streaming.
Warum ist mein Text unvollständig?
Oft wurde der Stream abgebrochen oder die Antwort durch max_tokens begrenzt. Der Stop-Grund zeigt, was passiert ist.
Wird die Antwort übertragen?
Nein, die Auswertung läuft im Browser.
Zum Weiterlesen
- RAG einfach erklärt: KI mit eigenen Dokumenten nutzenRAG einfach erklärt: wie Retrieval-Augmented Generation funktioniert, wofür man Embeddings und Vektordatenbanken braucht und was ein RAG-System kostet.
- Structured Outputs: Zuverlässig JSON von KI-ModellenStructured Outputs erklärt: Wie Sie mit JSON-Schema garantiert gültiges JSON von OpenAI, Claude und Gemini bekommen, statt kaputte Antworten nachträglich zu reparieren.
- Prompt Injection: Wie Angriffe auf KI-Systeme funktionierenPrompt Injection erklärt: wie versteckte Anweisungen in E-Mails, Dokumenten und Websites KI-Assistenten und Agenten manipulieren und welche Schutzmaßnahmen wirken.
Das könnte auch helfen
JSON formatierenneu
JSON formatieren, prüfen und minifizieren, mit Fehlerstelle und Tokenzahl.
ÖffnenJSON reparierenneu
Kaputtes JSON aus KI-Antworten reparieren: Codeblöcke, Kommas, Anführungszeichen.
ÖffnenBatch-Datei-Generatorneu
Aus einer Vorlage und einer Liste viele Prompts erzeugen, als JSONL für die Batch-APIs.
ÖffnenAPI-Anfrage-Generatorneu
Fertige cURL-Anfragen für die APIs von OpenAI, Anthropic und Google erzeugen.
ÖffnenPrompt-Injection-Prüferneu
Fremde Texte vor der KI-Verarbeitung auf versteckte Anweisungen und Tricks prüfen.
ÖffnenJSON-Schema-Generator
Aus einem JSON-Beispiel ein JSON Schema für strukturierte Ausgaben von KI-Modellen erzeugen.
Öffnen