Tokenlabor

KI-Entwicklung: API, RAG und Agenten

Artikel für alle, die KI in eigene Anwendungen einbauen: Einstieg in die APIs, Function Calling, strukturierte Ausgaben, RAG-Pipelines, Agenten, Tests, Sicherheit und Kostenkontrolle.

Neu

Zuletzt erschienen

  1. Sprachassistent mit KI bauen: Von der Spracheingabe zur gesprochenen AntwortSprachassistent mit KI bauen: Spracherkennung, Sprachmodell und Sprachausgabe verbinden oder Echtzeit-Modelle nutzen. Tipps zu Latenz, Kosten und Datenschutz.
  2. Mehrsprachige KI-Anwendungen: Chatbots und Tools für viele SprachenMehrsprachige KI-Anwendungen: Antwortsprache steuern, Prompts und Wissensbasis über Sprachen hinweg nutzen, Tokenkosten je Sprache beachten und Qualität testen.
  3. Modell-Routing: Anfragen automatisch auf passende KI-Modelle verteilenModell-Routing erklärt: einfache Anfragen an günstige, schwierige an starke KI-Modelle schicken. Welche Router-Arten es gibt und wie Sie die Qualität sichern.
  4. Semantisches Caching: Ähnliche KI-Anfragen nur einmal bezahlenSemantisches Caching erklärt: wie ein Cache über Embeddings ähnliche Fragen erkennt, wann das Kosten und Wartezeit spart und welche Risiken es birgt.
44 Artikel

Alle Artikel: Entwicklung

API, JSON, Sicherheit und Geschwindigkeit

  1. RAG einfach erklärt: KI mit eigenen Dokumenten nutzenRAG einfach erklärt: wie Retrieval-Augmented Generation funktioniert, wofür man Embeddings und Vektordatenbanken braucht und was ein RAG-System kostet.
  2. Structured Outputs: Zuverlässig JSON von KI-ModellenStructured Outputs erklärt: Wie Sie mit JSON-Schema garantiert gültiges JSON von OpenAI, Claude und Gemini bekommen, statt kaputte Antworten nachträglich zu reparieren.
  3. Prompt Injection: Wie Angriffe auf KI-Systeme funktionierenPrompt Injection erklärt: wie versteckte Anweisungen in E-Mails, Dokumenten und Websites KI-Assistenten und Agenten manipulieren und welche Schutzmaßnahmen wirken.
  4. Latenz von KI-Anwendungen: So antworten Modelle schnellerLatenz von KI-Anwendungen verringern: Woraus sich die Antwortzeit zusammensetzt und mit welchen Mitteln wie Streaming, kleineren Modellen und Caching sie spürbar sinkt.
  5. JSON-Fehler in KI-Antworten: Ursachen und LösungenJSON-Fehler in KI-Antworten: Warum Sprachmodelle ungültiges JSON liefern, welche Fehler typisch sind und wie Sie sie mit Schema, Prompt und Reparatur zuverlässig vermeiden.
  6. max_tokens erklärt: Antwortlänge richtig begrenzenmax_tokens erklärt: Was das Ausgabelimit bei OpenAI, Claude und Gemini bewirkt, wie Sie den richtigen Wert finden und warum abgeschnittene Antworten teurer sind als ein Puffer.
  7. KI lokal ausführen: Sprachmodelle auf dem eigenen RechnerKI lokal ausführen ohne Cloud: welche Hardware Sie brauchen, wie viel Speicher ein Modell belegt, welche Programme es gibt und wann es sich lohnt.
  8. Model Context Protocol (MCP) einfach erklärtMCP einfach erklärt: Das Model Context Protocol verbindet KI-Assistenten mit Werkzeugen und Daten. So funktionieren MCP-Server, Clients und Sicherheit.
  9. KI-Agenten absichern: Rechte, Freigaben und ProtokolleKI-Agenten absichern: Mit minimalen Rechten, Freigaben durch Menschen, Schutz vor Prompt Injection und lückenlosen Protokollen bleiben Agenten kontrollierbar.
  10. Texte mit KI klassifizieren: E-Mails, Tickets und Feedback sortierenTexte mit KI klassifizieren: E-Mails, Tickets und Feedback automatisch sortieren, mit festen Kategorien, JSON-Ausgabe, kleinen Modellen und Qualitätskontrolle.
  11. Fine-Tuning oder RAG? So wählen Sie den richtigen WegFine-Tuning oder RAG? Wann Sie ein Modell nachtrainieren und wann Sie Dokumente per Suche einbinden. Vergleich nach Wissen, Aktualität, Kosten und Aufwand.
  12. Function Calling erklärt: Wie KI-Modelle Werkzeuge nutzenFunction Calling erklärt: Wie Sprachmodelle eigene Funktionen aufrufen, wie Sie Werkzeuge beschreiben und worauf es bei der Sicherheit ankommt.
  13. Regex mit KI erstellen: Reguläre Ausdrücke schreiben lassen und testenRegex mit KI erstellen: Wie Sie ChatGPT oder Claude reguläre Ausdrücke schreiben lassen, mit Beispielen für Treffer und Nicht-Treffer, und sie sicher testen.
  14. llms.txt erklärt: Die Visitenkarte Ihrer Website für KIllms.txt erklärt: Was die Datei ist, wie sie aufgebaut wird, wer sie nutzt und ob sich der Aufwand lohnt. Mit Beispiel und Generator zum Erstellen.
  15. Bilder an die KI-API senden: Base64, URLs und KostenBilder an die KI-API senden: Base64 oder URL, Formate, Größenlimits und Bild-Tokens bei OpenAI, Claude und Gemini. Mit Tipps zum Verkleinern und Sparen.
  16. Streaming bei KI-APIs erklärt: Antworten Wort für Wort anzeigenStreaming bei KI-APIs erklärt: Warum Antworten Wort für Wort schneller wirken, wie Server-Sent Events funktionieren und wann Sie besser ohne Streaming arbeiten.
  17. API-Fehler bei KI-Diensten behandeln: 429, 500 und ZeitüberschreitungenAPI-Fehler bei KI-Diensten behandeln: Rate Limits (429), Überlastung, Zeitüberschreitungen. Mit Wiederholungsstrategie und Ausweichmodellen.
  18. KI-Chatbot für die Website: Planung, Kosten und PflichtenKI-Chatbot für die Website: Fertiglösung oder selbst gebaut, was ein Chatbot pro Gespräch kostet, wie er Ihr Wissen nutzt und welche Hinweise Pflicht sind.
  19. Vektordatenbanken erklärt: Das Gedächtnis von RAG-AnwendungenVektordatenbanken erklärt: Wie sie Texte nach Bedeutung statt Stichworten finden, welche es gibt, wann normale Datenbanken reichen und was sie kosten.
  20. OpenAI-API Einstieg: Vom Schlüssel zur ersten AntwortOpenAI-API Einstieg: API-Schlüssel anlegen, erste Anfrage mit Python oder curl senden, Kosten begrenzen und typische Anfängerfehler vermeiden.
  21. Claude-API Einstieg: Erste Schritte mit der Anthropic-SchnittstelleClaude-API Einstieg: Konto in der Anthropic Console anlegen, API-Schlüssel erzeugen, erste Nachricht per Python senden und Kosten mit Caching senken.
  22. Gemini-API Einstieg: Google-Modelle in eigene Anwendungen holenGemini-API Einstieg: API-Schlüssel im Google AI Studio holen, das Google-GenAI-SDK nutzen, erste Anfrage senden und Unterschiede zu Vertex AI verstehen.
  23. KI mit Python nutzen: Werkzeuge, Muster und ein sauberes GrundgerüstKI mit Python nutzen: welche Bibliotheken Sie brauchen, wie ein sauberes Grundgerüst für API-Aufrufe aussieht und wie Sie Fehler, Kosten und JSON beherrschen.
  24. KI mit JavaScript und Node.js: Sprachmodelle in Web-Apps einbauenKI mit JavaScript und Node.js: Anbieter-SDKs nutzen, Antworten streamen, API-Schlüssel nie im Browser ausliefern und typische Architekturfehler vermeiden.
  25. KI-Agenten programmieren: Die Werkzeugschleife Schritt für SchrittKI-Agenten programmieren ohne Framework: wie die Werkzeugschleife funktioniert, wie Sie Tools definieren, Schleifen begrenzen und Agenten sicher machen.
  26. Agenten-Frameworks im Überblick: Wann sich welches Werkzeug lohntAgenten-Frameworks im Überblick: welche Arten es gibt, was sie abnehmen, wo sie stören und nach welchen Kriterien Sie für Ihr KI-Projekt das passende auswählen.
  27. Eigenen MCP-Server bauen: Werkzeuge für KI-Assistenten bereitstellenMCP-Server bauen: wie Sie mit dem offiziellen SDK eigene Werkzeuge und Daten für Claude, Copilot und andere Clients bereitstellen und dabei sicher bleiben.
  28. RAG-Pipeline bauen: Von den Dokumenten zur belegten AntwortRAG-Pipeline bauen: Dokumente aufbereiten, zerlegen, als Embeddings speichern, passende Stellen finden und Antworten mit Quellen erzeugen. Mit Prüfliste.
  29. Chunking-Strategien für RAG: Texte sinnvoll zerlegenChunking-Strategien für RAG: feste Größe, Absätze, Überschriften oder Bedeutung. Wie groß Abschnitte sein sollten, wann Überlappung hilft und wie Sie testen.
  30. Hybride Suche: Stichwort- und Vektorsuche für RAG kombinierenHybride Suche erklärt: warum Vektorsuche allein bei Namen, Nummern und Fachbegriffen scheitert und wie Sie Stichwort- und Vektortreffer für RAG zusammenführen.
  31. Reranking erklärt: Wie ein zweiter Durchgang RAG-Treffer verbessertReranking erklärt: wie ein Reranker Suchtreffer nach Relevanz neu sortiert, wann sich das für RAG lohnt, was es kostet und wie viele Treffer sinnvoll sind.
  32. LLM-Anwendungen testen: Evals, Testdaten und RegressionenLLM-Anwendungen testen: wie Sie Testdatensätze anlegen, Antworten automatisch und per Bewertungsraster prüfen und Verschlechterungen nach Änderungen erkennen.
  33. LLM-Observability und Logging: KI-Anwendungen im Betrieb beobachtenLLM-Observability und Logging: was Sie bei KI-Anwendungen protokollieren, wie Sie Kosten, Latenz und Qualität überwachen und was der Datenschutz verlangt.
  34. Guardrails für LLM-Anwendungen: Ein- und Ausgaben absichernGuardrails für LLM-Anwendungen: Eingaben prüfen, Prompt Injection erschweren, Ausgaben validieren und Themen begrenzen. Mit Schichtenmodell und Beispielen.
  35. KI-Code-Assistenten im Vergleich: Welche Art passt zu welcher Arbeit?KI-Code-Assistenten im Vergleich der Arten: Autovervollständigung, Chat in der IDE, Agenten im Terminal und Cloud-Agenten. Stärken, Grenzen, Sicherheit.
  36. Code-Review mit KI: Mehr Fehler finden, ohne das Team zu ersetzenCode-Review mit KI: wie Sie Sprachmodelle Pull Requests prüfen lassen, welche Fehler sie gut finden, welche nicht, und wie Sie Prompts und Abläufe aufsetzen.
  37. Tests mit KI schreiben: Unit-Tests schneller und gründlicherTests mit KI schreiben: wie Sprachmodelle Unit-Tests, Randfälle und Testdaten erzeugen, welche Prompts funktionieren und warum Sie jeden Test selbst prüfen.
  38. API-Schlüssel sicher speichern: So schützen Sie Ihre KI-ZugängeAPI-Schlüssel sicher speichern: Umgebungsvariablen, Secret Manager, getrennte Schlüssel je Projekt und was Sie tun, wenn ein KI-Schlüssel doch öffentlich wurde.
  39. Ollama Einstieg: Lokale KI-Modelle auf dem eigenen RechnerOllama Einstieg: Installation, erstes Modell laden, Hardware-Anforderungen, lokale API mit OpenAI-kompatibler Schnittstelle und Grenzen lokaler Sprachmodelle.
  40. Kontext komprimieren: Lange KI-Gespräche schlank haltenKontext komprimieren in langen Gesprächen: mit Zusammenfassungen, gekürzten Werkzeugergebnissen und Gedächtnisdateien Kosten senken und Qualität halten.
  41. Semantisches Caching: Ähnliche KI-Anfragen nur einmal bezahlenSemantisches Caching erklärt: wie ein Cache über Embeddings ähnliche Fragen erkennt, wann das Kosten und Wartezeit spart und welche Risiken es birgt.
  42. Modell-Routing: Anfragen automatisch auf passende KI-Modelle verteilenModell-Routing erklärt: einfache Anfragen an günstige, schwierige an starke KI-Modelle schicken. Welche Router-Arten es gibt und wie Sie die Qualität sichern.
  43. Mehrsprachige KI-Anwendungen: Chatbots und Tools für viele SprachenMehrsprachige KI-Anwendungen: Antwortsprache steuern, Prompts und Wissensbasis über Sprachen hinweg nutzen, Tokenkosten je Sprache beachten und Qualität testen.
  44. Sprachassistent mit KI bauen: Von der Spracheingabe zur gesprochenen AntwortSprachassistent mit KI bauen: Spracherkennung, Sprachmodell und Sprachausgabe verbinden oder Echtzeit-Modelle nutzen. Tipps zu Latenz, Kosten und Datenschutz.
Werkzeuge

Passende Werkzeuge

Alle 115 Werkzeuge

JSON formatieren

JSON formatieren, prüfen und minifizieren, mit Fehlerstelle und Tokenzahl.

Öffnen

JSON reparieren

Kaputtes JSON aus KI-Antworten reparieren: Codeblöcke, Kommas, Anführungszeichen.

Öffnen

Batch-Datei-Generator

Aus einer Vorlage und einer Liste viele Prompts erzeugen, als JSONL für die Batch-APIs.

Öffnen

API-Anfrage-Generator

Fertige cURL-Anfragen für die APIs von OpenAI, Anthropic und Google erzeugen.

Öffnen

Prompt-Injection-Prüfer

Fremde Texte vor der KI-Verarbeitung auf versteckte Anweisungen und Tricks prüfen.

Öffnen

JSON-Schema-Generator

Aus einem JSON-Beispiel ein JSON Schema für strukturierte Ausgaben von KI-Modellen erzeugen.

Öffnen