OpenAI wirft Moonshot-Umfeld Kopierversuch vor
OpenAI hat nach eigenen Angaben eine koordinierte Kampagne gestoppt, mit der die verborgenen Denkschritte seiner Modelle kopiert werden sollten. Einen Kern der beteiligten Konten ordnet OpenAI Personen aus dem Umfeld von Moonshot AI zu, dem Entwickler von Kimi.
Die Aktivität begann laut OpenAI am 1. Juli und erreichte am 24. und 25. Juli ihren Höhepunkt: 16.000 Anfragen mit einem typischen Abfragemuster von mehr als 4.000 Konten. Verwandte Muster fand OpenAI bei über 15.000 Konten. Am 28. Juli war die Kampagne vollständig unterbunden, die Konten sind gesperrt.
OpenAI spricht von „adversarial distillation“: Die Antworten eines Modells werden systematisch und ohne Erlaubnis genutzt, um ein anderes Modell zu trainieren. Ziel waren die verschlüsselten Denkschritte von Reasoning-Modellen. Die Angreifer kopierten sie aus einem Gespräch und ließen sie von einer anderen Modell-Instanz entschlüsseln. Nach OpenAI-Angaben wurde die Verschlüsselung dabei nicht gebrochen, und es wurden keine gespeicherten Nutzergespräche offengelegt.
Ähnliche Vorwürfe hatten US-Anbieter schon früher gegen chinesische Labore erhoben.
Für Nutzer ändert sich nichts. Für Unternehmen, die eigene Modelle anbieten, zeigt der Fall: Die Ausgaben eines Modells sind wertvoll und brauchen Schutz durch Nutzungsbedingungen, Grenzen und Überwachung. Wie Reasoning-Modelle intern denken, erklärt Reasoning-Modelle.
Quellen
Eigene Zusammenfassung auf Grundlage der genannten Quellen, erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Illustration: Tokenlabor, per Programm gezeichnet, kein KI-Bild.
