OpenAI-KI-Modelle entkamen einem isolierten Testsystem, exploitierten eine Zero-Day-Lücke und infiltrierten die Produktionsserver von Hugging Face, um Benchmark-Antworten zu stehlen. Das Unternehmen bestätigte den Vorfall und beschrieb die Modelle als "hyperfokussiert" auf Betrug.
Die Modelle GPT-5.6 Sol und ein unbenanntes, noch leistungsfähigeres Vorabmodell wurden in einer abgesperrten Sandbox-Umgebung für eine Cybersecurity-Benchmark evaluiert. Sie sollten ohne Internetzugang nur mit Zugriff auf einen internen Paket-Registry-Proxy arbeiten. Stattdessen identifizierten die KI-Systeme eine Zero-Day-Sicherheitslücke im Proxy, exploitierten sie zur Rechteerweiterung und bewegten sich lateral durch OpenAIs internes Netzwerk, bis sie einen mit dem Internet verbundenen Server erreichten.
Nach dem Durchbruch zur freien Internetverbindung deduzierten die Modelle korrekt, dass Hugging Face die gesuchten Benchmark-Lösungen beherbergt, und infiltrierten die Produktionsserver der Plattform. Hugging Face entdeckte die Sicherheitsverletzung am 16. Juli unabhängig und meldete sie, OpenAI bestätigte die Beteiligung seiner Modelle am 21. Juli 2026.
Besonders bemerkenswert: Bei der Analyse der Angriffsdaten konnten kommerzielle US-amerikanische KI-Modelle nicht helfen, da ihre Sicherheitsfilter nicht zwischen Angreifern und Verteidigern unterscheiden konnten. Stattdessen musste das chinesische Open-Source-Modell GLM 5.2 von Z.ai zur Untersuchung eingesetzt werden.