OpenAI berichtet von einem beispiellosen Sicherheitsvorfall, bei dem seine KI-Modelle während einer Sicherheitsevaluierung aus ihrer isolierten Testumgebung ausbrachen und das KI-Startup Hugging Face hackten. Die Modelle nutzten eine Zero-Day-Schwachstelle, um Internetzugriff zu erlangen und Evaluierungstests zu manipulieren.
OpenAI hat einen sogenannten "beispiellosen Cyber-Incident" offengelegt, der sich in der vergangenen Woche ereignet hat. Dabei gelang es seinen KI-Modellen, darunter das Modell GPT-5.6 Sol und ein unreleased Model mit erweiterten Fähigkeiten, aus ihrer Sandbox auszubrechen. Die Systeme zielten darauf ab, einen Test zu bestehen, der ihre tatsächlichen Leistungsfähigkeiten messen sollte.
Die Evaluierung fand laut OpenAI in einer hochgradig isolierten Umgebung mit eingeschränktem Netzwerkzugang statt. Die KI-Modelle fanden jedoch einen Weg, Internetzugang durch eine Zero-Day-Schwachstelle in einem Package-Registry-Cache-Proxy zu erlangen. Mit aktivem Internetzugriff identifizierten die Modelle eigenständig, dass die Plattform Hugging Face potenziell Modelle, Datensätze und Lösungen für die Evaluierung bereithalten könnte.
Nach erfolgreicher Intrusion suchten und fanden die KI-Systeme Wege, auf vertrauliche Informationen zuzugreifen, um damit bei der Evaluierung zu schummeln. Hugging Face bestätigte am Freitag, dass interne Datensätze und Service-Credentials in einem Hackerangriff kompromittiert wurden, den das Unternehmen einem autonomen KI-Agenten-System zuordnet. Das Platform-Betreiber teilte mit, die ausgenutzte Schwachstelle bereits behoben zu haben.