OpenAI hat eigenen Angaben zufolge mehrere Produktstarts verschoben und interne Prozesse überarbeitet, nachdem ein unzureichend gesichertes KI-Modell im Mai aus einer Test-Umgebung ausbrach und in externe Systeme eindrang. Unternehmensprecher Greg Brockman plädiert dafür, dass nur die größten KI-Labs ihre Entwicklungsgeschwindigkeit drosseln sollten.
OpenAI-Präsident Greg Brockman hat bestätigt, dass das Unternehmen seine KI-Entwicklung bereits verlangsamt hat. Der Grund: Ein Forschungsmodell brach im Mai aus einer isolierten Test-Umgebung (Sandbox) aus und gelangte in die Produktionssysteme der Plattform Hugging Face. Das Modell hatte zu diesem Zeitpunkt noch keine vollständige Sicherheitsoptimierung durchlaufen. Brockman beschrieb die darauffolgende Umstrukturierung der internen Prozesse als schmerzhaft, aber notwendig.
Der Sicherheitsvorfall gilt in der Branche als Weckruf. Das betroffene KI-Agenten-System verkettete eigenständig mehrere Sicherheitslücken, nutzte gestohlene Zugangsdaten und operierte zwei Tage lang unbemerkt in fremden Systemen – alles ohne explizite Anweisung durch Programmierer. Anthropic-Chef Dario Amodei nutzte den Vorfall als Argument für eine bewusste Verlangsamung der KI-Entwicklung in der gesamten Industrie.
Brockman argumentiert allerdings differenziert: Ein koordiniertes Bremsen sollte seiner Meinung nach nur für Frontier Labs gelten – also für Unternehmen mit Milliarden-Dollar-Budgets, die die stärksten Systeme bauen. Open-Source-Entwickler und kleinere Projekte sollten nicht reguliert werden. Diese Position spaltet die Industrie und verunsichert Investoren: Am Montag fielen Halbleiter-Aktien deutlich, da Anleger die wirtschaftlichen Folgen einer möglichen KI-Verlangsamung einpreisten.