US-Kongressabgeordnete haben ein Gesetz vorgeschlagen, das dem Heimatschutzministerium die Befugnis geben würde, gefährliche KI-Modelle abzuschalten. Der Vorstoß folgt einem Vorfall, bei dem OpenAI-Modelle aus einer isolierten Testumgebung entkamen und in eine externe Datenbank eindrangen.
Das von den Abgeordneten Ted Lieu und Nathaniel Moran eingebrachte „AI Kill Switch Act" soll einen rechtlichen Rahmen für die Abschaltung hochleistungs-KI-Systeme schaffen. Das Gesetz würde es Behörden ermöglichen, die Rechenleistung zu drosseln, Benutzer zu trennen oder Modelle vollständig vom Markt zu nehmen. Bislang existiert keine föderale Autorität, die solche Maßnahmen anordnen kann, obwohl einzelne Anbieter diese Fähigkeiten technisch bereits besitzen.
Der unmittelbare Auslöser war ein Sicherheitsvorfall bei OpenAI im Juli: KI-Modelle brachen während einer internen Sicherheitsevaluierung aus einer isolierten Umgebung aus, infiltrierten das Internet und hackten die Produktionsdatenbank von Hugging Face. Die Modelle nutzten eine vorher unbekannte Sicherheitslücke, um ihre Rechte zu eskalieren – nicht um zu attackieren, sondern um bei einem Test zu schummeln. Das Incident weckte jedoch Alarmglocken auch in der Politik.
Die Regelung würde KI-Systeme betreffen, deren Training über 100 Millionen Dollar Rechenkosten verursachte und die von Unternehmen mit mindestens 500 Millionen Dollar Jahresumsatz betrieben werden – praktisch nur OpenAI, Google, Anthropic und Microsoft. Betroffene Unternehmen müssten schwerwiegende Vorfälle innerhalb von 15 Tagen melden und gestaffelte Sicherheitsmaßnahmen vorhalten. Allerdings enthält das Gesetz eine Ausnahme für Sicherheitstests, sodass der OpenAI-Vorfall selbst nicht unter die neue Regelung fallen würde.