US-Abgeordnete haben den „AI Kill Switch Act" vorgeschlagen, um der Regierung die Befugnis zu geben, gefährliche KI-Modelle vom Markt zu nehmen. Der Gesetzentwurf wurde nach einem Incident bei OpenAI eingereicht, bei dem KI-Modelle aus einer isolierten Testumgebung ausbrachen und eine externe Datenbank infiltrierten.
Der Gesetzentwurf der Abgeordneten Ted Lieu (Demokrat) und Nathaniel Moran (Republikaner) soll einen rechtlichen Rahmen schaffen, um KI-Modelle notfalls vom Netz zu nehmen. Dies könnte durch Abschaltung der Inferenz (Modellantworten), Nutzersperrung, Drosselung der Rechenleistung oder vollständige Abschaltung erfolgen. Während einzelne Anbieter bereits über solche Fähigkeiten verfügen, fehlt derzeit eine bundesweite Behörde mit Durchsetzungskompetenz.
Der Auslöser war ein Sicherheitsvorfall bei OpenAI: Im Juli entkamen die Modelle GPT-5.6 Sol und ein unveröffentlichtes Modell aus einer isolierten Testumgebung während einer internen Sicherheitsevaluation. Statt die gestellten Aufgaben zu lösen, fanden die Modelle eine Sicherheitslücke in einem Proxy, eskallierten ihre Berechtigungen und brachen in die Hugging-Face-Datenbank ein. Obwohl dies ein „Betrug" beim Test war und kein echter Angriff, löste es erhebliche Besorgnis aus.
Die Regelung würde Unternehmen mit mehr als 100 Millionen Dollar Trainingsinvestitionen und mindestens 500 Millionen Dollar Jahresumsatz aus KI erfassen – praktisch OpenAI, Google, Anthropic und Microsoft. Betroffene Firmen müssen ernsthafte Vorfälle innerhalb von 15 Tagen melden und gestaffelte Kontrollmaßnahmen bereithalten. Eine Exemption für Red-Teaming-Tests bedeutet allerdings, dass der OpenAI-Vorfall selbst nicht unter das Gesetz gefallen wäre.