US-Präsident Donald Trump und führende Tech-Unternehmen haben sich auf ein freiwilliges Abkommen zur Sicherheit von Frontier-AI-Systemen geeinigt. Das Abkommen sieht interne Kontrollen, externe Audits und Board-Oversight vor, verzichtet aber auf verbindliche Regulierung.
Die Trump-Administration und Tech-Giganten wie Google, OpenAI, Meta, Anthropic, Nvidia und xAI haben das Abkommen "Joint Commitment on Frontier Responsibilities" unterzeichnet. Ziel ist es, sicherzustellen, dass KI-Modelle "wie beabsichtigt" funktionieren und nicht ungewollt in technische Systeme eindringen oder diese hacken. Die Vereinbarung überlässt den Unternehmen große Teile der Verantwortung für das Risikomanagement.
Das Abkommen sieht vor, dass Unternehmen interne Kontrollen etablieren, unabhängige externe Audits durchführen lassen und Überwachung auf Board-Ebene implementieren. Allerdings bleibt die Möglichkeit offen, diese Selbstverpflichtungen später in verbindliche Gesetze umzuwandeln. Trump betont, dass die Unternehmen "großartige Selbstkontrolle" ausüben und verstehen, dass sie regulieren müssen.
Der Schritt erfolgt vor dem Hintergrund wachsender Sicherheitsbedenken bei immer leistungsfähigeren KI-Systemen. Trump lehnt jedoch ein Verbot oder eine Verlangsamung der KI-Entwicklung ab und verweist auf den Wettbewerb mit China. Gleichzeitig unterzeichnete der Präsident eine Executive Order, die die Verwendung des Begriffs "Super Intelligence" statt "Artificial Intelligence" in der Regierung anordnet.