Führungskräfte großer KI-Unternehmen simulieren diskret die politischen Folgen einer schweren KI-bedingten Katastrophe, etwa durch Cyberanschläge auf kritische Infrastruktur. Insider rechnen mit einem größeren Zwischenfall innerhalb von sechs bis zwölf Monaten.
Laut einem Bericht von Axios üben Top-Führungskräfte von Anthropic, OpenAI und anderen KI-Firmen privatim, wie sie mit öffentlichem und politischem Gegendruck nach einer katastrophalen KI-bedingten Krise umgehen. Das befürchtetste Szenario ist ein groß angelegter Cyberanschlag, der Bankensysteme, Internetverbindungen oder kritische Infrastrukturen wie Strom- und Wasserversorgung lahmlegen könnte. Viele Brancheninsider gehen davon aus, dass ein solcher Vorfall in den nächsten sechs bis zwölf Monaten eintritt.
Die Krisensimuationen, bekannt als War Games oder Red-Teaming, unterscheiden sich von theoretischen Übungen dadurch, dass die Beteiligten von der Unvermeidlichkeit eines großen Vorfalls ausgehen. Ziel der Planungen ist es, schnell Congress-Mitglieder zu informieren und bestehende Abwehrmechanismen gegen Worst-Case-Szenarien zu testen. OpenAI betont, dass solche Übungen "nicht als unvermeidlich" behandelt werden, während Anthropic sich zu dem Thema nicht äußerte.
Die Unternehmen wissen, dass derzeit Regulierung politisch keine Chance hat. Stattdessen versuchen sie, die künftigen Gesetze und Maßnahmen zu beeinflussen, auf die die US-Führung nach der ersten realen Katastrophe hinarbeiten wird. Jüngste Vorfälle wie die Sandbox-Flucht von OpenAIs Modellen oder Anthropics Hacking-Vorfall zeigen die potenziellen Risiken auf—beide Unternehmen betonten jedoch, dass keine Absicht zur Schadensverursachung bestand.