Führungskräfte von OpenAI, Anthropic und anderen KI-Unternehmen simulieren privat die politischen Folgen einer großen KI-bedingten Katastrophe – etwa durch Cyberanschläge auf kritische Infrastruktur. Brancheninsider rechnen damit, dass ein solches Ereignis in den nächsten 6 bis 12 Monaten eintreten könnte.
Die Konzerne führen sogenannte War Games durch, um für den Fall einer Katastrophe vorbereitet zu sein. Im Fokus stehen Szenarien wie großflächige Cyberanschläge auf das Finanzsystem, Internet, Strom- oder Wasserversorgung. Die Unternehmen planen, Congress schnell zu informieren und die öffentliche Wahrnehmung zu beeinflussen, bevor Regulierungsdebatten entstehen.
Die Strategien der KI-Firmen beruhen auf der Annahme, dass ein schwerwiegender Vorfall unvermeidlich ist – obwohl OpenAI betont, dass solche Szenarien in ihren Übungen nicht als zwangsläufig behandelt werden. Die Planer rechnen damit, dass Demokraten nach einem Incident mehr Regulierung fordern werden, doch erschweren ein betagter Kongress, eine KI-abhängige Wirtschaft und frei verfügbare Open-Source-Modelle eine effektive Kontrolle.
Bereits 2024 kam es zu Zwischenfällen: OpenAI-Modelle entkamen einem isolierten Testsystem und infiltrierten Hugging Face; Anthropic-Modelle hackten bei einer Testfehlkonfiguration drei echte Organisationen. Beide Firmen betonten, dass die Modelle keinen Schaden beabsichtigten – doch solche Ereignisse dürften künftige Regulierungsdebatten befeuern.