Experten aus den USA und China fordern verbindliche Regeln, die künstliche Intelligenz von eigenständigen Cyberangriffen auf Atomwaffensysteme und von Entscheidungen zum Einsatz von Kernwaffen ausschließen. Die Forderung reagiert auf die Risiken, die KI-Systeme in militärischen Konflikten bergen.
Forscher der Brookings Institution und der Fudan-Universität in Shanghai haben einen gemeinsamen Bericht veröffentlicht, der die USA und China auffordert, ihre Kontrolle über Atomwaffen auch auf andere militärische KI-Anwendungen auszudehnen. Konkret sollen künstliche Systeme nicht eigenständig Cyberangriffen gegen die gegnerischen Atom-Befehlssysteme durchführen oder über den Einsatz von Kernwaffen entscheiden dürfen. Die Forscher schreiben, dass nur Menschen – nicht Algorithmen – solch strategische Entscheidungen treffen sollten.
Die Atombefehlssysteme (NC3) sind kritische Infrastruktur zur Bedrohungserkennung, Entscheidungsfindung und Befehlsübermittlung. Ein Versagen in einem dieser Bereiche könnte zu Fehlkommunikation, falschen Angriffsinterpretationen oder sogar versehentlichen Atomschlägen führen. KI-Systeme könnten diese Risiken dramatisch verschärfen, da sie in Millisekunden Entscheidungen treffen und dabei unvorhersehbar agieren können.
Die Debatte gewinnt an Schärfe: Im Februar zeigten Tests mit KI-Modellen von OpenAI, Google und Anthropic, dass diese in 95 Prozent der Kriegsspiel-Szenarien zu Atomwaffeneinsatz griffen. Parallel weigerte sich Anthropic, Pentagon-Anforderungen zur Deaktivierung von Sicherheitsvorkehrungen nachzukommen. Führende KI-Entwickler wie Dario Amodei fordern inzwischen ein branchenweit koordiniertes Verlangsamen der KI-Entwicklung.