New York (awp/sda/apa) - In einer Kriegssimulation des King's Colleges in London greifen KI-Modelle in 95 Prozent der simulierten Konflikte zu taktischen Atomwaffen. Diese Ergebnisse werfen Fragen über die militärische Nutzung Künstlicher Intelligenz auf. Während die weltweiten Atomwaffenausgaben weiter steigen, warnen Friedensforscher vor den Risiken KI-gestützter Entscheidungen. Am Samstag begehen die Vereinten Nationen den Internationalen Tag für die vollständige Beseitigung von Atomwaffen.

Anlässlich des Aktionstags ruft Uno-Generalsekretär António Guterres in einer Aussendung die Atomwaffenstaaten dazu auf, ihren Abrüstungsverpflichtungen nachzukommen und sich zur vollständigen Beseitigung der Kernwaffen zu verpflichten. "Es ist an der Zeit, der Spaltung den Dialog vorzuziehen, Konfrontation mit Diplomatie zu begegnen und statt Zerstörung Abrüstung anzustreben", erklärte Guterres.

Künstliche Intelligenz kann die Risiken einer nuklearen Eskalation erhöhen, so das Stockholmer Internationale Friedensforschungsinstitut (SIPRI). KI-gestützte Entscheidungssysteme können grosse Mengen an Daten auswerten, Bedrohungen einschätzen und Handlungsempfehlungen erstellen. Dabei können der KI aber Fehler unterlaufen. Fehlerhafte oder schwer nachvollziehbare Ergebnisse können dabei unter Zeitdruck zu Fehlentscheidungen führen.

Wie schnell eine solche Fehleinschätzung eine militärische Krise auslösen kann, berichtete der US-amerikanische Nachrichtensender CNN am vergangenen Freitag. Ein KI-generierter US-Geheimdienstbericht soll fälschlicherweise Komponenten für Atomwaffen auf einem chinesischen Schiff verortet haben. US-Soldaten hätten sich demnach bereits auf eine Enterung vorbereitet, bevor der Fehler erkannt und der Einsatz abgebrochen worden sei. Der KI-Bot habe öffentlich zugängliche und Geheimdienstinformationen miteinander verknüpft und die Ladung des Schiffes falsch identifiziert. Die Informationen seien "komplett falsch" gewesen und hätten "fast einen Krieg verursacht", so CNN.

Im Juli warnte auch die "Römische Friedenserklärung" vor den Risiken einer Verbindung von Künstlicher Intelligenz und Atomwaffen. Das Abschlussdokument der Globalen Nobelpreisträgerversammlung wurde von Nobelpreisträgern, Religionsvertretern und Politikern unterzeichnet. In der Präambel heisst es: "Mitten in einem sich verschärfenden nuklearen Wettrüsten begeben wir uns auf einen ebenso gefährlichen KI-Wettlauf." Die Unterzeichner fordern unter anderem, den Einsatz von KI zur Autorisierung und autonomen Auslösung von Atomwaffen zu verhindern. "Keine Maschine" dürfe Entscheidungen treffen, von denen das Überleben der Menschheit abhänge, sagte Kardinal Baldassare Reina bei der Vorstellung der Erklärung in Rom.

19-prozentiger Anstieg der Atomwaffenausgaben im letzten Jahr

Tatsächlich sind die Ausgaben für Atomwaffen im letzten Jahr weiter gestiegen. Nach Berechnungen der 2017 mit dem Friedensnobelpreis ausgezeichneten Internationalen Kampagne zur Abschaffung von Atomwaffen (ICAN) haben die neun Atomwaffenstaaten - die USA, Russland, Grossbritannien, Frankreich, China, Indien, Pakistan, Nordkorea und vermeintlich Israel - im Jahr 2025 insgesamt rund 118,8 Milliarden Dollar für ihre Nukleararsenale ausgegeben. Das entspricht einem Anstieg von 19 Prozent gegenüber dem Vorjahr. Den grössten Anteil hatten die USA mit 69,2 Milliarden Dollar, gefolgt von China mit 13,5 Milliarden und Grossbritannien mit 12,6 Milliarden Dollar.

Der Anstieg ist Teil eines längerfristigen Trends: In den vergangenen fünf Jahren wurden laut ICAN insgesamt 471 Milliarden Dollar für Atomwaffen ausgegeben. Gleichzeitig planen die neun Atommächte, ihre Arsenale über Jahrzehnte zu erhalten und zu modernisieren. So sollen eben diese Staaten über Waffensysteme verfügen, die mindestens bis 2050 einsatzfähig bleiben sollen, teilweise sogar bis ins nächste Jahrhundert.

Doppelcharakter der IAEA

Acht der Atomwaffenstaaten sind Mitglieder der Internationalen Atomenergiebehörde (IAEA), Nordkoreas Mitgliedschaft ist seit 1994 ausgesetzt. Die IAEA wurde am 29. Juli 1957 gegründet - als die militärische Nutzung der Atomtechnologie bereits ihre verheerende Zerstörungskraft gezeigt hatte. Gleichzeitig setzte die internationale Gemeinschaft grosse Hoffnungen in die friedliche Nutzung der Kernenergie, ähnlich wie bei KI heute. Die IAEA sollte deshalb von Beginn an zwei Aufgaben miteinander verbinden: die Förderung friedlicher Atomenergie und die Verhinderung ihrer militärischen Nutzung.

Die Behörde entstand inmitten des Kalten Kriegs, als der nukleare Rüstungswettlauf zwischen den USA und der Sowjetunion von gegenseitigem Misstrauen geprägt war. Dennoch arbeiteten beide Staaten innerhalb der IAEA zusammen, unter anderem mit dem gemeinsamen Interesse, eine weitere Verbreitung von Atomwaffen zu verhindern. Die IAEA steht bis heute für den Doppelcharakter der internationalen Atompolitik: die Förderung der zivilen Nutzung und die Kontrolle ihrer militärischen Risiken.

Atomwaffensperrvertrag und Atomwaffenverbotsvertrag

Eine wichtige Grundlage der internationalen nuklearen Abrüstung bildet auch der 1970 in Kraft getretene Atomwaffensperrvertrag (NVV). Er verpflichtet die fünf darin anerkannten Atommächte - die USA, Russland, China, Frankreich und Grossbritannien - zu Verhandlungen über nukleare Abrüstung. Alle anderen Vertragsstaaten müssen auf Atomwaffen verzichten. Indien, Pakistan und Israel sind dem Vertrag nie beigetreten, Nordkorea erklärte 2003 seinen Austritt. Auch eine konkrete Frist für die vollständige Abrüstung sieht der Sperrvertrag nicht vor.

Einen Schritt weiter geht der Atomwaffenverbotsvertrag (TPNW), den Österreich federführend mitverhandelte. Der Verbotsvertrag verbietet erstmals völkerrechtlich seinen Vertragsparteien den Besitz, Einsatz und die Androhung eines Einsatzes von Nuklearwaffen. Der Vertrag trat 2021 in Kraft. Österreich stellte 2022 den Vorsitz des ersten Vertragsstaatentreffens in Wien. Inzwischen haben 101 Staaten den Vertrag unterzeichnet, 75 Staaten haben ihn auch ratifiziert. Unter den Staaten sind keine der neun Atommächte.

Auch bei der Regulierung autonomer Waffensysteme setzt sich Österreich für internationale Regeln ein. Im April 2024 veranstaltete das Aussenministerium in Wien eine internationale Konferenz zu den Risiken solcher Systeme. Für dieses Engagement wurden der damalige Aussenminister Alexander Schallenberg (ÖVP) und das Aussenministerium im Jänner 2025 mit dem Preis "Arms Control Person of the Year" 2024 ausgezeichnet.

"Manhattan-Projekt für KI-Entwicklung"

Vermehrt wünschen sich sogar Vertreter der KI-Branche eine internationale Behörde nach dem Vorbild der IAEA zur Überwachung Künstlicher Intelligenz. OpenAI-Chef Sam Altman brachte bereits 2015, wenige Monate vor der Gründung des Unternehmens, die Idee eines "Manhattan Project for AI" ins Spiel. In einer Nachricht an Elon Musk schlug er vor, führende KI-Forscher in einem gemeinsamen Projekt zusammenzubringen. Ziel sollte die Entwicklung einer allgemeinen künstlichen Intelligenz sein, die der Menschheit zugutekommt. 2023 sprach sich Altman für eine internationale KI-Behörde nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) aus.

Auch der ehemalige österreichische Aussenminister Schallenberg (ÖVP) verglich KI mit dem Manhattan-Projekt. Bei einer internationalen Konferenz zur Regulierung autonomer Waffensysteme im April 2024 sprach er vom "Oppenheimer-Moment unserer Generation". Es sei höchste Zeit, internationale Regeln zu vereinbaren, um die menschliche Kontrolle über solche Waffensysteme sicherzustellen.

Anthropic-Chef Dario Amodei beschreibt in einem Essay KI als Technologie mit einer geopolitischen Bedeutung, die mit jener von Atomwaffen vergleichbar sei. Zugleich verweist er auf die Erfahrungen des nuklearen Wettrüstens und betont die Notwendigkeit internationaler Regeln für den Umgang mit besonders leistungsfähigen KI-Systemen. Die Warnungen vor möglichen extremen Folgen der Technologie wurden zuletzt erneut zugespitzt. Evan Hubinger, Alignment-Forscher beim KI-Unternehmen Anthropic, erklärte im September, er halte die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts alle Menschen töten könnte, persönlich für höher als zehn Prozent.

Die Warnungen aus der KI-Branche sind allerdings nicht unumstritten. Kritiker verweisen darauf, dass Forderungen nach strengeren Regeln auch etablierten grossen KI-Unternehmen zugutekommen könnten, weil hohe regulatorische Anforderungen kleinere Konkurrenten stärker belasten. Zugleich vermitteln die Warnungen, dass ihre KI-Systeme besonders leistungsfähig seien.