„Noch nie zuvor hat der wissenschaftliche Fortschritt so außergewöhnliche Chancen eröffnet und gleichzeitig so tiefgreifende Risiken für unsere gemeinsame Zukunft mit sich gebracht.“

Vom 14. bis 16. Juli 2026 waren die „Pugwash Conferences on Science and World Affairs“ (Friedensnobelpreis 1995) Partner einer internationalen, vom Vatikan mitorganisierten Konferenz unter der Schirmherrschaft der „Global Nobel Laureates Assembly on AI and Nuclear War“, die mit der „Rom-Erklärung zur Künstlichen Intelligenz und Nuklearwaffen“ zu Ende ging. Auf dem Gelände der Sommerresidenz des Papstes in Castel Gandolfo bei Rom trafen sich zwei Tage lang Nobelpreisträger, Experten für Nuklearpolitik, Wissenschaftler, KI-Experten und religiöse Führer, um sich mit dem Themenkreis „Künstliche Intelligenz und Nuklearwaffen“ zu beschäftigen. Die VDW ist seit ihrer Gründung die Heimat der Deutschen Pugwash-Gruppe, die der Autor leitet. Kurz vor der Tagung in Rom veranstaltete Pugwash am 13. Juli 2026 einen eintägigen Workshop zum Thema „KI und Atomwaffen: Risiken und Chancen“, um die aktuellen Zusammenhänge zwischen künstlicher Intelligenz und nuklearen Risiken genauer zu beleuchten. Götz Neuneck hatte die Gelegenheit, an beiden Tagungen teilzunehmen und in Castel Gandolfo eine Arbeitsgruppe zu leiten, die u.a. eine gemeinsame Erklärung auf der Grundlage der Tagung erarbeiten sollte. Zum einen sollte erörtert werden, wie künstliche Intelligenz und Atomwaffen angesichts der geopolitischen Rivalitäten neue existenzielle Risiken heraufbeschwören können, und zum anderen sollte das öffentliche Bewusstsein geschärft sowie Impulse für die Verringerung potenzieller Gefahren dieser revolutionären Technologien durch verantwortliche Regierungen, Institutionen und Unternehmen gegeben werden. Basierend auf der am 15. Mai 2026 veröffentlichten Enzyklika „Magnifica Humanitas“ von Papst Leo XIV. wurde aus der Sicht vieler Disziplinen betont, dass es sich hierbei nicht nur um eine industrielle oder nationale Herausforderung handelt, sondern um ein globales Problem, das eine weltweit koordinierte Reaktion erfordert.

Deshalb lud der Vatikan zusammen mit der Global Nobel Laureates Assembly ca. 200 Teilnehmer aus Wissenschaft und der KI-Branche auf das „Borgo Laudato Si’“-Anwesen ein, einen Teil des zum Vatikan gehörenden Gartens in Castel Gandolfo. 30 Nobelpreisträger aus 30 Ländern sowie 20 führende KI-Forscher tagten in einem wenig gekühlten Gewächshaus bei teilweise sehr hohen Temperaturen. In Vorträgen, Podien und Arbeitsgruppen befassten sich die Teilnehmer u.a. mit der Fragilität der nuklearen Ordnung und den sich rasch entwickelnden KI-Anwendungen in militärischen Systemen. Referenten sprachen insbesondere über den Einsatz von KI in der nuklearen Befehls- und Kontrollstruktur sowie über die moralischen Herausforderungen KI-gestützter Kriegsführung, einschließlich autonomer Waffen, und die aus der Eskalation in „Maschinengeschwindigkeit“ entstehenden Probleme. Im Mittelpunkt der Beratungen standen sowohl die praktischen als auch die ethischen Herausforderungen, um sicherzustellen, dass technologische Innovationen wie die KI, mit ethischen Normen im Einklang stehen und die globale Sicherheit verbessern können, einschließlich der Aussichten auf eine Wiederaufnahme der nuklearen Rüstungskontrolle.

Die Rom-Erklärung: „Auf dem Weg zu einem unbewaffneten und entwaffnenden Frieden“

Die Rom-Erklärung beginnt mit dem Satz: „Die Menschheit steht an einem entscheidenden Moment ihrer Geschichte“ und vor neuen beispiellosen Herausforderungen: „Noch nie zuvor hat der wissenschaftliche Fortschritt so außergewöhnliche Chancen eröffnet und gleichzeitig so tiefgreifende Risiken für unsere gemeinsame Zukunft mit sich gebracht.“ Als besondere Gefahren werden herausgehoben: neue Rivalitäten der Nuklearwaffenstaaten, ein gefährliches KI-Wettrüsten, Cyberangriffe auf nukleare Infrastrukturen, verschärfter Informationskrieg und neue einseitige Machtanhäufungen. KI hat das Potenzial, das Leben der Menschen auf vielfältige Weise zu verbessern, doch ohne wirksame Regulierung birgt sie auch das Potenzial, globale Risiken zu vergrößern. Ein immer wiederkehrendes Thema war die Herausforderung, wie die Kontrolle durch den Menschen auszusehen hat, wenn KI die Integrität von Informationen und zuverlässige Kommunikation beeinträchtigt.

Auch die nukleare Abschreckung und die konventionellen Kriege werden durch KI verändert. Insgesamt wirft KI neue Fragen hinsichtlich des humanitären Völkerrechts und hinsichtlich der nuklearen Abschreckung und der konventionellen Kriegsführung auf. Ebenso ist die nukleare Ordnung weiterhin grundlegend fehlerhaft und anfällig für Störungen und Manipulationen durch neue Technologien wie KI. Arbeitsgruppen erarbeiteten dazu konkrete Vorschläge, die in die folgenden sechs Prinzipien der Rom-Erklärung aufgenommen wurden:

1. Vor dem Hintergrund des aktuellen strategischen Wettbewerbs muss die Eindämmung des nächsten Wettrüstensa. durch die Stärkung von KI-Anwendungen für menschliches Wohlergehen, Zurückhaltung bei destabilisierenden Anwendungen, und fortschreitende Risikoreduzierungen bei Erhalt der menschlichen Kontrolle Priorität erhalten. Herausgehoben wird: „Wir müssen das nächste Wettrüsten – sowohl im Bereich der KI als auch im nuklearen Bereich – entschärfen, bevor es auch das nächste Jahrhundert prägt.“

2. Grundlage ist eine verantwortungsvolle Entwicklung der KI auf der Basis von internationalem Recht und den allgemeinen Menschenrechten, gewährleistet insbesondere durch die Transparenz der KI-Entwickler, so z.B. durch die Veröffentlichung und Einhaltung der Prinzipien, die ihren jeweiligen Modellen zugrunde liegen. Darüber hinaus darf keine Organisation „eine vollautomatische, rekursive Selbstoptimierung“ in KI-Systemen einleiten und keine Regierung dies zulassen, ohne über die Mittel zu verfügen, solche Systeme zu überwachen und gegebenenfalls zu stoppen.

3. Der verantwortungsvolle Einsatz von KI bedeutet auch, dass einem automatisierten System niemals die Letztentscheidung für einen Nuklearwaffeneinsatz überlassen werden darf. Hier muss immer die sinnvolle menschliche Kontrolle gewährleistet bleiben und auch künftig durch einen internationalen Vertrag gesichert werden. Der böswillige Einsatz von KI für Cyberangriffe auf nukleare Infrastrukturen muss verhindert werden. Die Nuklearwaffenstaaten müssen ihre Cyberverletzlichkeit verringern und sicherstellen, dass ihre Nuklearstreitkräfte nicht manipuliert werden können oder die Kontrolle verlieren. Aber auch die positiven Seiten von KI-Entwicklungen wurden herausgehoben: „Wir setzen uns für die verantwortungsvolle Entwicklung und Nutzung künstlicher Intelligenz ein, um das Wohlergehen der Menschen zu verbessern, den wissenschaftlichen und medizinischen Fortschritt zu beschleunigen, die Umwelt zu schützen, die Widerstandsfähigkeit der Gesellschaft zu stärken sowie Frieden, nachhaltige Entwicklung und das Gemeinwohl zu fördern.“

4. Zu einer verantwortungsvollen Regierungs- und Unternehmensführung gehört eine Verlangsamung der Entwicklung von „Frontier-KI-Systemen“ durch Verifikation und interne wie externe Evaluierungen. Unterstützt wurden das „UN Independent International Scientific Panel of AI“, das einen vorläufigen Bericht im Juli 2026 vorgelegt hat, und die Enzyklika „Magnifica Humanitas“ vom 15. Mai 2026. Gefordert wird „eine Ausweitung der Forschung und des Dialogs, um neue institutionelle Wege für die internationale Steuerung der KI und die künftige Umsetzung globaler Steuerungsinitiativen vorzuschlagen.“

5. Eine verantwortungsvolle Führungskultur in Politik und Zivilgesellschaft ist dringend nötig, insbesondere die Erziehung und Bildung der jüngeren Generation in Bezug auf potenziell katastrophale Bedrohungen, auch mit Mentorprogrammen und intergenerationalen Partnerschaften: „Wir müssen Bildungsinitiativen vorantreiben, die folgende Aspekte fördern: ethische Verantwortung, kritisches Denken, Medien- und KI-Kompetenz sowie eine Kultur des Friedens.“

6. Nukleare Abrüstung durch anhaltende Verhandlungen ist dringend geboten und muss in einem zeitgebundenen Rahmen zu einer verifizierbaren und irreversiblen Eliminierung von Nuklearwaffen führen. Insbesondere werden die Atomwaffenstaaten aufgefordert, das erneute Wettrüsten und den Ausbau ihrer Arsenale zu stoppen, die bilateralen und multilateralen Verhandlungen über Rüstungskontrolle und Abrüstung wiederaufzunehmen und ihren Verpflichtungen und Zusagen nach dem Völkerrecht nachzukommen. Die Staaten müssen überprüfbare Beschränkungen und Reduzierungen anstreben, die Alarmstufen senken, die Entscheidungszeit verlängern, von der Strategie des „Launch-on-Warning“ und von einer Haltung der sofortigen Vergeltung abkommen, die Rolle von Atomwaffen in Sicherheitsdoktrinen verringern, die Krisenkommunikation stärken, Cyberoperationen gegen nukleare Kommando-, Kontroll- und Kommunikationssysteme verhindern sowie die Zusammenarbeit ausbauen, um Missverständnisse, Fehleinschätzungen und eine unbeabsichtigte Eskalation zu verhindern.

Die Erklärung schließt mit den berühmten Sätzen des Russell-Einstein-Manifestes: „Wir appellieren als Menschen an Menschen: Denkt an eure Menschlichkeit und vergesst den Rest.“

Unterzeichnung der Rom-Erklärung auf dem Kapitol

Die Rom-Erklärung wurde am 16. Juli 2026 in einer feierlichen Zeremonie im Rathaus auf dem Kapitol in Rom von den Nobelpreisträgern und anderen Teilnehmern unterzeichnet und ist für weitere Unterschriften geöffnet. Sie kann als Grundlage und Inspiration für weitere Dialoge und Aktivitäten von gleichgesinnten Regierungen, Institutionen und Nichtregierungsorganisationen dienen, um die katastrophalen Risiken dieser revolutionären Technologien zu diskutieren und neue Regelungsmechanismen zu finden. Einer der Mitinitiatoren, Daniel Holz, betonte bei dem Festakt, dass wir in einer Zeit „von beispielloser Gefahr leben“, aber dass wir als Menschen „genügend Möglichkeiten haben, um uns selber sicher vor Nuklearwaffen und den negativen Seiten von KI zu machen“. Es ist mit dem Treffen gelungen, die relevanten, aber unterschiedlichen Akteurskreise aus Politik, Wissenschaft, Zivilgesellschaft und der KI-Branche sowie ethisch ausgerichtete Organisationen zusammenzubringen, um ethische Probleme zu diskutieren. KI-Entwickler geben freimütig zu, dass sie selber kaum die Konsequenzen ihrer eigenen Entwicklungen abschätzen können und am Ende der Konferenz weitaus beunruhigter sind als zuvor. Vertreter von OpenAI, Anthropic, DeepMind zeigten sich offen für weitere Gespräche. Die Konferenz war ein erster produktiver Schritt, um ungelöste, existenzielle Fragen angesichts der technologischen Entwicklungen des 21. Jahrhunderts zu diskutieren und neue Netzwerke aufzubauen.

Pugwash-Teilnehmer bei der Versammlung (von links nach rechts): Poul Erik Christiansen (Programmdirektor, Großbritannien). Steve Miller (USA), Khaled Shamaa (Ägypten), Karen Hallberg (Generalsekretärin, Argentinien), Götz Neuneck (Council-Vorsitz, Deutschland), Tariq Rauf (Kanada), Nicolas Ayala Arboleda (Ecuador), Tatsujiro Suzuki (Japan).

Die Erklärung kann unterschrieben werden und ist zu finden unter:

https://globalnobelassembly.org/rome-declaration

Mehr Informationen befinden sich auf der Pugwash-Homepage: https://pugwash.org/2026/07/20/global-nobel-laureates-assembly-on-artificial-intelligence-and-nuclear-war/

Ein Bericht des Bulletin of Atomic Scientists beleuchtet weitere Hintergründe: https://thebulletin.org/2026/07/ai-for-peace-in-rome-nobel-laureates-call-for-disarming-ai-and-nuclear-weapons/#post-heading

Götz Neuneck, 5. August 2026.