KI kontrolliert KI?

Herausforderungen und Chancen für die Verifikation

von Thomas Reinhold

Neue Technologien und daraus abgeleitete militärische Anwendungen vervielfältigen sich derzeit rasant. Das bringt eine Reihe von Herausforderungen aber auch Chancen für Abrüstungsbemühungen und deren Verifikation mit sich. Einige der zentralen internationalen Körperschaften zur Überwachung von Waffensystemen bemühen sich um einen fundierten Umgang mit diesen neuen Technologien. Der Beitrag beleuchtet diese Bemühungen und die mit ihnen verbundenen Hoffnungen. Aber auch die Rolle der Naturwissenschaften in diesen Entwicklungen wird kritisch diskutiert.

Die zunehmende Dynamik technologischer Innovationen stellt die internationale Rüstungskontrolle vor substanzielle Herausforderungen. Neue Technologien entstehen nicht nur in immer kürzeren Innovationszyklen, sondern werden auch maßgeblich durch privatwirtschaftliche Akteure vorangetrieben, insbesondere im zivilen Sektor. Technologien wie Künstliche Intelligenz (KI) oder miniaturisierte unbemannte Luftfahrtsysteme (»Kleindrohnen«) illustrieren diese Entwicklung exemplarisch. Militärische Akteure adaptieren diese zivilen Technologien mit bemerkenswerter Geschwindigkeit. Dies geschieht einerseits aus Notwendigkeit – wie im Fall des Kriegs in der Ukraine, in dem Drohnen und KI-gestützte Systeme unmittelbar in Gefechtsabläufe integriert werden, um auf dynamische Entwicklungen zu reagieren –, andererseits im Rahmen strategischer Konkurrenzverhältnisse, die auf technologische Parität oder Überlegenheit zielen.

Diese Entwicklungen werfen grundlegende Fragen für die bestehende Verifikationsarchitektur auf. Klassische Instrumente der Rüstungskontrolle stoßen zunehmend an ihre Grenzen, da sie auf vorhersehbare, staatlich kontrollierte Waffensysteme und stationäre Infrastrukturen zugeschnitten sind.

Ansätze für die Verifikation von KI-Anwendungen

Insbesondere die zunehmende Militarisierung von KI1 stellt eine große Herausforderung bei der Entwicklung von Verifikationsmechanismen dar. KI ist als digitale Schlüsseltechnologie nicht nur hochdynamisch, sondern ihre Entwicklung ist zugleich immateriell, modular und häufig proprietär, d.h. urheberrechtlich geschützt, und nicht auf verfügbaren Standards anknüpfend – Eigenschaften, die etablierte Instrumente und Verfahren vor erhebliche Schwierigkeiten stellen. Dennoch lassen sich Zugänge identifizieren, etwa indem KI-Anwendungen nicht als einheitliches, in sich geschlossenes System betrachtet, sondern beispielsweise ihre Kern-Komponenten getrennt fokussiert werden (Reinhold 2022):

• Die Trainingsdaten, also die Datenbasis, anhand derer das System »lernt«;
• Die Zielvorgaben, mit denen Entscheidungsregeln oder Gewichtungsfaktoren definiert werden und die den Lern- und Optimierungsprozess steuern;
• Das Modell2, also das Ergebnis eines Trainingsprozesses, das in konkrete Anwendungsszenarien integriert werden kann;
• Die Effektoren, also die physischen oder digitalen Entitäten, die durch das KI-Modell gesteuert oder beeinflusst werden – etwa autonome Drohnen, Waffensysteme oder militärische Entscheidungsunterstützungssysteme.

Ohne an dieser Stelle auf Details eingehen zu können, bieten sich konzeptionell folgende Ansätze zur Kontrolle von KI-Anwendungen an, sei es im Rahmen möglicher bilateraler Rüstungskontrolle oder unilateraler Einschränkungen nach ethischen Gesichtspunkten:

• Auf Ebene der Trainingsdaten könnte der Zugang zu besonders sensitiven Datensätzen begrenzt werden, etwa solchen, die auf Daten aus militärischen Einsatzszenarien stammen oder gezielt für die Identifikation militärischer Ziele zusammengestellt wurden. Ebenso ließe sich die Nutzung von oder der Zugang zu bestimmten Datenquellen selbst einschränken.
• Im Bereich der Klassifikatoren wäre es denkbar, einsatzrelevante Zielsetzungen – etwa das Training eines Systems zum Auslösen tödlicher Gewalt – explizit auszuschließen oder an strenge Vorgaben zur Nachvollziehbarkeit der Entscheidungslogiken zu koppeln.
• Die Modelle selbst könnten wiederum über Kennzeichnungspflichten auf Basis kryptografischer oder Hash-basierter Signaturen markiert, deren Verwendung somit identifizierbar und ihre Verbreitung nachvollziehbar gemacht werden.

Eine große technische Hürde liegt jedoch in der Überprüfung des von einem KI-Modell erlernten Wissens selbst. Insbesondere Ansätze mit künstlichen neuronalen Netzen operieren als »Black Boxes«, deren interne Gewichtungen, Entscheidungslogiken und Fehlertoleranzen zwar sichtbar, aber selbst von Entwickler*innen nur schwer sinnvoll interpretiert werden können. Um dennoch eine Verifikation eines solchen Modells zu ermöglichen, könnte eine Kontrollinstanz das betroffene Modell auf Grundlage vereinbarter Datensätze testen, um zu überprüfen, ob die Ergebnisse mit den im Rahmen eines Verifikationsregimes definierten Ausgaben übereinstimmen. In ähnlicher Weise könnten spezifisch zusammenstellte Testdatensätze eingesetzt werden, um bestimmte Soll- und Nicht-Soll-Verhaltensweisen abzuprüfen – etwa die korrekte Vermeidung ziviler Ziele.

Ein weiteres Instrument, um die innere Funktionsweise einer KI sichtbar zu machen, ist der Einsatz sog. »erklärbarer KI« (»Explainable Artificial Intelligence«, XAI). Diese Verfahren, die entweder bereits im Entwicklungsprozess der KI eingebettet oder nachträglich auf fertige KI-Systeme angewendet werden können, ermöglichen es, die Entscheidungen eines KI-Systems in einer für Menschen interpretierbaren Form zu rekonstruieren. Solche Verfahren sind derzeit stark im Fluss und ähneln aktuell häufig noch eher mathematischen Nachweisen. Sie bieten aber einen wichtigen Baustein für zukünftige Verfahren, insbesondere wenn sich deren Visualisierung noch stärker auf die Erfordernisse von Verifikationsprozessen ausrichtet.

KI als Hilfsmittel für die Verifikation

Neben den geschilderten Herausforderungen durch KI für die Rüstungskontrolle eröffnet diese Technologie aber auch große Potenziale, um die Informationsverarbeitung und Entscheidungsunterstützung in Verifikationsverfahren angesichts der kontinuierlichen Flut sicherheitsrelevanter Daten – aus Satelliten, Messstationen, Netzwerken oder offenen Quellen – zu unterstützen. KI kann dabei die Rolle übernehmen, diese großen und oft heterogenen Datenquellen zu integrieren und zu analysieren, Muster zu identifizieren und Abweichungen frühzeitig zu erkennen. Nachfolgend dazu einige Beispiele.

CTBT: Verifikation des Verbots von Nuklearwaffentests

Der »Comprehensive Nuclear-Test-Ban Treaty« (CTBT) stellt eines der technisch ambitioniertesten Verifikationsregime der Gegenwart dar. Sein internationales Überwachungssystem (International Monitoring System, IMS) umfasst mehr als 300 Stationen weltweit und generiert kontinuierlich riesige Datenmengen in vier technischen Domänen: (1) Seismische Daten erfassen Erschütterungen der Erdkruste und ermöglichen die Ortung unterirdischer Explosionen. (2) Infraschalldetektoren registrieren atmosphärische Druckwellen, wie sie etwa durch überirdische Detonationen erzeugt werden. (3) Hydroakustische Sensoren überwachen unterseeische Druckwellen und ermöglichen so die Detektion von Explosionen in den Ozeanen. (4) Radionuklidsensoren messen Spuren radioaktiver Isotope in der Atmosphäre, die als direkter Hinweis auf einen Nuklearversuch dienen können.

Die CTBTO nutzt bereits KI-Verfahren zur Auswertung seismischer Daten und arbeitet kontinuierlich an deren Weiterentwicklung (vgl. CTBTO 2024). Schwerpunkte liegen auf der Verbesserung der Interpretation schwacher Nachbeben, der Vorhersage potenziell ausfallender Stationen und der Analyse satellitengestützter Informationen zur Unterstützung von Vor-Ort-Inspektionen. Die Kombination unterschiedlicher Sensordaten mithilfe moderner KI-Modelle soll dabei helfen, natürliche und künstliche Ereignisse noch zuverlässiger zu unterscheiden und die Gesamtbewertung zu präzisieren.

IAEA-Safeguards: Überwachung ziviler Nuklearprogramme

Im Rahmen des Nichtverbreitungsvertrags (NPT) kontrolliert die Internationale Atom­­energieorganisation (IAEA) weltweit zivile Nuklearanlagen, um deren ausschließliche Nutzung zu friedlichen Zwecken sicherzustellen. Das »Safeguards«-System umfasst eine Vielzahl an Datenquellen: deklarierte Inventarlisten spaltbarer Materialien (z. B. Uran, Plutonium), kontinuierliche Videoüberwachung, Sensorprotokolle (etwa Temperatur, Neutronenfluss), Satellitenbilder zur Detektion nicht gemeldeter Anlagen sowie Umweltproben zur Identifikation nuklearer Rückstände.

Der Einsatz von KI in diesem Kontext bietet mehrere Ansatzpunkte, die von der IAEA bereits aktiv verfolgt werden (IAEA 2023). Erstens können deklarierte Materialmengen automatisch mit Mess- und Sensordaten abgeglichen werden, um etwa Abweichungen in Lagerbeständen zu erkennen, die auf Diversion oder Nichtmeldung hindeuten könnten. Zweitens ist die automatisierte Bildauswertung ein wachsendes Feld: Mithilfe von »Change Detection«-Algorithmen lassen sich Satellitenaufnahmen unterschiedlicher Zeitpunkte vergleichen, um Infrastrukturveränderungen zu identifizieren – etwa der plötzliche Bau neuer Gebäude oder Veränderungen an Kühlwasserauslassen, die auf geheime Aktivitäten hinweisen könnten.

Zusätzlich könnten KI-Systeme als Frühwarninstrumente dienen: Durch das Training auf historischen Daten aus früheren Inspektionsberichten, Anomalien und tatsächlichen Vertragsverstößen könnten Modelle lernen, welche Kombinationen von Indikatoren mit erhöhter Wahrscheinlichkeit auf Täuschungsversuche oder geheime Aktivitäten hinweisen.

CWC: Verifikation chemischer Waffenprogramme

Das Chemiewaffenübereinkommen (CWC), umgesetzt durch die »Organisation für das Verbot chemischer Waffen« (OPCW), verpflichtet seine Vertragsstaaten zur vollständigen Abrüstung chemischer Waffen und unterwirft Produktion, Lagerung und Vernichtung strenger Verifikation.

KI kann hier auf mehreren Ebenen eingesetzt werden und erste Ansätze werden im Rahmen einer dedizierten »AI Reseach Challenge« gefördert (vgl. OPCW 2024a) sowie auf Konferenzen diskutiert (OPCW 2024b). Zum einen ermöglicht die Analyse sogenannter chemischer Fingerabdrücke, also der molekularen Zusammensetzung vor Ort gefundener Stoffe, mithilfe von KI eine schnellere und präzisere Zuordnung zu potenziellen Produktionsprozessen. Dies ist insbesondere relevant, wenn es um sogenannte Vorläufersubstanzen geht, die sowohl zivil als auch militärisch nutzbar sind. Zum anderen kann KI eingesetzt werden, um Handelsdaten – etwa zu Vorprodukten, Transportwegen oder Lieferketten – auf verdächtige Muster zu untersuchen. Durch die Kombination von Lieferdaten, geografischen Informationen und bekannten Produktionsprofilen könnten potenzielle Verstöße oder Umgehungsversuche frühzeitig erkannt werden.

Weitere Ansätze aus der Forschung

Neben diesen Anwendungen innerhalb etablierter Verifikationsregime eröffnet KI auch Perspektiven für weitere Felder der Rüstungskontrolle. So können beispielsweise im Rahmen der sogenannten »nuklearen Archäologie« KI-Verfahren zur Rekonstruktion vergangener nuklearer Produktionsprozesse anhand von Isotopenverhältnissen in abgebrannten Brennelementen eingesetzt werden (vgl. Unruh 2023). Die daraus abgeleiteten zentralen Reaktorparameter wie Abbrand, Anreicherung und Abklingzeit ermöglichen Rückschlüsse auf die tatsächliche Nutzung des Reaktors, selbst bei reduzierter Datenlage – ein klarer Vorteil für internationale Inspektionen mit eingeschränktem Zugang.

Ein weiteres Innovationsfeld betrifft die biologische Rüstungskontrolle, bei der KI zur Auswertung synthetischer DNA-Sequenzen beitragen kann, bspw. indem im Rahmen des »Common Mechanism for DNA Synthesis Screening« DNA-Synthesebestellungen automatisiert auf sicherheitsrelevante Sequenzen überprüft werden (vgl. Reis 2024). Per KI-Verfahren werden dabei genetische Konstrukte mit bekannten Pathogenen abgeglichen, um potenziell gefährlichen Missbrauch frühzeitig zu erkennen und zu verhindern. Gerade in Zeiten in denen KI-Modelle in atemberaubender Geschwindigkeit neue toxische Stoffe modellieren können, wäre dies dringlich erforderlich.

Verifikation bedarf der Naturwissenschaften

Die Gestaltung wirksamer Verifikationsmechanismen hängt nicht nur vom politischen Willen der maßgeblichen Akteure ab, sondern in erheblichem Maße auch von der Verfügbarkeit praktikabler technischer Verfahren. Der Handlungsspielraum von Verifikationsregimen wird somit gleichermaßen durch politische wie durch wissenschaftlich-technologische Faktoren bestimmt. Angesichts der dynamischen Entwicklung neuer Technologien – etwa im Bereich autonomer Systeme, Hyperschallwaffen oder KI-gestützter Entscheidungsfindung – besteht eine dringliche Notwendigkeit, entsprechende Verifikationsmaßnahmen parallel zu diesen technologischen Innovationen zu entwickeln. Für die naturwissenschaftlich orientierte Friedens- und Konfliktforschung ergibt sich daraus ein erheblicher Handlungsimpetus. Sie ist – auch mit Blick auf die weltpolitische Lage – herausgefordert, technologische Entwicklungen engmaschig zu analysieren, um ihre sicherheitspolitische Relevanz frühzeitig zu erkennen sowie potenzielle militärische Anwendungen und daraus resultierende neue Verwundbarkeiten oder Fähigkeitsverschiebungen systematisch zu erfassen. Ziel muss es sein, politische Entscheidungsträger*innen fundiert über diese Implikationen zu informieren und ihnen zugleich konkrete, wissenschaftlich fundierte Verifikationsansätze an die Hand zu geben, um international verhandelbare Regulierungsoptionen zu eröffnen.

Die rasante Integration von KI-Technologien in militärische und sicherheitsrelevante Anwendungen stellt aber auch gleichzeitig die Naturwissenschaften – insbesondere die Informatik – vor die Aufgabe, ihre Forschung angesichts des zunehmenden Dual-Use-Potenzials kritisch zu hinterfragen und die ethischen als auch die gesellschaftlichen Implikationen wissenschaftlicher Arbeit stärker zu berücksichtigen. Diese Reflexion sollte systematisch in Ausbildung und Curricula integriert werden. Dies betrifft KI, ebenso wie Basistechnologien wie Halbleiterdesign, Netzwerkarchitekturen oder Sensorik.

Eine pauschale Ablehnung solcher Forschung greift zu kurz, denn die vielfach diskutierte »Zeitenwende« bringt neue sicherheitspolitische Herausforderungen mit sich, die auch die naturwissenschaftliche Forschung in die Pflicht nehmen, wie dies im Positionspapier »Wissenschaft und Sicherheit in Zeiten weltpolitischer Umbrüche« des deutschen Wissenschaftsrates (2025) eingehend dargestellt und begründet wird. Die Entwicklung und Implementierung von Verifikationsverfahren können hier einen konstruktiven Beitrag leisten, indem Aufrüstungstrends durch verlässliche Kontrollmechanismen vertrauensbildend und konfliktvermeidend begleitet werden. Naturwissenschaftliche Forschung kann so – verantwortungsvoll betrieben – eine stabilisierende Rolle im sicherheitspolitischen Gefüge übernehmen.

Anmerkungen

1) Der Begriff KI wird nachfolgend umfassend im Geiste der aktuellen Debatten verwendet und schließt auch Verfahren des maschinellen Lernens ein.

2) Für die bessere Lesbarkeit wird im folgenden der Singular verwendet, selbst wenn eine konkrete KI-Anwendung auch aus dem Zusammenspiel mehrerer, unabhängig voneinander trainierter Modelle bestehen kann.

Literatur

CTBTO (2024): Advancing operations and maintenance: Highlights from CTBTO’s IMS technical meeting. Wien, 22.11.2024.

IAEA (2023): Artificial intelligence. In: Ebd. (Hrsg.): IAEA Annual Report 2023, S. 30.

OPCW (2024a): Note by the Technical Secretariat: The OPCW Artificial Intelligence Research Challenge (S/2301/2024). Den Haag, 4.7.2024.

OPCW (2024b). Joint press release by the OPCW and Morocco’s National Authority for the CWC on global conference on AI in CWC implementation. Rabat/Marokko, 24.10.2024.

Reinhold, T. (2022): Arms control for artificial intelligence. In: Reinhold, T.; Schörnig, N. (Hrsg.): Armament, arms control and artificial intelligence: The Janus-faced nature of machine learning in the military realm. Cham: Springer, S. 211-226.

Reis, K. (2024): Technologische Implikationen von KI für biologische Risiken. CNTR Monitor 2024.

Unruh, F. (2023): Applying neural networks in nuclear archaeology with spent nuclear fuel. Masterarbeit, RWTH Aachen.

Wissenschaftsrat (2025): Wissenschaft und Sicherheit in Zeiten weltpolitischer Umbrüche. Positionspapier, Köln, Mai 2025. DOI: doi.org/­10.57674/9TR5-KN29.

Dr. Thomas Reinhold ist wissenschaftlicher Mitarbeiter am Peace Research Institute Frankfurt (PRIF) und forscht zu Militarisierung des Cyberspace, KI und Möglichkeiten zur Rüstungsbegrenzung, -kon­trolle und Abrüstung dieser Technologien.