Künstliche Augen: Generative KI in Chinas militärischer Intelligenz

Executive Summary

Die Volksbefreiungsarmee (People's Liberation Army, PLA) hat deutliches Interesse an der Nutzung generativer künstlicher Intelligenz (AI) zur Unterstützung der Geheimdienstarbeit gezeigt, hat Methoden und Systeme entwickelt, die generative AI für Geheimdienstaufgaben einsetzen, und hat wahrscheinlich generative AI für Geheimdienstzwecke beschafft. Sowohl die PLA als auch die chinesische Verteidigungsindustrie haben höchstwahrscheinlich ausländische und inländische große Sprachmodelle (LLMs) adaptiert, um spezialisierte Modelle zu entwickeln, die Nachrichtendienstaufgaben effektiv ausführen können. Die PLA und die chinesische Verteidigungsindustrie haben generative KI-basierte Nachrichtendienstwerkzeuge entwickelt, die Berichten zufolge unter anderem Nachrichtendienstdaten verarbeiten und analysieren, Nachrichtendienstprodukte erzeugen, Fragen beantworten, Empfehlungen geben, Frühwarnungen ermöglichen und die Entscheidungsfindung unterstützen können. Diese Werkzeuge sollen im Großen und Ganzen die Geschwindigkeit, Effizienz, Genauigkeit und den Umfang von Geheimdienstaufgaben verbessern und gleichzeitig die Kosten senken. Obwohl Teile der PLA sich optimistisch über die Vorteile der generativen KI geäußert haben und wahrscheinlich erste Schritte unternehmen, um diese Technologie bei der Aufklärungsarbeit einzusetzen, hat die PLA sehr wahrscheinlich die Grenzen und Risiken dieser Technologie erkannt. Folglich bleibt unklar, inwieweit die PLA generative KI in nachrichtendienstliche Aktivitäten integrieren wird – und wie effektiv diese Integration letztendlich sein wird.

Das Interesse der PLA am Einsatz generativer KI zur Unterstützung der militärischen Aufklärung stellt sowohl die PLA als auch den Westen vor Herausforderungen. Für die PLA ist es angesichts der Grenzen und Risiken der generativen KI für eine erfolgreiche Übernahme dieser Technologie erforderlich, mit den nachrichtendienstlichen Anwendungen der generativen KI zu experimentieren, die Ergebnisse dieser Experimente genau zu bewerten und die generative KI auf der Grundlage dieser Ergebnisse und Bewertungen angemessen auf die nachrichtendienstliche Arbeit anzuwenden; andernfalls könnte dies zu ungenauen nachrichtendienstlichen Informationen führen, die die Qualität der Entscheidungsfindung beeinträchtigen. Wenn Geheimdienstanalysten der PLA generative KI-Modelle verwenden, die im Einklang mit der Ideologie der Kommunistischen Partei Chinas (KPCh) entwickelt oder an ideologisch gefärbten Analyseprodukten trainiert wurden, läuft die PLA zudem Gefahr, die Objektivität der Geheimdienstanalyse zu verringern. Für den Westen stellt die Anwendung generativer KI durch die PLA bei der Arbeit der Nachrichtendienste eine Herausforderung für den Technologietransfer dar und verdeutlicht das Risiko, dass chinesische Spionageabwehrorganisationen generative KI nutzen, um nicht authentische, aber überzeugende Informationen zu generieren, um westliche Nachrichtendienstanalysten in die Irre zu führen und den nachrichtendienstlichen Wert von Open-Source-Informationen zu mindern.

Wichtige Erkenntnisse

• PLA-Medien und Forscher, die mit der PLA assoziiert sind, haben argumentiert, dass die Anwendung generativer KI für die militärische Aufklärung eine breite Palette potenzieller Vorteile bietet, einschließlich der Verbesserung der Sammlung und Analyse von Informationen und der Bereitstellung verbesserter Entscheidungsfähigkeiten für militärische Befehlshaber, haben aber auch verschiedene Herausforderungen und Risiken erkannt, die mit dem Einsatz dieser Technologie für die Aufklärungsarbeit verbunden sind.
• Da die Volksbefreiungsarmee und die chinesische Verteidigungsindustrie sich der nachrichtendienstlichen Grenzen allgemeiner generativer AI-Modelle bewusst sind, priorisieren sie vermutlich die Entwicklung und Nutzung spezialisierter Modelle, die für nachrichtendienstliche Aufgaben optimiert wurden.
• Die PLA und die chinesische Verteidigungsindustrie haben höchstwahrscheinlich eine Mischung aus proprietären und quelloffenen LLMs von ausländischen und inländischen Entwicklern verwendet, um auf generativer KI basierende Intelligenzwerkzeuge zu entwickeln. Zu den auf diese Weise verwendeten ausländischen LLMs gehören höchstwahrscheinlich Modelle von Meta, OpenAI und BigScience, während zu den inländischen LLMs höchstwahrscheinlich Modelle von DeepSeek, der Tsinghua Universität, Zhipu AI und Alibaba Cloud gehören.
• PLA-Patentanmeldungen zeigen, dass die PLA Methoden und Systeme entwickelt hat, die generative KI nutzen, um nachrichtendienstliche Aufgaben wie die Generierung von Open-Source-Intelligence-Produkten (OSINT), die Verarbeitung von Satellitenbildern, die Unterstützung der Ereignisextraktion und die Verarbeitung von Ereignisdaten zu erleichtern.
• In einer im Dezember 2024 eingereichten Patentanmeldung schlug ein staatliches chinesisches Forschungsinstitut der Verteidigungsindustrie vor, Daten aus den Bereichen OSINT, Human Intelligence (HUMINT), Signals Intelligence (SIGINT), Geospatial Intelligence (GEOINT) und Technical Intelligence (TECHINT) zu nutzen, um ein militärisches LLM zu trainieren, das sich auf nachrichtendienstliche Aufgaben spezialisieren kann. Dadurch soll das verbesserte militärische LLM in der Lage sein, jede Phase des nachrichtendienstlichen Zyklus zu unterstützen und die Entscheidungsfindung bei militärischen Operationen zu verbessern.
• Die PLA und die chinesische Verteidigungsindustrie haben wahrscheinlich generative KI-Technologie beschafft, um OSINT und wissenschaftliche und technologische (S&T) Aufklärung zu unterstützen. Dies ist ein Indikator dafür, dass zumindest einige Elemente des chinesischen Militärs wahrscheinlich beginnen, generative KI für nachrichtendienstliche Aufgaben einzusetzen.
• Die PLA – die sehr wahrscheinlich die generativen KI-Modelle von DeepSeek Anfang 2025 schnell übernommen hat – nutzt die LLMs von DeepSeek wahrscheinlich für nachrichtendienstliche Zwecke. Dies geht aus den Behauptungen eines chinesischen Rüstungsunternehmens hervor, das der PLA ein DeepSeek-basiertes OSINT-Modell zur Verfügung gestellt hat.
• Die PLA ist wahrscheinlich besorgt, dass ausländische Spionageabwehrorganisationen generative KI einsetzen könnten, um überzeugende, nicht authentische Inhalte zu produzieren, um chinesische Geheimdienstmitarbeiter in die Irre zu führen und den nachrichtendienstlichen Wert von Open-Source-Informationen zu mindern. Chinesische Gegenspionageorganisationen könnten generative KI in ähnlicher Weise einsetzen.

Methodik

Um die Ansichten der PLA über generative KI und deren Anwendung in der Aufklärungsarbeit zu bewerten, sammelte und analysierte die Insikt Group unter anderem Artikel, die in den Medien der PLA veröffentlicht wurden, akademische Forschungsarbeiten, die von PLA-Mitarbeitern verfasst wurden, Patentanmeldungen der PLA und der chinesischen Verteidigungsindustrie, Beschaffungsunterlagen der PLA und der chinesischen Verteidigungsindustrie, Informationen, die von chinesischen Verteidigungsunternehmen veröffentlicht wurden, sowie Daten, die auf der Recorded Future®-Plattform verfügbar sind. Die in diesem Bericht zitierten Quellen stellen nicht notwendigerweise die offizielle Politik der PLA in Bezug auf generative KI dar. Sie zeigen vielmehr, wie Einzelpersonen und Organisationen innerhalb der PLA und der chinesischen Verteidigungsindustrie wahrscheinlich die nachrichtendienstlichen Anwendungen der generativen KI erforschen und entwickeln. Dieser Bericht bewertet nicht den Wahrheitsgehalt der technischen Behauptungen der PLA und der chinesischen Verteidigungsindustrie, aber Unternehmen, die nachrichtendienstlich relevante generative KI-Tools entwickeln oder verkaufen, haben wahrscheinlich ein Interesse daran, die Effektivität der generativen KI zu übertreiben und ihre Mängel herunterzuspielen, so dass die von diesen Unternehmen bereitgestellten Informationen mit Skepsis betrachtet werden sollten.

Generative KI ist ein weit gefasster Begriff, und einige seiner Unterkategorien sind nicht klar abgegrenzt, was diese Untersuchung gelegentlich vor Herausforderungen stellte. In einigen Fällen beobachteten wir, dass Verweise auf generative KI-Modelle wie LLMs für mögliche nicht-generative Funktionen verwendet wurden; wir bewerteten diese Verweise dennoch als relevant für unsere Untersuchung. Außerdem wird in chinesischen Quellen häufig der Begriff „großes Modell“ (大模型) verwendet, wenn es um KI-Modelle geht, statt spezifischerer Begriffe wie „LLM“. Nicht alle großen Modelle gelten als generative KI, sodass wir nicht automatisch davon ausgingen, dass jeder Verweis auf ein „großes Modell“ mit generativer KI zu tun hat. Wir haben einen Verweis auf ein „großes Modell“ nur dann als generative KI eingestuft, wenn andere Informationen den generativen Charakter des Modells bestätigten. Anhang A enthält ein Glossar der generativen KI-Terminologie für Leser, die mit dieser Technologie nicht vertraut sind.

Ansichten zu generativer AI in der militärischen Aufklärung

PLA Daily

Die offizielle Zeitung der PLA, PLA Daily, hat eine Handvoll Artikel veröffentlicht, die direkt die Auswirkungen der generativen AI auf die Geheimdiensttätigkeit diskutieren, welche in Tabelle 1 zusammengefasst sind. In diesen Artikeln werden die potenziellen Vorteile generativer KI für den militärischen Nachrichtendienst erörtert. Dabei wird die angebliche Fähigkeit dieser Technologie hervorgehoben, nachrichtendienstliche Produkte zu generieren, Veränderungen auf dem Schlachtfeld vorherzusagen, nachrichtendienstliche Aktivitäten sowohl in Friedens- als auch in Kriegszeiten zu erleichtern, die Effizienz der nachrichtendienstlichen Analyse zu verbessern und Kommandanten bei der Entscheidungsfindung zu unterstützen. Diese Artikel weisen auch auf potenzielle Herausforderungen hin, die mit generativer KI verbunden sind. Sie weisen darauf hin, dass generative KI-Modelle aktuelle Intelligenz nicht ersetzen können und warnen davor, dass die Geheimdienste konkurrierender Länder Deepfakes ausnutzen könnten, um rivalisierende Behörden zu behindern.

Tabelle 1: Zusammenfassung von PLA Daily Artikeln, die die Auswirkungen generativer KI auf die Intelligenz diskutieren (Quelle: PLA Daily; Insikt Group)

Akademische Forschung

PLA-Forscher – insbesondere Mitarbeiter der Akademie für Militärwissenschaft (AMS; 军事科学院) Military Science Information Research Center (MSIRC; 军事科学信息研究中心) – haben sich optimistisch über die nachrichtendienstlichen Anwendungen der generativen KI geäußert, aber auch die Fehlbarkeit dieser Technologie erkannt und eine Reihe von Problemen im Zusammenhang mit der Anwendung generativer KI auf die nachrichtendienstliche Arbeit angesprochen. In einer bemerkenswerten Studie haben Forscher des AMS MSIRC die Chancen und Herausforderungen des Einsatzes generativer KI zur Unterstützung der nationalen Verteidigungs- und W&T-Nachrichtendienste bewertet und Empfehlungen für die Nutzung der Chancen generativer KI bei gleichzeitiger Abschwächung ihrer Herausforderungen gegeben. PLA-Forscher haben auch die Bemühungen des US-Militärs analysiert, generative KI für nachrichtendienstliche Aufgaben einzusetzen, wahrscheinlich mit dem Ziel, von den Erfahrungen des US-Militärs zu lernen und bewährte Verfahren anzupassen. Forscher, die nicht mit der PLA, sondern mit anderen Elementen des chinesischen Staatsapparats verbunden sind, haben ebenfalls über die Auswirkungen generativer KI auf den Geheimdienst publiziert, wobei sie die von PLA-Mitarbeitern geäußerten Ansichten widerspiegeln und einen Einblick in die Debatten geben, die wahrscheinlich innerhalb des chinesischen Staatsapparats geführt werden.

Allgemeine Ansichten in der PLA

PLA-Forscher haben ihr Interesse an den nachrichtendienstlichen Anwendungen der generativen KI geäußert, wobei einige sie als eine potenziell transformative Technologie bezeichnen. So veröffentlichten Forscher des AMS MSIRC im August 2024 einen Artikel über die Auswirkungen von KI auf die Geheimdienstforschung. Darin wird behauptet, dass die Entwicklung von Technologien wie maschinelles Lernen, Deep Learning und generative KI nie dagewesene Möglichkeiten für die Geheimdienstforschung geschaffen hat. Im Juni 2024 veröffentlichten Forscher des AMS MSIRC, des AMS National Innovation Institute of Defense Technology (国防科技创新研究院) und zweier ziviler Universitäten eine Studie, in der sie das Llama 13B-Modell von Meta nutzen, um ein LLM zu entwickeln, das auf militärische OSINT spezialisiert ist. Sie argumentieren, dass LLMs eine umfassende und genaue nachrichtendienstliche Unterstützung für militärische Befehlshaber erleichtern können und behaupten, dass ihr LLM nachrichtendienstliche Analysen, strategische Planung, Simulationstraining und die Entscheidungsfindung des Kommandos unterstützen könnte. In ähnlicher Weise veröffentlichten Forscher des AMS MSIRC im Februar 2024 einen Artikel, der nahelegt, dass die Anwendung ChatGPT-ähnlicher Technologien auf Kommando- und Kontrollsysteme zu erheblichen Verbesserungen der nachrichtendienstlichen Fähigkeiten führen könnte.

OSINT In dem bereits erwähnten Artikel vom Februar 2024 warnen die MSIRC-Forscher der AMS davor, dass die Intelligenzgrenzen von ChatGPT-ähnlichen Technologien, die in Kommando- und Kontrollsysteme integriert werden, katastrophale Folgen haben könnten. Auch im Artikel vom Juni 2024 behaupten AMS- und ziviles Universitätspersonal, dass die derzeitigen LLMs ernsthafte Halluzinationsprobleme haben und für den direkten Einsatz im OSINT-Bereich ungeeignet sind. Im September 2024 erklärten Forscher der Nationalen Universität für Verteidigungstechnologie der PLA (NUDT; 中国人民解放军国防科技大学) College of Information and Communications (信息通信学院) und College of Intelligent Science (智能科学学院) einen Artikel über die Beziehung zwischen zwischen KI und OSINT veröffentlicht. Darin wird argumentiert, dass mit generativer KI erzeugte Deepfakes erhebliche Herausforderungen für die Bemühungen darstellen, die riesige Menge an im Internet verfügbaren Informationen für nachrichtendienstliche Zwecke zu nutzen.

National Defense S&T Intelligence Beispiel

Abbildung 1: Übersetzte Tabelle der potenziellen Anwendungen und Vorteile generativer KI für die nationale Verteidigung (Quelle: „Empowering National Defense Science and Technology Intelligence“; Insikt Group)

Im November 2023 veröffentlichten Forscher des AMS MSIRC einen Artikel über die potenziellen Chancen und Herausforderungen des Einsatzes generativer KI für die nationale Verteidigungs- und W&T-Aufklärung. Dem Artikel zufolge können herkömmliche nachrichtendienstliche Ansätze potenzielle Bedrohungen und Chancen nicht mehr rechtzeitig und genau erkennen. Diese Ansicht hat mit ziemlicher Sicherheit die Einführung neuer nachrichtendienstlicher Erfassungs-, Verarbeitungs- und Analysetechnologien innerhalb der PLA und der chinesischen Verteidigungsindustrie vorangetrieben. Die Autoren behaupten, dass generative KI die Schaffung und Anwendung von Wissen, einschließlich der nationalen Verteidigungs- und W&T-Nachrichten, tiefgreifend beeinflusst. Sie behaupten, dass generative KI das Potenzial hat, die Sammlung, Bewertung, Analyse und Generierung nachrichtendienstlicher Informationen zu verbessern (siehe Abbildung 1), wobei sie detailliert aufzeigen, wie generative KI das Nachrichtendienstpersonal unterstützen könnte, anstatt zu behaupten, dass diese Technologie das Nachrichtendienstpersonal ersetzen könnte. Zum Beispiel argumentieren die Autoren, dass generative KI:

• Geheimdienstmitarbeitern dabei helfen könnte, sich mit unbekannten technischen Bereichen vertraut zu machen, wenn sie mit neuen Geheimdienstaufgaben betraut werden, und so die Tiefe und den Umfang des Verständnisses der Analysten für Geheimdienstziele verbessern könnte
• Geheimdienstmitarbeiter bei der Verfeinerung und Entdeckung von Beziehungen innerhalb großer Datenmengen unterstützen und sie bei Aufgaben wie Vergleich, Inferenz, Bereitstellung von Beispielen und Induktion behilflich sein können
• verschiedene Szenarien und Annahmen generieren kann, um Geheimdienstanalysten dabei zu helfen, ihr Denken zu erweitern und kognitive Verzerrungen während der Geheimdienstanalyse zu vermeiden, sowie die analytischen Schlussfolgerungen der Analysten bewerten kann, um potenzielle Verzerrungen zu identifizieren
• automatisch relevante Bilder und audiovisuelles Material empfehlen, statistische Berichte generieren und relevante Materialien automatisch synthetisieren kann, um eine vielfältige Darstellung von nachrichtendienstlichen Analyseinhalten zu ermöglichen, die über die traditionellen nachrichtendienstlichen Berichte hinausgehen

Sie warnen jedoch auch davor, dass generative KI eine noch nie dagewesene Unkontrollierbarkeit, Ungewissheit und ein hohes Risiko für die nationalen Verteidigungs- und W&T-Informationen mit sich bringen könnte. Sie identifizieren spezifische Herausforderungen wie:

• erhöhte Risiken bei der Spionageabwehr, einschließlich des Risikos, dass technologische Konkurrenten generative KI nutzen, um gefälschte technische Dokumente und Deepfakes zu erstellen, um die nationalen Verteidigungs- und W&T-Nachrichtendienste in die Irre zu führen
• ein Mangel an LLMs, die speziell für nationale Verteidigungs- und W&T-Nachrichten konzipiert sind
• die begrenzte Fähigkeit der generativen KI, mit unsicheren und verzerrten Informationen umzugehen
• unzureichende nationale Verteidigungs- und W&T-Nachrichtenkorpora für die Ausbildung von LLMs, einschließlich der Schwierigkeiten im Zusammenhang mit der Verwendung von Staatsgeheimnissen und sensiblen Informationen für die Ausbildung von LLMs
• Zuverlässigkeitsprobleme wie „Datenlecks, algorithmische Blackboxen, Wertverzerrungen und Unerklärbarkeit“

Die AMS-Forscher beschreiben die generative KI als zweischneidiges Schwert und schlagen vor, dass der Bereich der nationalen Verteidigungs- und W&T-Intelligenz Maßnahmen ergreifen sollte, um gleichzeitig die Chancen der generativen KI zu nutzen und ihre Herausforderungen abzumildern. Dazu gehören:

• Die schrittweise Einführung generativer KI in die nationale Verteidigungs- und Aufklärungsarbeit und die Evaluierung der Effektivität dieser Technologie nach ihrer Einführung
• Arbeiten zur Verbesserung relevanter Korpora und LLMs
• Iterative Kombinationen von Intelligence-Workflows, die sowohl menschliche als auch generative AI-Inputs beinhalten, um zuverlässige und glaubwürdige Ergebnisse zu gewährleisten
• Entwicklung von Technologien zur Gewährleistung der Rückverfolgbarkeit und Überprüfung der Zuverlässigkeit von KI-generierten Inhalten

Interesse an US-Militäranwendungen

PLA-Forscher haben untersucht, wie das US-Militär generative KI für nachrichtendienstliche Aufgaben einsetzt, wahrscheinlich mit dem Ziel, von den Erfahrungen des US-Militärs zu lernen, ähnlich wie bei den früheren Bemühungen Chinas, OSINT-Praktiken und militärische KI-Anwendungen in den USA zu untersuchen. Im Mai 2024 veröffentlichte beispielsweise ein Forscher des AMS War Research Institute (战争研究院) einen Artikel, in dem er analysierte, wie die USA die militärischen Anwendungen der generativen KI erforschen. Der Autor erörtert organisatorische Änderungen, politische Leitlinien, experimentelle Tests und Sicherheitsmaßnahmen, die die USA Berichten zufolge umgesetzt haben, besondere militärische Anwendungen, die die USA Berichten zufolge konzipiert, getestet oder in Betrieb genommen haben, sowie Herausforderungen, denen die USA Berichten zufolge begegnet sind. Insbesondere behauptet der Autor, dass die Defense Innovation Unit (DIU) des US-Verteidigungsministeriums (DoD) im Mai 2023 ein Technologieprogramm initiiert hat, um die Anwendungen von generativer KI in der OSINT-Sammlung und -Analyse zu erforschen. Diese Technologie erleichterte Berichten zufolge die automatische Datensuche und -auswertung und visualisierte die Informationsumgebung auf dem Schlachtfeld für Kommandeure. Der Autor hebt hervor, dass DIU diese Technologie benötigte, um Analysten bei der Bearbeitung und Verbreitung von Inhalten zu unterstützen, den KI-Standards von DIU zu entsprechen und innerhalb der Informationsumgebung des DoD nutzbar zu sein.

Non-PLA Perspectives

Neben der PLA haben sich auch Spezialisten aus anderen Bereichen des chinesischen Parteistaats mit den Chancen und Herausforderungen des Einsatzes generativer KI für die Geheimdienstarbeit befasst. Obwohl sich diese Diskussionen nicht auf den militärischen Nachrichtendienst konzentrieren, können sie dennoch Aufschluss darüber geben, wie das breitere parteistaatliche System wahrscheinlich mit den nachrichtendienstlichen Implikationen dieser Technologie umgeht. Im November 2024 veröffentlichten Forscher der People's Public Security University of China (PPUSC) School of State Security (中国人民公安大学国家安全学院) einen Artikel, in dem sie auf die Gefahr hinwiesen, dass die „Verschmutzung durch falsche Informationen“ – durch generative KI erzeugte Online-Desinformationen – die OSINT-Arbeit stören könnte. In einem Artikel vom Juni 2024, der sich mit den potenziellen Auswirkungen von ChatGPT und anderen ähnlichen KI-Tools auf die Arbeit der Geheimdienste befasst, Forscher des PPUSC Public Security Intelligence Research Center (中国人民公安大学公安情报研究中心) argumentieren, dass ein unvorsichtiger Einsatz von ChatGPT die ideologische Führung der KPCh bei der Geheimdienstarbeit untergraben könnte. Die Forscher erinnern daran, dass ChatGPT von einer US-Firma entwickelt wurde und weitgehend mit einem englischsprachigen Korpus trainiert wurde. Sie warnen davor, dass ChatGPT von „westlichen kapitalistischen Werten“ beeinflusst werden könnte, falsche, aber überzeugende Informationen auf der Grundlage von ‚Neoliberalismus‘ und „ideologischer Neutralität“ erzeugt, den ideologischen Diskurs und das Management untergräbt und das unsichtbare Eindringen der Ideologie in die Geheimdienstarbeit erleichtert. Die in diesem Artikel geäußerten Ansichten decken sich mit den umfassenderen Bemühungen der chinesischen Regulierungsbehörden, die richtige ideologische Ausrichtung generativer KI-Modelle sicherzustellen.

Um die gesamte Analyse zu lesen und weitere Informationen über die Autorin Zoe Haver zu erhalten, klicken Sie hier, um den Bericht als PDF herunterzuladen.