Yeux artificiels : l'IA générative dans le renseignement militaire chinois

Executive Summary

L'Armée populaire de libération (APL) a manifesté un intérêt évident pour l'utilisation de l'intelligence artificielle (AI) générative pour soutenir le travail de renseignement, a conçu des méthodes et des systèmes qui appliquent l'IA générative aux tâches de renseignement, et a probablement acquis des technologies d'IA générative à des fins de renseignement. L'APL et l'industrie de la défense chinoise ont très probablement adapté des grands modèles linguistiques (LLM) étrangers et nationaux pour mettre au point des modèles spécialisés capables de mener à bien des tâches de renseignement. L'APL et l'industrie de défense chinoise ont créé des outils de renseignement génératifs basés sur l'IA qui sont censés traiter et analyser des données de renseignement, générer des produits de renseignement, répondre à des questions, fournir des recommandations, faciliter les alertes précoces et faciliter la prise de décisions, entre autres fonctions. Ces outils ont pour objectif général d'améliorer la rapidité, l'efficacité, la précision et l'ampleur des tâches de renseignement tout en réduisant les coûts. Bien que certains éléments de l'APL se soient montrés optimistes quant aux avantages de l'IA générative et qu'ils aient probablement pris les premières mesures pour appliquer cette technologie au travail de renseignement, l'APL a très probablement reconnu les limites et les risques de cette technologie. Par conséquent, la mesure dans laquelle l'APL intégrera l'IA générative dans ses activités de renseignement, et l'efficacité finale de cette intégration, reste incertaine.

L'intérêt de l'APL pour l'utilisation de l'IA générative à l'appui du renseignement militaire présente des défis à la fois pour l'APL et pour l'Occident. Pour l'APL, compte tenu des limites et des risques de l'IA générative, l'adoption réussie de cette technologie nécessitera d'expérimenter les applications de l'IA générative en matière de renseignement, d'évaluer avec précision les résultats de ces expériences et d'appliquer de manière appropriée l'IA générative au travail de renseignement sur la base de ces résultats et de ces évaluations, faute de quoi il pourrait en résulter un renseignement inexact qui dégraderait la qualité de la prise de décision. En outre, si les analystes du renseignement de l'APL utilisent des modèles d'IA générative qui ont été développés pour se conformer à l'idéologie du Parti communiste chinois (PCC) ou s'entraînent sur des produits analytiques idéologiquement biaisés, l'APL risque de réduire l'objectivité de l'analyse du renseignement. Pour l'Occident, l'utilisation par l'APL de l'IA générative dans le domaine du renseignement pose des défis en matière de transfert de technologie et met en évidence le risque que les organisations chinoises de contre-espionnage utilisent l'IA générative pour générer des informations non authentiques, mais convaincantes afin de tromper les analystes occidentaux et de dégrader la valeur des renseignements provenant d'informations open-source.

Key Findings

• Les médias et chercheurs affiliés à l'APL ont soutenu que l'application de l'IA générative au renseignement militaire offre un large éventail d'avantages potentiels, notamment l'amélioration de la collecte et de l'analyse des renseignements et l'amélioration des capacités décisionnelles des commandants militaires, mais ont également reconnu divers défis et risques liés à l'utilisation de cette technologie pour le travail de renseignement.
• Conscients des limites des modèles d'IA générative à usage général en matière de renseignement, l'APL et l'industrie de la défense chinoise accordent probablement la priorité au développement et à l'utilisation de modèles spécialisés qui ont été affinés pour les tâches de renseignement.
• L'APL et l'industrie de défense chinoise ont très probablement utilisé un mélange de LLM propriétaires et de LLM open-source provenant de développeurs étrangers et nationaux pour créer des outils d'intelligence générative basés sur l'IA. Les LLM étrangers utilisés de cette manière incluent très probablement des modèles de Meta, OpenAI et BigScience, entre autres, tandis que les LLM nationaux incluent très probablement des modèles de DeepSeek, de l'université de Tsinghua, de Zhipu AI et d'Alibaba Cloud, entre autres.
• Les demandes de brevet de l'APL révèlent que l'APL a conçu des méthodes et des systèmes qui utilisent l'IA générative pour faciliter les tâches de renseignement telles que la génération de produits de renseignements open-source (OSINT), le traitement de l'imagerie satellite, le soutien de l'extraction d'événements et le traitement des données d'événements.
• Dans une demande de brevet déposée en décembre 2024, un institut public chinois de recherche sur l'industrie de la défense a proposé d'utiliser les données OSINT, le renseignement humain (HUMINT), le renseignement électromagnétique (SIGINT), le renseignement géospatial (GEOINT) et le renseignement technique (TECHINT) pour former un LLM militaire à se spécialiser dans les tâches de renseignement, censé permettre au LLM militaire amélioré de soutenir chaque phase du cycle du renseignement et d'améliorer la prise de décisions pendant les opérations militaires.
• L'APL et l'industrie de la défense chinoise ont probablement acquis des technologies d'IA générative pour soutenir l'OSINT et le renseignement scientifique et technologique (S&T), ce qui indique qu'au moins certains éléments de l'armée chinoise commencent probablement à appliquer l'IA générative aux tâches de renseignement.
• L'APL, qui a très probablement rapidement adopté les modèles d'IA générative de DeepSeek début 2025, utilise probablement les LLM de DeepSeek à des fins de renseignement, sur la base des affirmations d'un sous-traitant chinois de la défense selon lesquelles elle aurait fourni un modèle OSINT basé sur DeepSeek à l'APL.
• L'APL craint probablement que des organisations de contre-espionnage étrangères n'utilisent l'IA générative pour produire un contenu inauthentique convaincant afin d'induire en erreur le personnel des services de renseignement chinois et d'amoindrir la valeur du renseignement des informations open-source. Les services de contre-espionnage chinois pourraient appliquer l'IA générative de la même manière.

Methodology

Pour évaluer l'opinion de l'APL et l'application de l'IA générative dans le travail de renseignement, Insikt Group a recueilli et analysé des articles publiés dans les médias de l'APL, des recherches universitaires rédigées par le personnel de l'APL, des demandes de brevets de l'APL et de l'industrie de la défense chinoise, des dossiers d'approvisionnement de l'APL et de l'industrie de la défense chinoise, des informations publiées par les entreprises de défense chinoises et des données disponibles sur la plateforme Recorded Future®, parmi autres sources. Les sources citées dans le rapport ne représentent pas nécessairement les politiques officielles de l'APL en matière d'IA générative. Au contraire, elles montrent comment des personnes et des organisations situées au sein de l'APL et de l'industrie de défense chinoise sont susceptibles d'explorer et de développer les applications de l'IA générative dans le domaine du renseignement. Le présent rapport n'évalue pas la véracité des affirmations techniques de l'APL et de l'industrie de défense chinoise, mais les entités qui développent ou vendent des outils d'IA générative liés au renseignement ont probablement intérêt à exagérer l'efficacité de l'IA générative et à minimiser ses lacunes, de sorte que les informations fournies par ces entités doivent être considérées avec scepticisme.

L'IA générative est un terme vaste, et certaines de ses sous-catégories manquent de délimitations claires, ce qui a parfois créé des défis pour cette enquête. Dans certains cas, nous avons observé des références à des modèles d'IA génératifs, tels que les LLM, utilisés pour d'éventuelles fonctions non génératives. Nous avons estimé que ces références étaient toujours pertinentes pour notre enquête. De plus, les sources chinoises utilisent fréquemment le terme « grand modèle » (大模型) lorsqu'elles discutent des modèles d'IA plutôt que des termes plus spécifiques comme « LLM ». Tous les grands modèles ne sont pas considérés comme de l'IA générative, et nous n'avons donc pas automatiquement supposé que chaque référence à un « grand modèle » était liée à l'IA générative. Nous n'avons classé une référence à un « grand modèle » comme l'IA générative que lorsque d'autres informations ont confirmé la nature générative du modèle. L'annexe A fournit un glossaire de la terminologie de l'AI générative pour les lecteurs qui ne sont pas familiarisés avec cette technologie.

Opinions sur l'IA générative dans le renseignement militaire

PLA Daily

Le journal officiel de l'APL, PLA Daily, a publié quelques articles qui traitent directement des implications de l'IA générative en matière de renseignement, qui sont résumés dans le tableau 1. Ces articles traitent des avantages potentiels de l'IA générative pour le renseignement militaire, en soulignant la capacité supposée de cette technologie à générer des produits de renseignement, à prédire les changements sur le champ de bataille, à faciliter les activités de renseignement en temps de paix comme en temps de guerre, à améliorer l'efficacité de l'analyse du renseignement et à fournir un soutien à la prise de décision aux commandants. Ces articles soulignent également les défis potentiels associés à l'IA générative, suggérant que les modèles d'IA générative ne peuvent pas remplacer les renseignements actuels et avertissant que les agences de renseignement de pays concurrents pourraient exploiter les « deepfakes » pour interférer avec les agences rivales.

Tableau 1 : résumé des articles du PLA Daily qui discutent des implications de l'IA générative sur le renseignement (Source : PLA Daily ; Insikt Group)

Recherche universitaire

Les chercheurs de l'APL, en particulier le personnel affilié au Centre de recherche sur les sciences militaires (MSIRC ; 军事科学信息研究中心) de l'Académie des sciences militaires (AMS; 军事科学院) ont exprimé leur optimisme quant à l'utilisation des applications de l'IA générative dans le domaine du renseignement, mais ont également reconnu la faillibilité de cette technologie, soulevant une série de questions liées à l'application de l'IA générative au travail de renseignement. Dans une étude notable, les chercheurs du MSIRC de l'AMS ont évalué les opportunités et les défis liés à l'utilisation de l'IA générative pour soutenir le renseignement scientifique et technologique de la défense nationale, en fournissant des recommandations pour tirer parti des opportunités de l'IA générative tout en atténuant ses défis. Les chercheurs de l'APL ont également analysé les efforts déployés par l'armée américaine pour appliquer l'IA générative aux tâches de renseignement, dans le but probable de tirer des enseignements de l'expérience de l'armée américaine et d'adapter les meilleures pratiques. Des chercheurs non affiliés à l'APL, mais associés à d'autres éléments du système du parti-État chinois ont également publié sur les implications de l'IA générative en matière de renseignement, reflétant les sentiments exprimés par le personnel de l'APL et donnant un aperçu des débats qui ont probablement lieu au sein du système du parti-État chinois.

Opinions générales au sein de l'APL

Les chercheurs de l'APL ont exprimé leur intérêt pour les applications de l'IA générative dans le domaine des renseignements, certains la décrivant comme une technologie potentiellement transformatrice. Par exemple, en août 2024, des chercheurs affiliés au MSIRC de l'AMS ont publié un article sur les effets de l'IA sur la recherche en renseignement, affirmant que le développement de technologies telles que l'apprentissage automatique, l'apprentissage profond et l'IA générative a créé des opportunités sans précédent pour la recherche en renseignement. En juin 2024, des chercheurs affiliés au MSIRC de l'AMS, à l'AMS National Innovation Institute of Defense Technology (国防科技创新研究院) et à deux universités civiles ont publié une étude détaillant leur utilisation du modèle Llama 13B de Meta pour développer un LLM spécialisé dans l'OSINT militaire. Ils soutiennent que les LLM peuvent faciliter un support complet et précis en matière de renseignement pour les commandants militaires et affirment que leur LLM pourrait soutenir l'analyse du renseignement, la planification stratégique, la formation par simulation et la prise de décision au niveau du commandement. De même, en février 2024, des chercheurs affiliés au MSIRC de l'AMS ont publié un article suggérant que l'application de technologies similaires à ChatGPT aux systèmes de commande et de contrôle pourrait entraîner des améliorations majeures des capacités de renseignement.

Tout en reconnaissant les applications possibles de l'IA générative pour l'intelligence artificielle, les chercheurs de l'APL ont également discuté des défis associés à cette technologie. Dans l'article de février 2024 susmentionné, les chercheurs du MSIRC de l'AMS préviennent que les limites d'intelligence des technologies de type ChatGPT intégrées aux systèmes de commande et de contrôle pourraient avoir des conséquences catastrophiques. De même, dans l'article de juin 2024, l'AMS et le personnel civil de l'université soutiennent que les LLM actuels ont de graves problèmes d'hallucination et ne conviennent pas à une utilisation directe dans l'OSINT. En septembre 2024, des chercheurs affiliés à l'Université nationale des technologies de défense de l'APL (NUDT ; 中国人民解放军国防科技大学) du College of Information and Communications (信息通信学院) et du College of Intelligent Science (智能科学学院) ont publié un article sur la relation entre l'IA et l'OSINT qui affirme que les deepfakes produits à l'aide de l'IA générative posent des problèmes importants pour les efforts visant à exploiter la quantité massive d'informations disponibles sur l'internet à des fins de renseignement.

Exemple de renseignement scientifique et technologique pour la défense nationale

Figure 1 : Tableau traduit des applications et avantages potentiels de l'IA générative S&T pour la défense nationale (Source : « Empowering National Defense Science and Technology Intelligence » ; Insikt Group)

En novembre 2023, des chercheurs affiliés au MSIRC de l'AMS ont publié un article sur les opportunités et les défis potentiels liés à l'utilisation de l'AI générative pour le renseignement scientifique et technologique de la défense nationale. Selon l'article, les approches traditionnelles du renseignement ne permettent plus d'identifier les menaces et les opportunités potentielles de manière opportune et précise, un point de vue commun qui a très certainement motivé l'adoption de nouvelles technologies de collecte, de traitement et d'analyse du renseignement au sein de l'APL et de l'industrie de défense chinoise. Les auteurs affirment que l'IA générative affecte profondément la création et l'application des connaissances, y compris le renseignement scientifique et technologique de la défense nationale. Ils affirment que l'IA générative a le potentiel d'améliorer la collecte, l'évaluation, l'analyse et la génération de renseignements (voir Figure 1), en détaillant comment l'IA générative pourrait aider le personnel des services de renseignement plutôt que d'affirmer que cette technologie pourrait remplacer le personnel des services de renseignement. Par exemple, les auteurs affirment que l'IA générative pourrait :

• Aider le personnel du renseignement à se familiariser avec des domaines techniques peu familiers lorsqu'il leur est confié de nouvelles tâches de renseignement, améliorant ainsi la profondeur et la portée de la compréhension des cibles du renseignement par les analystes
• Aider le personnel des services de renseignement à affiner et à découvrir des relations dans de grandes quantités de données et l'assister dans des tâches telles que la comparaison, la déduction, la fourniture d'exemples et l'induction
• Générer divers scénarios et hypothèses pour aider les analystes à élargir leur réflexion et à éviter les biais cognitifs lors de l'analyse des renseignements, ainsi qu'évaluer les conclusions analytiques des analystes pour identifier les biais potentiels
• Recommander automatiquement des images et des matériaux audiovisuels pertinents, générer des rapports statistiques et synthétiser automatiquement des matériaux pertinents pour faciliter une expression diversifiée du contenu d'analyse du renseignement au-delà des rapports de renseignement traditionnels

Cependant, ils avertissent également que l'IA générative pourrait entraîner une perte de contrôle, une incertitude et des niveaux de risque sans précédent pour les renseignements scientifiques et technologiques liés à la défense nationale. Ils identifient des défis spécifiques tels que :

• Risques accrus de contre-espionnage, y compris le risque que des concurrents technologiques utilisent l'IA générative pour créer de faux documents techniques et des deepfakes pour induire en erreur les efforts de renseignement scientifique et technologique de la défense nationale
• Un manque de LLM spécifiquement conçus pour le renseignement scientifique et technologique de la défense nationale
• La capacité limitée de l'IA générative à gérer des informations incertaines et biaisées
• Les corpus de renseignements scientifiques et technologiques de la défense nationale sont insuffisants pour former les LLM, y compris les difficultés liées à l'utilisation de secrets d'État et de renseignements sensibles pour former des LLM
• Problèmes de fiabilité tels que « fuite de données, boîtes noires algorithmiques, biais de valeur et inexplicabilité »

Décrivant l'IA générative comme une arme à double tranchant, les chercheurs de l'AMS suggèrent que le domaine du renseignement S&T de la défense nationale prenne des mesures pour tirer parti des possibilités offertes par l'IA générative et atténuer ses difficultés. Les éléments suivants sont inclus :

• Introduire progressivement l'IA générative dans les travaux de renseignement de la défense nationale S&T et évaluer l'efficacité de cette technologie après son introduction
• Travailler à l'amélioration des corpus pertinents et des LLM
• Combiner de manière itérative des workflows intelligents qui impliquent à la fois des contributions humaines et des contributions d'IA générative pour garantir des résultats fiables et crédibles
• Développer des technologies pour garantir la traçabilité et vérifier la fiabilité du contenu généré par l'IA

Intérêt pour les applications militaires des États-Unis

Les chercheurs de l'APL ont évalué la manière dont l'armée américaine applique l'IA générative aux tâches de renseignement, dans le but probable de tirer des enseignements de l'expérience de l'armée américaine, à l'instar des efforts déployés précédemment par la Chine pour étudier les pratiques OSINT et les applications militaires de l'IA aux États-Unis. Par exemple, en mai 2024, un chercheur affilié à l'AMS War Research Institute (战争研究院) a publié un article analysant comment les États-Unis explorent les applications militaires de l'IA générative. L'auteur discute des changements organisationnels, des orientations politiques, des tests expérimentaux et des mesures de sécurité que les États-Unis auraient mises en œuvre, des applications militaires particulières que les États-Unis auraient conceptualisées, testées ou mises en service et des défis que les États-Unis auraient rencontrés. L'auteur affirme notamment que la DIU (Defense Innovation Unit) du ministère américain de la défense a lancé un programme technologique en mai 2023 pour explorer les applications de l'IA générative dans la collecte et l'analyse de l'OSINT. Cette technologie aurait facilité l'exploration et l'évaluation automatiques des données et aurait visualisé l'environnement d'information du champ de bataille pour les commandants. L'auteur souligne que le DIU avait besoin de cette technologie pour aider les analystes à éditer et à diffuser du contenu, à se conformer aux normes IA du DIU et à être utilisable dans l'environnement d'information du DoD.

Non-PLA Perspectives

Au-delà de l'APL, des spécialistes issus d'autres secteurs du système parti-État chinois ont également examiné les opportunités et les défis liés à l'utilisation de l'IA générative pour les travaux de renseignement. Bien que ces discussions ne se concentrent pas sur le renseignement militaire, elles peuvent néanmoins offrir un aperçu de la façon dont le système plus large du parti-État est probablement en train de gérer les implications de cette technologie en matière de renseignement. Par exemple, en novembre 2024, des chercheurs affiliés à l'Université populaire de sécurité publique de Chine (PPUSC) à l'École de sécurité d'État (中国人民公安大学国家安全学院) ont publié un article qui met en lumière le risque de « pollution par de fausses informations », désinformation en ligne créée par l'IA générative, perturbant le travail de l'OSINT. En outre, dans un article publié en juin 2024 et consacré à l'effet potentiel de ChatGPT et d'autres outils d'IA similaires sur le travail de renseignement, des chercheurs affiliés au PPUSC Public Security Intelligence Research Center (中国人民公安大学公安情报研究中心) affirment qu'une utilisation inconsidérée de ChatGPT pourrait nuire à la direction idéologique du PCC dans le domaine du renseignement. Les chercheurs rappellent aux lecteurs que ChatGPT a été développé par une entreprise américaine et qu'il a été largement formé avec un corpus en langue anglaise. Ils avertissent que ChatGPT pourrait être affecté par les « valeurs capitalistes occidentales », générer des informations fausses, mais convaincantes basées sur le « néolibéralisme » et la « neutralité idéologique », éroder le discours et la gestion idéologiques, et faciliter l'infiltration invisible de l'idéologie dans le travail de renseignement. Les opinions exprimées dans cet article coïncident avec les efforts plus larges des régulateurs chinois pour assurer le bon alignement idéologique des modèles d'IA générative.

Pour lire l'intégralité de l'analyse, ainsi que pour obtenir plus d'informations sur l'auteure, Zoe Haver, cliquez ici pour télécharger le rapport au format PDF.