Key Findings​​ 

• Les institutions bancaires, les plateformes d’échange de cryptomonnaies et d’autres entreprises ont commencé à mettre en place une vérification d’identité afin d’établir une sécurité de compte plus rigoureuse.​​ 
• Les analystes de Gemini ont observé un nombre croissant de publications sur les forums du dark web concernant la vérification d’identité des sites avec une technologie de changement de visage utilisant des selfies ou des vidéos. Les deepfakes sont des images ou des vidéos dans lesquelles le contenu a été manipulé de sorte que l’apparence ou la voix d’une personne ressemble ou sonne à celle de quelqu’un d’autre.​​ 
• Plusieurs acteurs du dark web recommandent l’utilisation de DeepFaceLab ou Avatarify, probablement parce que les deux sont des logiciels libres, open source, qui ne nécessitent pas de connaissances techniques avancées.​​ 
• À mesure que de plus en plus d’entreprises se tournent vers la vérification virtuelle d’identité, les analystes Gemini estiment avec un niveau modéré de confiance que les cybercriminels commenceront probablement à utiliser les deepfakes à plus grande échelle pour tromper et contourner les contrôles de reconnaissance faciale.​​ 

Background​​ 

Les analystes de Gemini ont observé un nombre croissant de messages sur les forums du dark web concernant le contournement de la vérification d'identité des sites grâce à une technologie de changement de visage utilisant des selfies ou des vidéos. Jusqu'à récemment, les acteurs utilisaient des logiciels moins avancés, comme la fonction Face Swap d'Adobe Photoshop, qui existe depuis longtemps. Cependant, acteur malveillant se tournent désormais vers des logiciels plus puissants, tels que DeepFaceLab et Avatarify. Ces outils tirent parti des progrès réalisés dans le domaine de l'apprentissage automatique, des réseaux neuronaux et de l'intelligence artificielle (AI) pour créer des contrefaçons « deepfake ». Les deepfakes sont des images ou des vidéos dont le contenu a été manipulé de sorte que l'apparence ou la voix d'une personne ressemble à celle de quelqu'un d'autre. À l'heure actuelle, la technologie de détection des deepfakes largement disponible est en retard par rapport à la technologie de création des deepfakes ; les contrefaçons ne peuvent être détectées qu'après une analyse minutieuse à l'aide d' AI spécialisée, dont le taux de détection est de 65 %.​​ 

_Vidéo : Démonstration de la technologie deepfake et de ses implications en cas d’utilisation malveillante (vidéo complète disponible sur la chaîne officielle de NOVA PBS ; [https://www.youtube.com/watch?v=T76bK2t2r8g](https://www.youtube.com/watch?v=T76bK2t2r8g))._​​ 

In-Depth Analysis​​ 

Vérification virtuelle​​ 

Toutes les sociétés financières réglementées opérant aux États-Unis sont tenues d'identifier les utilisateurs sur leurs plateformes afin de se conformer aux lois sur la connaissance du client (KYC) et la lutte contre le blanchiment d'argent (AML). L'UE dispose de lois similaires, telles que la 4e directive anti-blanchiment (AML4), et d'autres pays mettent en œuvre leurs propres versions de ces lois. Traditionnellement, les entreprises s'appuient sur des services tiers réputés, tels que les agences d'évaluation du crédit, l'authentification basée sur les connaissances (KBA) ou d'autres méthodes, pour identifier les utilisateurs. Cependant, récemment, de nombreuses entreprises, des banques aux plateformes d'échange de cryptomonnaies, se tournent vers la vérification par image et vidéo. La plupart de ces entreprises exigent que les utilisateurs téléchargent une pièce d'identité officielle, un selfie ou un selfie spécialement conçu selon des instructions telles que lever les doigts ou tenir une note. Certaines entreprises sont allées jusqu'à exiger une diffusion vidéo en direct dans laquelle l'utilisateur doit effectuer des gestes et des mouvements spécifiques.​​ 

En plus de la vérification d’identité, un nouveau marché émerge désormais pour les services de vérification vidéo. Le géant de la vérification d’identité ID.me, qui fournit des services de vérification virtuelle à divers Entité y compris des agences gouvernementales, dispose déjà d’un service de vérification vidéo bien établi, tandis que d’autres sociétés de vérification, telles que ondato.com, jumio.com, basisid.com, et fully-verified.com, commencent à proposer leurs propres services de vérification vidéo. Selon le ID.me, ces services peuvent être utilisés pour vérifier l’identité de personnes ayant des lignes de crédit gelées ou limitées, des informations obsolètes stockées dans les agences de crédit, des téléphones prépayés non enregistrés, ou qui n’ont pas d’adresse permanente. Cependant, avec la technologie deepfake, les cybercriminels pourraient exploiter n’importe lequel de ces cas d’utilisation pour imiter les victimes et accéder à des comptes auparavant inaccessibles ou protégés.​​ 

Outre les services de vérification tiers, certaines entreprises ont mis en place leur propre processus de vérification vidéo : les plateformes d’échange de cryptomonnaies Blockchain et Binance, par exemple, exigent que les utilisateurs demandant l’ouverture de comptes avec des limites de transaction plus élevées téléchargent une pièce d’identité officielle et prennent un selfie. Les plateformes d'échange comparent ensuite le selfie à la photo figurant sur la pièce d'identité officielle afin de confirmer l'identité de l'utilisateur. La banque en ligne N26 exige cependant de ses membres qu'ils confirment leur identité par le biais d'une vérification vidéo. Selon The Verge, il semblerait également qu'Amazon ait lancé un nouveau processus de vérification vidéo pour les nouveaux vendeurs, qui pourrait être étendu aux vendeurs existants dans un avenir proche.​​ 

Activité du Forum​​ 

Au cours de l’année écoulée, des cybercriminels sur les forums du dark web ont commencé à discuter des moyens d’utiliser la technologie deepfake pour contourner les systèmes de vérification d’identité et vidéo des banques, des plateformes d’échange de cryptomonnaies et d’autres institutions. La majorité des publications concernaient un acteur soit offrant ses services de création deepfake à d’autres acteurs, soit incluant des instructions deepfake dans le cadre de tutoriels pour contourner les mesures de sécurité spécifiques des institutions. Les acteurs fournissant des services de création deepfake demandent généralement entre 10 et 30 $ par minute de vidéo, bien que certains proposent des prix de plusieurs centaines et nécessitent plusieurs jours pour créer une vidéo complète. Pour les tutoriels, les acteurs fournissent généralement des instructions pour accéder à des comptes de compromesse sur des sites bancaires ou de cryptomonnaies et incluent des liens et instructions pour des logiciels deepfake afin de tromper les vérifications. Plus largement, les fraudeurs sur les forums de cartes du dark web indiquent de plus en plus posséder la capacité technique de créer des deepfakes mais souhaitent collaborer avec d’autres acteurs pour trouver des moyens d’intégrer les deepfakes dans de nouveaux systèmes de fraude.​​ 

Cependant, à l’heure actuelle, les acteurs sur les forums du dark web évoquent beaucoup plus souvent l’utilisation de la technologie deepfake pour créer du contenu récréatif ou pornographique que pour l’exploiter dans des fins de fraude bancaire. Les usages les plus courants, combinés à l’intérêt croissant pour l’application du deepfake aux schémas de fraude, pourraient stimuler le développement de technologies deepfake plus robustes et potentiellement faire baisser le prix des services deepfake, les rendant plus accessibles pour le fraudeur moyen.​​ 

Exemples de logiciels​​ 

Plusieurs acteurs du dark web ont recommandé l'utilisation de DeepFaceLab ou d'Avatarify, probablement parce que ce sont deux logiciels libres et open source qui ne nécessitent pas de connaissances techniques avancées. Les tendances observées précédemment indiquent que ces applications gratuites, open source et faciles à utiliser sont les plus fréquemment utilisées par les cybercriminels pour la création de contenus trompeurs.​​ 

DeepFaceLab est l'une des applications deepfake les plus populaires. Elle utilise des réseaux neuronaux artificiels pour apprendre les caractéristiques visuelles et auditives d'une vidéo source authentique, qui sont ensuite appliquées à une vidéo cible pour remplacer les visages et les voix. Le code source du logiciel est hébergé sur GitHub et a été téléchargé par l'utilisateur «iperov». Selon iperov, plus de 95 % de toutes les vidéos deepfake sont créées avec DeepFaceLab.​​ 

Tout comme DeepFaceLab, Avatarify est un logiciel gratuit qui crée des deepfakes en utilisant des réseaux neuronaux artificiels pour l'apprentissage et le remplacement des visages dans les vidéos. Le code source du programme est également publié sur GitHub et a été mis en ligne par son auteur « alievk ».​​ 

Détection deepfake​​ 

La récente montée en puissance des technologies deepfake plus avancées a entraîné une augmentation correspondante de la demande de technologies capables de détecter les deepfakes. Microsoft a annoncé le 1er septembre 2020 la sortie de Microsoft Video Authenticator, un outil qui détecte « la limite de fusion du deepfake et des éléments subtils de décoloration ou de niveaux de gris » pour fournir une évaluation de la fiabilité de l'authenticité de l'image. Alors que des technologies similaires n'ont atteint qu'un taux de précision de 65,18 % lors de tentatives d'identification de deepfakes dans un environnement simulant le monde réel, la forte demande pour cette technologie dans des domaines autres que la prévention de la cybercriminalité, comme la lutte contre la désinformation, indique que des outils de détection plus précis seront probablement développés.​​ 

Conclusion​​ 

L’émergence d’applications deepfake gratuites, puissantes et faciles à utiliser a donné naissance à un nouveau vecteur d’attaque viable. Les cybercriminels ont déjà commencé à exploiter ces applications pour contourner la vérification basée sur images et vidéos, qui, jusqu’à récemment, s’était avérée être l’une des méthodes d’identité les plus sûres. Bien qu’actuellement seuls quelques acteurs proposent des services deepfake et facturent souvent des tarifs élevés pour cela, des taux élevés d’adoption de vérifications basées sur images et vidéos chez les institutions bancaires seront probablement corrélés à une demande criminelle accrue pour les services deepfakes. L’augmentation de la demande criminelle, combinée à une forte utilisation récréative et aux avancées technologiques portées par le contenu adulte de l’industrie du divertissement, pourrait alors entraîner davantage de prestataires de services deepfake et une baisse éventuelle du coût de ces services. Ainsi, à mesure que de plus en plus d’entreprises se tournent vers la vérification d’identité virtuelle, les analystes Gemini estiment avec un niveau modéré de confiance que les cybercriminels commenceront probablement à utiliser les deepfakes à plus grande échelle pour tromper et contourner les contrôles de reconnaissance faciale.​​ 

De plus, Gemini estime avec une confiance modérée que l'identification en temps réel des flux vidéo à l'aide d'horodatages et de lieux, augmentée par l'utilisation de programmes d'intelligence artificielle pour détecter les signes de vie humaine, l'éclairage et l'absence de pixels, est plus efficace pour minimiser le taux de réussite des deepfakes que d'autres solutions, y compris la vérification des pièces d'identité par rapport aux selfies.​​ 

Gemini Advisory Mission Statement​​ 

Gemini Advisory provides actionable fraud intelligence to the largest financial organizations in an effort to mitigate ever-growing cyber risks. Our proprietary software utilizes asymmetrical solutions in order to help identify and isolate assets targeted by fraudsters and online criminals in real-time.​​