Cyberattaques, deepfake... comment les gendarmes s'emparent de l'IA pour mieux cerner et anticiper les enjeux futurs

L'IA ou intelligence artificielle évolue rapidement et dans tous les domaines de nos vies. Institutions, entreprises, collectivités, particuliers, tout le monde est concerné. La gendarmerie nationale a tenu un grand forum le mardi 5 novembre, pour sensibiliser les professionnels aux cyberattaques, deep fake et autres arnaques de plus en plus sophistiquées.

Depuis le début des années 2000, la gendarmerie s’intéresse aux questions d’intelligence artificielle, mais face aux risques grandissants, elle a dû renforcer ses moyens et aller beaucoup plus loin. La 17ᵉ édition du Forum du Rhin supérieur, organisé le 5 novembre 2024, était l'occasion de faire un point de situation.

"Nos futurs responsables doivent devenir des experts. On a besoin d’utiliser l’IA parce qu’elle détecte et anticipe plus vite les menaces que l’humain”, affirme le Général Perrot, fondateur de la chaire IA Sécurité à la Gendarmerie nationale.

"On travaille avec le monde de la recherche, pour être en avance et bien sûr pour les attaques criminelles, on travaille en riposte. On développe des outils pour détecter les failles dans les systèmes d’information. On a créé un outil pour détecter les images pédopornographiques, on a travaillé sur un outil de détection des deep fake, ces hypertrucages, que ce soit pour l’image, l'audio ou même le texte, parce qu'aujourd'hui, il est de plus en plus difficile d’avoir confiance dans l’information."

Justement, le gendarme Grégory Risch, de la cellule de cybercriminalité 67, est spécialisé dans la reconnaissance d'images et vidéos manipulées par l'IA. Sur son écran d'ordinateur deux photos, côte à côte : "Là, on a une photo prise il y a quelques semaines au salon des maires de France. On voit le général en train de discuter avec deux élus. Sur l'autre photo, la tête du général a été remplacée par la tête d’une autre personne. Le logiciel fait ça tout seul, très vite."  Dans certaines vidéos, (les deep fake) les visages et les voix sont modifiés. 

"On peut même maintenant, grâce à l'IA, passer un coup de téléphone et en direct, changer de voix. On peut se faire passer pour le patron", précise le gendarme spécialisé dans l'IA. En à peine cinq ans, les cyberattaques ont progressé de 40 %.

Clonage de site web et attaque au président 

Les entreprises notamment sont victimes de multiples tentatives d'escroquerie et le prix à payer est parfois très élevé. Laurent Abert, PDG de la société KSTools (fabricant d'outillage à main professionnel) peut en témoigner. "La cybercriminalité au sein du groupe est importante. Nous avons déjà dépensé plus de 300 000 euros pour nous couvrir et nous avons encore prévu 250 000 euros supplémentaires, car nous avons déjà subi "l’arnaque au président", le phishing et nous avons aussi eu le problème du doublage de notre site internet." 

"L’arnaque au président" a déjà été tentée trois fois chez eux. "Quelqu’un contacte le chef comptable ou le directeur financier et essaie de faire passer un virement. Il se substitue à moi. Ils ont copié mon adresse mail, envoyé un ordre de virement d’une centaine de milliers d’euros." Mais les escrocs ignoraient les modus operandi de l'entreprise. "Au-delà d’une certaine somme, c’est moi qui signe et le directeur financier s’en est rendu compte, il m’a appelé, j’étais au bureau, on a donc pu bloquer le système à la base. Dans ce cas, les escrocs avaient commis plusieurs fautes qui ont permis au directeur financier de voir qu’il y avait quelque chose d’étrange."

Cette entreprise a mis en place des boucliers efficaces et les escrocs n'ont jamais réussi à rentrer et à leur détourner de l'argent, mais les attaques se répètent. "Nous avons aussi eu un double de notre site internet mis en ligne sur les réseaux, avec des prix affichés de 70 à 80 % de remise, ce qui est totalement dingue dans notre métier." 

Ne plus considérer l'IA comme ennemie, mais l'utiliser

Les criminels avancent très vite, parfois ce sont des concurrents malveillants ("Certains essaient de ralentir les entreprises plus performantes, pour les empêcher d’aller vite." souligne le PDG), "Nous faisons faire un audit de cybercriminalité tous les ans. Pour voir où on se situe par rapport aux 100 % de sécurité qu’on voudrait tous atteindre."  

Dans l'image vidéo par exemple, il y a des structures qui caractérisent l'imposture, on ne les voit pas à l'œil nu, mais l'IA peut les détecter. Dans le Bas-Rhin, 80 gendarmes sont spécialisés dans le domaine et le nombre évolue constamment. 

"Pour nous gendarmes, il est essentiel de matérialiser l’infraction, en caractérisant le fait que c’est un deep fake. On travaille à charge, mais aussi à décharge pour innocenter des personnes." complète le général Patrick Perrot, coordinateur IA de la Gendarmerie nationale.