A Suresnes, la mairie veut utiliser l’IA pour repérer les "événements anormaux" avec ses caméras

"Maraudage", "rassemblement de personnes"… Suresnes, dans les Hauts-de-Seine, souhaite relier son réseau de vidéosurveillance à des algorithmes d'intelligence artificielle censés détecter les comportements suspects. La Quadrature du Net dénonce l'opacité du projet d'expérimentation.

Une caméra de vidéosurveillance (illustration).
Une caméra de vidéosurveillance (illustration). © MARTIN BUREAU / AFP ARCHIVES / AFP

La mairie met en avant un système avec une visée "préventive". Fin mars, Suresnes a annoncé vouloir lancer une expérimentation sur son réseau de caméras dômes, en reliant 10 appareils déjà en place à des algorithmes afin de repérer les "événements anormaux".

Objectif annoncé par la municipalité : développer une vidéosurveillance "plus intelligente pour la sécurité de ses habitants" et "rendre la ville plus sûre, plus propre en s’appuyant sur les nouvelles technologies". Le logiciel, qui analyse les images captées, a pour but de détecter "en temps réel" des comportements suspects.

Les situations "anormales" devraient être "paramétrées au préalable" par un agent du "centre de supervision urbain" (CSU), où sont scrutés 24 heures sur 24 les écrans vidéo. Dans le journal municipal Suresnes Mag, le maire LR Guillaume Boudy, sans communiquer une liste complète et précise, donne toutefois plusieurs exemples : "Les dépôts sauvages, infractions routières graves, rassemblement de personnes, stationnements irréguliers, tentatives d’intrusion". D’autres cas sont cités dans l’article, comme le vol de voitures, la gestion des déchets, et l’"amélioration des mobilités par la gestion du trafic".

Selon l'élu, le logiciel est censé permettre d’"améliorer la rapidité d’intervention des équipages de police nationale ou municipale". Le test, qui s’inscrit dans le cadre d’une convention signée le 10 février dernier, devrait durer 18 mois. Mais la mairie dit attendre une autorisation de la Commission nationale de l'informatique et des libertés (CNIL), avec une réponse attendue "avant l’été". L'"optimisation" devrait ensuite se déployer jusqu’en 2026.

Contactée, la société privée qui mène le projet, XXII Group (à prononcer "twenty two"), refuse de s’exprimer auprès de la presse en attendant "des retours de la CNIL". Cette entreprise fondée en 2016, spécialisée dans l’analyse en temps réel de flux vidéo et le secteur de la sécurité, collabore avec d'autres sociétés centrées sur les technologies de sécurité et de surveillance comme Genetec. Son chiffre d'affaires s'élevait à trois millions d'euros en 2019.

"La vidéosurveillance algorithmique apporte une nouvelle couche d’opacité"

Quelles conséquences en termes de libertés ? Le juriste Martin Drago, de la Quadrature du Net, souligne d’abord l’opacité qui entoure le déploiement de ce type de dispositifs. "Il y a déjà un manque de transparence autour de la vidéosurveillance "simple", on n’a aucun chiffre par exemple sur le nombre exact de caméras en France, explique-t-il. La vidéosurveillance algorithmique, elle, apporte une nouvelle couche d’opacité. Pour Suresnes, il est difficile de savoir ce qui est précisément mis en place avec le logiciel. Même en regardant la convention avec la mairie, les documents ne semblent pas donner de définitions précises des comportements visés, comme le "maraudage" par exemple."

Sur le forum de Technopolice, des bénévoles (ici et ) multiplient ainsi les demandes d’accès aux documents administratifs, concernant également des expérimentations pilotées par XXII Group dans d’autres villes comme Saint-Ouen et Rueil-Malmaison. Pour ce qui est de Suresnes, un contributeur évoque ainsi une convention "ultra-approximative" au premier abord.

Avec les algorithmes, la CNIL est un peu dépassée et plein d’expérimentations se lancent sans vraiment de cadre précis

Martin Drago, de la Quadrature du Net

"Les logiciels servent, pour les industries, à justifier a posteriori la vidéosurveillance en général, poursuit Martin Drago. Dans leur discours, de nombreuses caméras étant installées, il y aurait tout intérêt à développer la vidéosurveillance algorithmique pour assurer et améliorer leur efficacité."

Le juriste pointe également du doigt "des pouvoirs de police démultipliés" : "Pour la vidéosurveillance "simple", il existe une loi qui date de 1995, certes pas assez protectrice selon nous. Mais avec les algorithmes, la CNIL est un peu dépassée et plein d’expérimentations se lancent sans vraiment de cadre précis. Il manque un débat autour de la surveillance algorithmique, ainsi qu'une loi."

L'absence de reconnaissance faciale, "l’arbre qui cache la forêt" ?

Dans le journal municipal de Suresnes, William Eldin, cofondateur de XXII Group, met par ailleurs en avant "une technologie capable de solutionner des problématiques environnementales (détection de poubelles trop pleines, dépôts sauvages, départs d’incendie, éclairages intelligents) et de mobilité (feux rouges intelligents, analyse du trafic)". Il affirme aussi "respecter très strictement la loi" et écarte tout recourt à la reconnaissance faciale.

Les "caractéristiques individuelles et personnelles" (visages, vêtements, genre, plaques d’immatriculation) ne devraient pas être prises en compte d’après le journal municipal. Le dispositif, qui permettrait à la société de "poursuivre le développement de son outil en conditions réelles", n'aurait enfin  "aucun coût pour le contribuable".

"C’est une sorte de greenwashing de la surveillance, déplore Martin Drago. Dans la communication des industries, c’est lié au concept de "smart city" – c’est-à-dire une ville bourrée de capteurs et reposant sur le big data – dont la première brique est la "safe city". Derrière la captation de données personnelles, il y a toujours une justification écologique, notamment sur l’optimisation des transports et de l’énergie."

Pour ce qui est de la biométrie, le juriste note que "la reconnaissance faciale fait peur d’un point de vue de la communication, c’est toujours le risque d’attirer les foudres du buzz médiatique" : "Chaque industrie se défend de l’utiliser, mais c’est l’arbre qui cache la forêt. Dans le droit, la détection des comportements suspects relève des mêmes problématiques et du même cadre que la reconnaissance faciale. La détection automatisée par plusieurs caméras de quelqu'un qui se met à courir subitement par exemple, ça implique le suivi de la personne en question. Ce tracking revient à individualiser des gens. Ce n’est pas parce qu’on ne retrouve pas le visage et l’identité civile que ce n’est pas aussi grave."

Ni la mairie, ni la CNIL n'ont répondu à nos sollicitations à ce stade. Au-delà du projet d’expérimentation, la Ville de Suresnes affirme avoir à ce jour un réseau de 89 caméras, toujours selon le journal municipal. La Ville compte, dans son "CSU", 13 agents dédiés à la vidéosurveillance.

Poursuivre votre lecture sur ces sujets
technologies sécurité société économie