Antisémitisme : comment les modérateurs travaillent-ils face à la haine sur internet ?

L'antisémitisme s'exprime dans les rues mais aussi en ligne. Sur les réseaux sociaux, des propos haineux et illégaux se multiplient ces derniers jours. Nous avons interrogé un spécialiste de la modération sur internet.

L'antisémitisme fait de nouveau la une de l'actualité ces derniers jours, avec la recrudescence d'actes haineux et l'organisation de rassemblements de soutien dans de nombreuses villes françaises en réaction.
 

Tags, insultes, profanations… On a recensé les actes antisémites qui ont eu lieu depuis le début du mois de févrierhttps://t.co/4RHDTYMAEQ pic.twitter.com/fRkX0DedFo

— franceinfo (@franceinfo) 18 février 2019

 

Quelle place la haine prend-elle sur internet ?

Cette haine s'exprime dans la rue, mais aussi en ligne. Les premiers en contact avec ces messages répréhensibles sont les modérateurs chargés de surveiller les commentaires sur les sites et les réseaux sociaux, notamment sur les pages des médias.

La société Netino, spécialisée dans la modération, fait ce travail pour de nombreux médias français dont France 3 Bourgogne-Franche-Comté. En mai 2018, l'entreprise avait publié un "panorama de la haine en ligne", basé sur l'analyse d'un échantillon d'environ 10 000 commentaires postés en mars de la même année sur les pages de grands médias français. 

"On a fait ce panorama à la demande des pouvoirs publics parce qu'il y avait besoin de mettre des chiffres derrière ces phénomènes. Parce que tout le monde voit qu'il y a de la haine mais personne n'était capable de la quantifier", indique Jérémie Mani, le dirigeant de Netino. Un commentaire sur dix de l'échantillon comportait des propos haineux.
 

"C'était une photographie sur un mois donné, précise le CEO de l'entreprise de modération. La couleur de ce baromètre dépendait beaucoup de l'actualité du mois de mars 2018. Très concrètement, si on refaisait ce bilan là en février 2019, on aurait une très forte hausse du nombre de commentaires antisémites. Mais ça ne veut pas forcément dire que sur toute l'année c'est la même chose. Sur la fin de l'année dernière, on ne voyait pas tant que ça de commentaires antisémites. C'est remonté assez récemment avec les différentes dégradations."

Le type de haine le plus présent dans les commentaires varie donc beaucoup en fonction de ce qui fait la une de l'actualité. "Parfois, c'est l'homophobie qui va remonter en flèche. Parce qu'on va parler de GPA, ou par exemple récemment avec "parent 1, parent 2" dans les formulaires scolaires. Sur tous les articles qui ont parlé de ça, il y a eu énormément de propos homophobes", explique le dirigeant.

Il affirme également que les commentaires sont en général plus virulents sur Facebook que dans les espaces de commentaires directement présents sur les sites des médias. "Il y a plusieurs raisons à ça. Sur les sites web, le plus souvent il faut s'inscrire et on a plus le sentiment de faire partie d'une communauté".

"Par exemple sur le site internet du journal Le Monde, les commentaires ne sont ouverts qu'aux abonnés. Ça ne veut pas dire qu'il n'y a pas de commentaires qui dérapent, il y en a beaucoup, mais clairement moins que sur une page Facebook, qui est ouverte à tout le monde. Les gens sont moins fidèles. Les gens sont fidèles à Facebook plus qu'à une page en particulier à quelques exceptions près. Ils se moquent royalement de savoir qu'ils ont mis un propos qui peut choquer parce qu'il y a très peu de chance qu'ils reviennent sur cette page-là."
 

Une proposition de loi à venir

Le président Emmanuel Macron a annoncé mercredi 20 février lors du dîner du Crif de nouvelles mesures pour lutter contre les propos répréhensibles. Une proposition de loi pour freiner les propos racistes et antisémites sur le net et "renforcer la pression sur les opérateurs" doit être déposée en mai par une députée de la majorité.

Elle imposera aux plateformes de retirer les contenus appelant à la haine "dans les meilleurs délais", de "mettre en oeuvre toutes les techniques" pour identifier leurs auteurs, et enfin responsabilisera ces plateformes sur le plan juridique.
 
Le secrétaire d'État en charge du numérique, Mounir Mahjoubi, a fait savoir sur franceinfo ce jeudi qu'une amende "très importante" pourra toucher les plateformes qui ne réagissent pas assez rapidement.
 

Lutte contre l'antisémitisme sur les réseaux sociaux : "On va obliger les plateformes à avoir un dispositif avant que les actes arrivent (...) et après une obligation de résultat, (...) avec une amende", déclare Mounir Mahjoubi, secrétaire d’Etat chargé du numérique pic.twitter.com/EDwffGRnVc

— franceinfo (@franceinfo) 21 février 2019

Emmanuel Macron a également annoncé que la France allait "mettre en oeuvre" une définition de l'antisémitisme élargie à l'antisionisme, une annonce aux contours encore flous et dont la portée reste difficile à évaluer. "Il ne s'agit pas de modifier le code pénal, encore moins d'empêcher ceux qui veulent critiquer la politique israélienne de le faire", a précisé le chef de l'Etat, qui s'est récemment déclaré défavorable à une loi réprimant l'antisionisme. 
 

La difficile modération des propos antisémites

"Aujourd'hui les médias sont confrontés à énormément de propos racistes et antisémites. Avec la haine antisémite, le modérateur fait face à une grande complexité parce qu'elle n'est pas tout à fait comparable à d'autres types de haine, détaille Jérémie Mani, spécialiste de la modération. C'est plus facile pour un modérateur de lutter contre la haine homophobe ou la haine contre la couleur de peau par exemple parce que ce ne sont pas des haines idéologiques ou instrumentalisées."

"Si on dit qu'on n'aime pas les Noirs, on n'aime pas leur couleur de peau, c'est assez basique comme haine, alors qu'il y a une multitude de formes d'antisémitisme. Il y a par exemple un antisémitisme d'extrême-droite qui n'est pas exactement le même que celui d'extrême-gauche. Il y a beaucoup d'idées préconçues aussi derrière. Plein de choses à priori fausses mais qui sont ancrées dans l'esprit des gens."
 

Pourquoi nous avons interrompu notre Facebook live lors de la venue d’Emmanuel Macron au cimetière juif de Quatzenheimhttps://t.co/ie42Txv0Bq pic.twitter.com/d8xyT8FkIu

— France 3 Alsace (@F3Alsace) 20 février 2019

Jérémie Mani précise : "On est tout le temps sur un fil. Le but du modérateur est de faire en sorte que la liberté d'expression puisse se faire, tout en respectant les lois. Avec le débat sur l’antisionisme et l'antisémitisme, on est dans une zone grise. C'est d'ailleurs pour cela que certains proposent une loi. Qu'il y ait un débat qui aide à clarifier ça, nous en sommes plutôt heureux. Ça permettra ensuite d'appliquer des verdicts de façon beaucoup plus sereine."
 

"Les médias imposent leurs règles"

Cette "zone grise" amène les modérateurs à désormais agir de manière plus lourde qu'auparavant sur certains commentaires. "Il nous arrive de plus en plus souvent de retirer des propos dès lors que le modérateur a la conviction qu'il s'agit de propos avec une intentionnalité raciste, antisémite ou homophobe. Il va le retirer même si juridiquement la phrase n'est pas forcément attaquable", reconnaît le dirigeant de Netino. 

"On part du principe qu'un média, sur Facebook, est chez lui. Les pages Facebook sont ouvertes au public mais les médias peuvent y imposer leurs règles." Ainsi, ils peuvent tout à fait décider de modérer des commentaires qui ne sont certes pas illégaux mais qui ne respectent pas la charte de bonne conduite qu'ils ont mis en place. Celle qui est en vigueur sur la page Facebook de France 3 est par exemple consultable ici.

Pour les propos qui contreviennent à la loi, on peut penser ce n'est pas à un acteur extérieur, comme Netino, de s'occuper du problème. "Dans un monde idéal, il faudrait qu'une police du web intervienne immédiatement. Mais ça n'arrivera jamais", estime Jérémie Mani. 

"Je ne crois pas qu'on remplace qui que ce soit. Il faut que quelqu'un agisse et en l’occurrence, les administrateurs d'une page nous délèguent ce pouvoir pour agir le plus rapidement possible. On ne peut pas attendre que la justice fasse son travail, parce que le délai est beaucoup trop long et parfois complètement inexistant. Aujourd'hui, on est une sorte d'extension des rédactions qui nous confient ce travail là, parce qu'il faut le faire de façon réactive."
 

"Une haine qui existe depuis longtemps"

Le dirigeant de Netino n'est pas surpris de la récente recrudescence de propos antisémites. "Toute la haine dont on parle aujourd'hui existe depuis vraiment longtemps, détaille-t-il. Quand on la voit dans la rue, c'est filmé par une caméra et diffusé par tous les médias. Mais c'est exactement le même type de propos, que ce soit envers Alain Finkielkraut ou n'importe qui, qu'on peut lire depuis plusieurs années. Donc nous ne sommes pas surpris. Par contre on est plutôt soulagés de voir que les gens s'emparent du sujet. Ouvrir les yeux, c'était la première étape pour pouvoir ensuite essayer de trouver des solutions."

La proposition de loi bientôt déposée à l'Assemblée sera peut-être une de ces solutions.
 

Comment travaillent les modérateurs ?

L'entreprise Netino, spécialisée dans la modération, compte environ 200 clients, des médias mais surtout des marques. La presse ne représente qu'un quart de son activité.

L'entreprise modère autour de 10 millions de commentaires par mois. "Mais le nombre varie beaucoup selon l'actualité", précise Netino qui travaille essentiellement avec des clients francophones en France, en Suisse, en Belgique et au Canada.

Pour traiter ce nombre impressionnant de commentaires, la société emploie environ 250 modérateurs. Elle utilise des outils informatiques qui opèrent un premier tri sur les messages, essentiellement avec des mots-clés, avant de présenter les messages à un modérateur.

Les messages qui sont susceptibles d'être problématiques sont classés selon un score de "risque" avant d'être présentés à un modérateur. Pour choisir de valider ou non un message, il va voir apparaître sur son écran les propos en question, associés au pseudo de l'auteur, son avatar, la conversation autour du commentaire…

Les modérateurs employés par Netino travaillent en France, en Roumanie et à Madagascar. France Télévisions, média public, ne fait appel qu'à des personnels français pour modérer les commentaires de ses sites et ses réseaux sociaux.

Sur les réseaux sociaux, la modération des commentaires ne se fait qu'a posteriori (après que le message ait été envoyé). Sur les espaces de commentaires présents directement sur les sites des médias, la modération se fait de plus en plus a priori.

"Il y a des inconvénients, la communauté décolle moins", précise Netino, car la discussion entre les commentateurs est à chaque fois ralentie par toutes les étapes de validation. "Les conversations s'appauvrissent en nombre, par contre elles sont de meilleure qualité."