Vous êtes ici

Lutte contre la haine en ligne - État, plateformes numériques, individus : tous acteurs

Lutte contre la haine en ligne - État, plateformes numériques, individus : tous acteurs
Date de publication : 21/07/21
Télécharger le documentTélécharger le pdf (726Ko)
Thème associé :
Racisme

Lutte contre la haine en ligne - État, plateformes numériques, individus : tous acteurs

Dans la continuité de ses avis de 2015, 2019 et 2021 et de ses travaux sur la lutte contre le racisme, la Commission nationale consultative des droits de l’homme (CNCDH) a adopté un nouvel avis dans lequel elle analyse le phénomène dans sa globalité et formule une vingtaine de recommandations.

L’assassinat de Samuel Paty et les récentes condamnations de onze des douze prévenus dans l’affaire Mila et celle de Twitter à détailler les moyens mobilisés pour lutter contre les contenus haineux viennent confirmer la nécessité de renforcer encore la lutte contre le discours de haine sur Internet. Dans la continuité de ses avis de 2015, 2019 et 2021 et de ses travaux sur la lutte contre le racisme, la Commission nationale consultative des droits de l’homme (CNCDH) a adopté un nouvel avis dans lequel elle analyse le phénomène dans sa globalité et formule une vingtaine de recommandations.

Le discours haineux fait peser de très graves menaces sur la liberté d’expression et de communication, et le respect de la dignité humaine et même sur le droit à la vie, alerte Jean-Marie Burguburu, président de la CNCDH. La diffusion et la virulence croissantes de propos haineux en ligne, notamment sur les plateformes numériques, appellent une action forte et concertée de tous les acteurs.

Considérer le phénomène dans sa globalité.

Si, au niveau national, le dispositif pour lutter contre la propagation de discours de haine en ligne est régulièrement renforcé, la CNCDH considère que la prise en compte trop parcellaire de la diversité des mécanismes et acteurs concernés par ce phénomène ne permet pas de lutter efficacement contre celui-ci. La CNCDH s’inquiète en outre de la multiplication d’initiatives pluripartites, qui fait craindre un manque de coordination et une complexification des instruments pour lutter contre la haine en ligne. Elle propose dans ce nouvel avis une approche transversale, et formule des recommandations concernant tous les acteurs : l’État, les plateformes numériques et les utilisateurs.

Renforcer le rôle de l’État.

La CNCDH considère que l’arsenal législatif existant en France afin de lutter contre la haine en ligne est suffisamment complet, bien que complexe. La CNCDH appelle l’État, garant des libertés et droits fondamentaux, à renforcer son rôle autour de deux piliers :

  • Améliorer le dispositif judiciaire : la CNCDH rappelle le rôle essentiel du juge judiciaire dans le contentieux relatif à la haine en ligne - pour faire cesser la diffusion et faire supprimer les contenus haineux et pour identifier et sanctionner les auteurs. Elle recommande spécialement que des moyens supplémentaires soient accordés au parquet spécialisé du Tribunal judiciaire de Paris et à la Plateforme PHAROS.
  • Créer un organisme public indépendant dédié à la lutte contre les contenus haineux en ligne, qui aurait une double mission d’accompagner les utilisateurs de services numériques et de conduire des recherches notamment sur les systèmes algorithmiques de modération de contenus.

Créer de nouvelles obligations pour les plateformes numériques.

Partant du constat que les plateformes, dont le modèle économique repose, pour certaines, sur la viralité, peuvent contribuer à l’ampleur de la haine en ligne, la CNCDH recommande de leur imposer de nouvelles obligations positives de lutte et de modération du contenu haineux, et de transparence sur la modération des contenus.

Les plateformes devraient notamment :

  • harmoniser les dispositifs internes et les critères de signalement ;
  • renvoyer systématiquement les utilisateurs vers les dispositifs publics de signalement comme PHAROS ;
  • compléter leurs systèmes algorithmiques par des modérateurs humains spécialisés ;
  • mettre en place les moyens nécessaires afin de mieux détecter les moyens de viralité artificielle dès lors qu’ils visent à diffuser les contenus haineux ;
  • rendre plus transparents et accessibles les politiques et outils de modération ;
  • créer un recours effectif en cas de modération d’un contenu ;
  • donner accès à leurs outils de modération algorithmiques, notamment aux chercheurs indépendants et au CSA.

Protéger et responsabiliser les utilisateurs.

En leur double qualité d’émetteur et de récepteur de contenus, la situation des utilisateurs appelle à la fois une protection et une responsabilisation spécifiques, qui doivent mobiliser les plateformes et les pouvoirs publics. La CNCDH recommande une fois encore l’adoption d’un plan d’action national sur la formation à la citoyenneté numérique et elle alerte sur la nécessité de prendre en compte les vulnérabilités particulières de certains publics, en particulier les mineurs. La CNCDH considère qu’il est en outre indispensable de donner aux utilisateurs les moyens d’agir sur leur environnement numérique et recommande la consécration d’un droit au paramétrage par chaque utilisateur des contenus émis et reçus, selon des modalités accessibles et transparentes, et harmonisées entre plateformes.

Enfin, car l’utilisateur peut être le point de départ de propos haineux ou peut contribuer à leur viralité, il est essentiel de favoriser sa réflexivité et son esprit critique et de l’inciter à devenir agent de la lutte contre les contenus haineux. La CNCDH recommande ainsi de développer des solutions techniques pour alerter sur la dimension potentiellement haineuse d’un contenu et de permettre à l’utilisateur de gérer facilement les commentaires sous ses publications.