Face à la haine, comment réguler les contenus en ligne?

©EPA

Les discours de haine ont trouvé refuge sur les réseaux sociaux et les forums. Ces plateformes sociales initialement créées pour connecter et rassembler les individus se sont transformées en réceptacles de la haine mondiale. Une régulation globale devient indispensable pour endiguer le phénomène.

Les deux tueries de masse du 3 août dernier aux Etats-Unis ont une nouvelle fois mis en lumière la problématique de la prolifération et de la diffusion des discours de haine sur internet. Peu avant la fusillade meurtrière d’El Paso qui a fait 22 victimes, le tireur, Patrick Crusius, a posté sur 8chan, un forum en ligne, un manifeste raciste évoquant une "invasion hispanique" du Texas.

Cet exemple est le dernier en date d’une longue série de discours de haine qui ont trouvé refuge sur les réseaux sociaux, plateformes ou autres forums. Les plateformes sociales initialement créées pour connecter et rassembler les individus se sont transformées en réceptacles de la haine mondiale. Une régulation devient indispensable mais semble extrêmement compliquée à mettre en place. Tour d’horizon de la question en 6 points.

  • Qu’est-ce qu’un contenu à caractère haineux?

Le CERRE (Center on regulation in Europe), qui fait autorité en la matière, identifie un contenu comme haineux lorsqu’il attaque une personne ou un groupe sur la base de certains attributs comme la race, l’origine ethnique, la religion, un handicap, le genre ou l’orientation sexuelle. Un type de contenu qui n’est évidemment pas neuf, mais dont le médium de diffusion utilisé a fait évoluer sa portée. Les réseaux sociaux et les forums en particulier ont permis par leur caractère anonyme et leur puissance de diffusion de donner à ce type de contenu un impact sans précédent.

  • Que font les Facebook, Twitter et autres forums pour lutter contre la haine?

Lors de l’apparition du phénomène, les autorités compétentes ont décidé de laisser la main aux plateformes en les laissant effectuer une autorégulation des contenus. Sauf qu’une limite est vite apparue: la directive européenne sur l’e-commerce. Elle restreint la responsabilité éditoriale des plateformes et les dédouane en grosse partie des contenus postés par les utilisateurs. Il leur a ensuite été demandé de prendre des mesures pour endiguer le phénomène. De bonne volonté, Facebook a par exemple aujourd’hui 20.000 personnes qui travaillent à trier les contenus publiés par leurs utilisateurs. Mais cette autorégulation pose deux problèmes évidents: une entreprise privée devient juge de la liberté d’expression et il n’y aura jamais assez de modérateurs pour trier le flot de contenu haineux en constante augmentation. De leur côté, les forums marginaux ne mettent que très peu de moyens dans la modération et en font même un argument pour leurs utilisateurs qui sont à la recherche d’un sentiment de liberté d’expression totale.

En Allemagne, les amendes pour les plateformes peuvent atteindre 50 millions d’euros.

  • L’intelligence artificielle pour contrôler les contenus haineux

Pour remplacer les armées de modérateurs de contenu, on a souvent présenté l’intelligence artificielle comme la panacée. Il s’avère qu’elle est très peu efficace et facilement contournable. Le CERRE a réalisé une étude sur le sujet qui met en lumière les lacunes de l’utilisation de l’intelligence artificielle dans la lutte contre la diffusion de contenus à caractère haineux.

 

Par exemple, sur 2,5 millions de contenus à problème retirés de Facebook sur un seul trimestre en 2018, seuls 38% avaient été identifiés par l’IA au préalable. La raison est simple: une image dénudée ou à caractère sexuel l’est en tant que telle. Un contenu haineux est, lui, fort dépendant du vocabulaire utilisé qui, selon le contexte, peut le devenir ou non. Il peut aussi s’agir d’ironie ou de satire, des notions quasi impossibles à apprendre à une intelligence artificielle. Ce n’est pas tout: l’IA appliquée au contenu à caractère haineux ne résiste pas longtemps face à des techniques pour l’induire en erreur comme les fautes d’orthographe, les typos, l’ajout de mots "gentils" en plein milieu d’un contenu haineux.

  • Les Allemands montrent la voie des sanctions

Ne voulant pas laisser l’initiative aux plateformes, l’Allemagne a pris les devants en faisant passer une loi contraignante. Certainement pas parfaite, elle a eu le mérite de reprendre la main de la régulation. Baptisée "NetzDG", la loi oblige les réseaux sociaux qui possèdent plus de deux millions de membres inscrits en Allemagne à supprimer dans les 24 heures les contenus postés par leurs utilisateurs et interdits par la législation allemande. Si la loi n’est pas respectée, les amendes peuvent atteindre 50 millions d’euros. En France, une loi similaire est en cours d’examen, elle prévoit de sanctionner à hauteur de 4% du chiffre d’affaires les plateformes qui ne la respecteraient pas.

  • La Belgique prend des mesures non contraignantes

La Belgique n’a pas encore suivi l’exemple de ses voisins français et allemands en matière de régulation contraignante des plateformes. Chez nous, les propos à caractère haineux publiés en ligne tombent sous le coup de la loi Moureaux. Dans le cas où elle est identifiée, c’est la personne qui a publié les propos qui peut être poursuivie pénalement. Jamais les plateformes où sont publiés les contenus.

Une initiative a pourtant vu le jour. Plusieurs acteurs belges de la lutte contre la haine, la discrimination ou le racisme ont été identifiés par Facebook & Co pour leur donner un accès privilégié aux procédures de signalement. Par exemple, un post haineux signalé par Unia (Centre pour l’égalité des chances) pourra être retiré en quelques heures. Au-delà des signalements, elles peuvent aussi plus facilement demander la disparition complète du contenu. Le temps étant la notion la plus importante pour éviter la prolifération d’un contenu à caractère haineux, cette possibilité permet d’agir vite, à défaut de tout voir.

  • Une régulation européenne dans les cartons

Un des gros chantiers de la prochaine Commission européenne sera la mise sur pied d’un organe de régulation européen des contenus publiés en ligne. C’est, selon nos informations, l’une des priorités déjà établies pour le/la commissaire qui sera en charge du numérique. L’autorité devrait avoir des capacités contraignantes envers les plateformes responsables du contenu publié en leur sein. Un premier pas important pour tenter de reprendre l’ascendant sur le phénomène.

"La situation actuelle appelle une réaction forte du politique et du régulateur"
Bruno Liebhaberg est le directeur général du CERRE et président de l’observatoire européen des plateformes en ligne. Il plaide pour une meilleure régulation à un niveau européen.

En quoi internet facilite-t-il la parole haineuse?

"L’amplification de la parole haineuse a été facilitée par l’apparition de plateformes où le caractère anonyme de l’émetteur est possible. Si je prends l’exemple d’une lettre anonyme, elle ne touchera que la personne à qui elle est destinée, aussi haineuse soit-elle. Avec l’arrivée d’internet et des réseaux sociaux, ce caractère anonyme est devenu une force et tout cela a un impact sur nos sociétés et sur la notion de vivre ensemble. La situation actuelle appelle une réaction forte du politique et du régulateur."

Sur quels critères doit-on modérer?

"Les critères de modération, c’est toute la problématique de la subjectivité. Il faut aussi systématiquement se transposer dans un autre contexte culturel pour la personne qui juge le contenu. Aux Etats-Unis, la liberté de parole est garantie par la constitution et c’est toujours cela qui a prévalu pour l’instant puisque la plupart de ces plateformes sont américaines. En Europe, nous avons une conception très différente des limites à la liberté d’expression. Il ne faut pas aller trop loin non plus, c’est ce que reprochent certains à la loi allemande, estimant qu’on censure des choses qui ne relèvent pas du discours de haine."

Quelles solutions pour endiguer le phénomène?

"On doit être excessivement prudent. Clairement l’autorégulation des plateformes a montré ses limites. D’autre part, on ne peut pas surréguler car il faut laisser libre cours à la liberté d’expression. Il faut donc trouver un juste milieu dans lequel on responsabilise les plateformes, car il est hors de question de continuer à accepter d’entendre des plateformes dire qu’elles ne sont pas responsables. Vu le niveau de pénétration qu’elles ont, elles doivent être régulées, comme par exemple via des accords que le gouvernement français a mis en place. Si cela n’est pas assez efficace, il faut établir une régulation qui ne peut alors être qu’européenne."

 

Lire également

Publicité
Publicité

Echo Connect

Messages sponsorisés

n