Comment les réseaux sociaux luttent-ils contre le discours de haine ?
Les programmes d'IA et les examinateurs de contenu humain répriment les commentaires offensants en ligne
Zach Gibson/AFP/Getty Images
Le discours de haine n'est pas un phénomène nouveau pour les sites de réseaux sociaux, mais le rassemblement d'extrême droite de samedi à Charlottesville, en Virginie, qui a fait un mort parmi les manifestants, a conduit les entreprises à prendre des mesures contre des groupes offensants en ligne.
Voici comment les plus grands groupes de médias sociaux réagissent au discours de haine, ainsi que leurs plans pour empêcher la diffusion de contenu offensant :
Suite aux violents événements survenus samedi à Charlottesville, Engagé affirme que Facebook a 'fermé de nombreux groupes haineux à la suite des attaques', y compris la 'page d'événement pour la marche Unite the Right qui a mené les violences'.
Le géant des médias sociaux utilise une combinaison d'intelligence artificielle (IA) et d'examinateurs de contenu humain pour trouver les discours de haine, qui Le bord dit qu'il supprime « 66 000 messages haineux par semaine ». Mais le site indique que Facebook « s'appuie fortement » sur les utilisateurs qui signalent le contenu comme offensant ou haineux.
En mai, Facebook a embauché 3 000 personnes supplémentaires dans son 'équipe de réviseurs de contenu', selon TechCrunch , portant le total à 7 500. Cela a été déclenché par plusieurs « scandales de modération de contenu », y compris l'utilisation de Facebook Live « pour diffuser des meurtres et des suicides ».
Mais Filaire dit qu'il y a eu des situations où les 'réviseurs algorithmiques et humains' de l'entreprise ont qualifié des commentaires ou des publications d'offensants sans tenir compte du contexte. Par exemple, le site Web indique que certains mots « criés comme des insultes » sont parfois « récupérés » par des groupes « comme moyen d'expression de soi ».
La politique de conduite haineuse de Twitter indique que le service n'autorise pas les comptes dont le but principal est d'inciter à nuire à autrui sur la base de domaines tels que la race ou l'orientation sexuelle.
le Indépendant rapporte qu'au cours des derniers mois, le site a introduit davantage de systèmes et d'outils pour détecter et supprimer les discours de haine, ainsi qu'améliorer le processus par lequel ses utilisateurs signalent manuellement les contenus offensants.
Mais le site de médias sociaux a été dans 'un peu d'eau chaude ces derniers mois concernant un manque d'action perçu à la suite de menaces perçues', dit TechCrunch , ce qui a conduit un militant à répandre du 'langage haineux dans les rues devant le siège de l'entreprise à Berlin'.
À la suite de l'affrontement de samedi, le site Web indique que le compte du groupe d'extrême droite The Daily Stormer a été supprimé, bien que « les tweets de Trump qui vacillent au bord d'une menace de guerre nucléaire » semblent être conformes à la politique de l'entreprise.
Le forum de discussion Reddit a également réprimé les discours de haine. Engagé affirme que le site Web a 'fermé de nombreux groupes haineux à la suite des attaques'.
Parmi les groupes retirés du site de médias sociaux figurait le subreddit /r/Physical_Removal, une page Engadget dit 'espérait que les gens dans les subreddits anti-haine et à CNN seraient tués, soutenaient les camps de concentration et écrivaient même des poèmes sur le meurtre'.
'Nous sommes très clairs dans les conditions d'utilisation de notre site que la publication de contenu incitant à la violence entraînera l'interdiction des utilisateurs de Reddit', a déclaré Reddit. Cnet .
Bien que Google ne soit pas exclusivement un réseau social, le géant de la technologie joue un rôle clé dans la direction du trafic Internet et des applications sociales auxquelles les utilisateurs peuvent accéder.
Depuis le choc de Charlottesville samedi, TechCrunch a déclaré que la société avait supprimé le 'réseau social conservateur' Gab de son Play Store, car il était devenu un 'refuge' pour les utilisateurs bannis des plateformes grand public.
Google dit qu'il ne prend pas en charge 'le contenu qui encourage ou tolère la violence contre des individus ou des groupes' sur la base de certains critères, ajoutant qu'il dépend 'en grande partie des utilisateurs de nous informer du contenu qui pourrait enfreindre nos politiques'.
Mais TechCrunch dit 'on ne sait pas exactement ce que Gab a fait pour justifier son retrait du magasin', car l'application est une salle de discussion et ne semble pas promouvoir activement le discours de haine. Le site Web indique « qu'il y a beaucoup de discours de haine sur Twitter et YouTube », mais ceux-ci sont toujours disponibles au téléchargement malgré la « répression » de cette semaine contre le contenu offensant.
Selon Le bord , Gab n'a 'jamais été approuvé pour être placé sur l'App Store d'Apple'.
Que font les autres ?
L'un des cas notables de la répression des discours de haine après les événements de samedi comprend le détaillant de noms de domaine Web GoDaddy expulsant le site Web de The Daily Stormer de son service, selon Le registre .
Le site Web indique que des militants ont déclaré au détaillant que le groupe avait fait 'des remarques extrêmement vulgaires et désobligeantes' à propos de la victime de l'attaque de Charlottesville, Heather Heyer. GoDaddy a donné au Daily Stormer 24 heures « pour déplacer le domaine vers un autre fournisseur ».
Nous avons informé The Daily Stormer qu'ils ont 24 heures pour déplacer le domaine vers un autre fournisseur, car ils ont enfreint nos conditions de service.
- GoDaddy (@GoDaddy) 14 août 2017
YouTube devrait également « instituer des directives plus strictes en matière de discours de haine », rapporte TechCrunch . Cela pourrait voir plus de vidéos supprimées après que les utilisateurs les ont marquées comme offensantes, même s'il n'y a rien d'illégal dans le contenu.
