La censure en ligne : la faute aux modérateurs ?

Les plateformes comme Instagram, Facebook et Twitter sont omniprésentes dans nos vies. Rares sont les jours où l’on ne les consulte pas.  Elles sont devenues nos références en termes d’informations et de communication. Elles sont comme l’agora des temps modernes. Par contre, nous apercevons  une censure dans certains discours des plateformes populaires. Cette censure est le résultat des directives donner au modérateurs de contenus par les géants du web.

Censure féminine en ligne

Ne me considérant pas comme une grande activiste sur les réseaux sociaux, je n’ai jamais été confrontée à de la censure par ceux-ci. Par contre, plusieurs femmes progressistes voulant briser le statu quo ont été confrontées aux conditions d’utilisations des plateformes ou elles devaient se conformer afin d’y accéder. Cela revient à dire que ce sont les géants du web qui impose les normes de contenus. Le mouvement #Freethenipple s’est transposé sur Instagram suite à la reconnaissance des critères de l’algorithme. Ce dernier avait pour objectif de filtrer et censurer ce qui ressemble à une poitrine de femmes nues.

Les utilisateurs de réseaux sociaux se questionnent sur la place que revient la nudité féminine. Deux discours en ressort. D’un côté, on voit la nudité comme une forme de commercialisation du corps de la femme ou elle se valorise à travers les likes de ses abonnés. De l’autre, se mettre nus est une forme de réappropriation corporelle. Enfin d’enlever la portée sexuelle qui caractérise les seins d’une femme. Je partage la deuxième vision, mais en apportant des bémols. Considérant que la plateforme Instagram soit accessible à partir de 13 ans, l’interprétation des contenus chez l’utilisateur peut être moins approfondie que l’utilisateur de 20 ans et plus. À 13 ans on souhaite suivre nos artistes pop préférés, sûrement Kim Kardashian et Nicky Minaj. Leurs clichés sont loin de se rapporter à la réalité. Puisque tout le monde sait, à 13 ans on cherche à s’émanciper, mais ça peut être aussi une période de grande insécurité. Plusieurs ne se retrouvent pas dans les normes esthétiques et psychologiques des réseaux sociaux et malheureusement ce sont eux les plus payantes.

Les femmes naturelles ne sont pas les bienvenues sur les réseaux

Je crois d’abord que les réseaux sociaux devraient promouvoir davantage la diversité corporelle afin que les jeunes utilisateurs s’y sentent représentés. Et pour l’instant, Instagram semble se prendre pour le diktat de l’image. À 19 ans, Samm Newman a décidé d’utiliser son compte Instagram pour promouvoir ses rondeurs en petites tenues. Résultat, Instagram a supprimé ses photos et désactivé son compte. Ceci est un exemple de plus qu’Instagram contribue à la discrimination de taille et qui n’est pas sans conséquence. Instagram a justifié ce retrait en raison d’une violation du règlement communautaire.Par contre Kim Kardashian n’a pas de problème à s’exhiber complètement nu grâce à sa forte popularité.

 

Dans son étude Instagram ou la dictature consentie : Genre, sexualisation et marketing réseau de l’image carré, Sarah Marchand explique que de tels scandales sont monnaie courante. Ce sont d’ailleurs les femmes qui sont le plus censurées sur l’application de photos. L’auteur constate qu’Instagram ne tolère pas les contenus exposant les jambes non épilées, les aisselles non épilées, les mamelons apparents et les images de menstruations. Je pense qu’Instagram en effet est un diktat de l’image ou seul ce qui est agréable visuellement est permis tout en se permettant étouffés les discours progressistes.

Tester les plateformes

Les évènements entourant le scandale #METOO, ont fait couler beaucoup d’encre. Certaines femmes ont utilisé les réseaux sociaux pour exprimer leur frustration avec l’expression suivante : men are scum. Le quotidien The Guardian (lien)  a rapporté dans un article que ces femmes ont confirmé avoir été bloquées de la plateforme pour les 30 jours suivants. Suite à cette controverse, la chercheuse en information juridique, Anastasia Berwald, s’est penchée sur la problématique en confrontant les plateformes Instagram et Facebook. Berwald décide de prendre une capture d’écran de l’article du quotidien et  de la publier à la fois sur Instagram et Facebook. La publication a aussitôt été censurée. Facebook lui informe que sa publication contrevenait aux les lignes directrices communautaires, encouragent un discours haineux. Tandis qu’Instagram se contente de dire qu’il y a eu censure sans spécifier la publication en question. Voulant tester à nouveau les plateformes, elle republie le même contenu.

Les sanctions des plateformes sont différentes.

Facebook lui bloque l’accès pour 24h. Instagram va jusqu’à désactiver le compte. En plus de lui interdire de s’en créer un nouveau  avec l’adresse IP de son téléphone.  La question n’est pas à savoir si l’expression men are scum est approprié. Ce qu’elle déplore est l’incohérence des plateformes vis-à-vis ce que peut être un « discours haineux ». À titre d’exemple, elle revient sur le groupe québécois d’extrême droite « La Meute », connu pour tenir des propos racistes,  homophobes, misogynes et xénophobe ayant toujours une page Facebook avec plus de 17 000 membres à son actif.

 

 

La liberté d’expression en danger ?

Diplômé en droit, Berwald, constate que l’incohérence du traitement de contenu des plateformes met en danger les principes de justice fondamentale. Le Canada requiert en droit à la prévisibilité. C’est-à-dire, que les citoyens acceptent d’être sanctionnés et réguler de leur comportement. Pour autant d’être en mesure de déterminer, et ce sans faire appel à un effort insurmontable, si leur geste sont accepter et défendu devant la loi. Elle souligne le danger qui guette les droits fondamentaux canadiens en ligne, notamment la liberté d’expression. Désormais ce sont les plateformes d’internet qui juge ce qui mérite d’être sanctionné dans nos manières de s’exprimer en ligne. Le manque de transparence et de cohérence des plateformes dans leur méthode de régulation du contenu contrevient au droit à la prévisibilité des individus. En plus de n’avoir aucun recours juridique possible.

Dans la peau de modérateurs humains

Facebook a  2 milliards d’utilisateurs. C’est un paquet de monde qui peut partager n’importe quoi en l’espace d’un clic. Si Facebook semble propre à nos yeux c’est grâce  entre autres aux algorithmes automatisés construits  par les plateformes et … aux modérateurs humains. Leur fonction se résume à visionner les contenus indésirables reliés à la violence, au discours haineux, au terrorisme, à la pornographie et au racisme. Le savais-tu toi que le travail de contrôle de conformité des contenus (les plus horribles qui soient) se fait dans des pays comme les Philippines et l’Inde là où le coût de la main-d’œuvre est à bas prix ? Il faut aussi penser que leur culture est différente à la nôtre ce qui leur demande de se projeter dans un environnement autre que le leur. Je ne blâme pas ici l’éthique de travail de ces modérateurs. Je me questionne plutôt sur les directives que leur offrent les géants du web pour filtrer tous ces contenus.

Facebook est toujours resté discret et vague envers ses 2 milliards d’utilisateurs lorsque vient le temps de justifier leur procédure de modération. S’intéressant à la question, le quotidien d’information britannique The Guardian a entrepris une enquête sur le sujet. À travers cette étude, plus de 100 manuels de formation aux nouveaux employés ont été consultés. Parmi les directives on y retrouve celles ci-dessous qui confirment l’ambiguïté de la procédure.

https://www.theguardian.com/news/2017/may/21/revealed-facebook-internal-rulebook-sex-terrorism-violence
Guide de régulation de contenus chez Facebook Source : The Guardian

Les commentaires similaires à « someone shoot Trump » se doit d’être supprimer en raison d’une menace possible envers un chef d’État. Tandis que : « to snap a bitch’s neck make sure to apply all our pressure to the middle of her throat » n’a pas l’obligation d’être censurée.  Elle n’est pas perçues comme une menace de violence. Certains modérateurs ont confié faire face à plusieurs incohérences de leur politique. Notamment celle-ci :

Les vidéos de morts brutales sont dérangeantes mais qu’elles peuvent conduire à une prise de conscience». D’après la politique de Facebook, «les mineurs ont besoin de protection et les adultes ont besoin d’avoir le choix. Nous marquons comme « dérangeantes » les vidéos de morts violentes d’êtres humains».

La rapidité, un critère d’embauche

En plus d’être sous-payé et d’être confronté à des scènes déshumanisantes, les modérateurs on une pression sur la productivité. Les modérateurs se disent contraints à rendre une décision dans un délai de 10 secondes par souci de productivité. Ces conditions de travail expliquent les erreurs fréquentes des modérateurs. Facebook s’est d’ailleurs retrouvé en pleine controverse en septembre 2016 lorsque le site a censuré la célèbre photo fillette au napalm, oeuvre historique montrant la brutalité de la guerre du Vietnam.Facebook a justifié son geste en raison de la nudité de la jeune fille.

Je pense sincèrement que les grandes plateformes numériques ont perdu le contrôle de la situation. Juste à  considérer le manuel de formation dans lequel il trace la ligne entre ce qui relève de contenu violent ou non est alarmant. En plus considérant que nos sociétés sont en constantes évolutions les critères de modération n’ont pas fini de changer. Si on s’entend pour dire que les géants ont perdu le contrôle, serait-il vraiment mieux de confier cette tâche à l’État ?

Camille Goupil

 

Sources :

http://dante.univ-tlse2.fr/4251/3/marchand_sarah_M12016.pdf

https://www.theguardian.com/news/2017/may/21/revealed-facebook-internal-rulebook-sex-terrorism-violence

ttps://www.liberation.fr/planete/2017/05/22/chez-facebook-un-moderateur-a-10-secondes-pour-signaler-une-publication_1571370

https://www.lemonde.fr/pixels/article/2017/05/22/violence-menaces-suicide-des-documents-internes-precisent-la-politique-de-moderation-de-facebook_5132003_4408996.html

 

 

 

Laisser un commentaire

Votre adresse de courriel ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Facebook
Google+
http://mediassocionumeriques.org/algorithme/la-censure-en-ligne-la-faute-aux-moderateurs">
Twitter
LinkedIn