Les modérateurs Facebook vivent l’horreur au travail

En début de semaine, le média spécialisé en technologie The Verge a publié un article percutant qui traitait des conditions de travail extrêmement difficiles des gens responsables de modérer les contenus téléversés sur la plus importante plateforme sociale au monde : Facebook.

En effet, l’enquête du journaliste Casey Newton, menée auprès d’employés actuels ou passés de Cognizant, un sous-traitant de Facebook, dépeint le métier comme étant horrible à bien des points de vue, surtout pour l’impact important que les heures passées à réviser des publications litigieuses — souvent très dark— peut avoir sur la santé mentale des gens le pratiquant. Les employés sont souvent laissés à eux-mêmes pour gérer leur anxiété, finissent par croire aux théories conspirationnistes tellement ils en consomment, se droguent pour geler leurs émotions et vont même jusqu’à développer des syndromes de choc post-traumatique en raison de leur travail.

Retour sur une enquête bouleversante.

D’abord, il faut savoir que les employés du bureau de Phoenix de Cognizant qui veillent à filtrer les milliards de contenus téléversés sur Facebook de façon quotidienne gagnent en moyenne 15 $ de l’heure (ou 28 000 $ par année), ce qui est au-dessus de la moyenne de l’état (11 $/heure). Leur temps est calculé à la seconde près, alors qu’ils ont deux pauses par jour — d’une durée de 15 minutes chacune — et qu’ils disposent de 30 minutes de diner. Ils ont aussi ce que l’entreprise appelle une « pause bien-être » de 9 minutes, afin de décompresser quand le besoin s’en fait ressentir.

Lorsqu’ils sont sur leur lieu de travail, les modérateurs sont constamment épiés afin, selon Cognizant, de veiller à ce que les informations des utilisateurs du réseau social soient protégées au maximum. Ils doivent donc laisser leur téléphone à l’entrée du bureau et n’ont pas droit d’avoir papier — même un simple emballage de gomme à mâcher — et crayon à leur bureau pour éviter qu’ils puissent prendre des notes.

Quand ils ont besoin de visiter le petit coin, les employés doivent souvent faire la file pendant de longues minutes — il arrive d’ailleurs qu’ils n’aient pas le temps de se rendre à la toilette lors de leur pause — puisque les installations ne sont pas suffisantes pour répondre à la demande.

Ça, ce ne sont que les conditions de base, qui, il faut le dire, ne sont pas particulièrement choquantes. Mais attendez, le pire est à venir.

Mais concrètement, ils font quoi, les modérateurs Facebook? Leur travail consiste surtout à réviser les publications qui ont été signalées par les utilisateurs Facebook, parce que jugées inappropriées. Une des ex-employées interrogées dans le cadre du reportage décrit un moment particulièrement saisissant, alors qu’elle était encore en formation : les nouveaux employés étaient tous réunis et devaient juger si une publication contrevenait à une des règles d’utilisation ou non devant leurs pairs. Ladite modératrice était debout devant un écran et s’apprêtait à voir une vidéo pour la première fois. Quand elle a appuyé sur Play, elle a pu voir un homme se faire poignarder plusieurs fois, alors qu’il implorait son assaillant de lui laisser la vie sauve. Après le visionnement, elle devait expliquer en quoi le contenu était inapproprié et quelle section de la politique Facebook il ne respectait pas, ce qu’elle a fait, la gorge nouée. C’est après avoir visionné cette horrible scène que cette employée s’est mise à faire des crises de panique à répétition.

Ce genre de scènes — tantôt morbides, tantôt pornographiques, tantôt haineuses —, les modérateurs de la plateforme en voient des centaines de façon quotidienne et sont poussés à en réviser autant que possible, tout en étant jugés sur leur évaluation des publications : ils ont une note sur 100 et perdent des points pour des mauvaises décisions — selon le jugement des superviseurs, qui n’est pas toujours constant par ailleurs. Une note qui descend sous la barre du 80 mène à des mesures disciplinaires, puis, éventuellement, à un congédiement. On s’attend aussi à ce qu’ils soient en mesure de le faire en restant froid et insensible. Sauf que c’est impossible ou presque d’y parvenir.

Même si Cognizant offre du soutien psychologique aux employés, ces derniers sont souvent laissés à eux-mêmes pour faire face à la détresse psychologique dont ils souffrent à cause de leur métier. Ce qui rend les choses encore plus dures, c’est qu’une entente de non-divulgation les empêche de parler de leurs soucis à leurs proches ou à n’importe qui à l’extérieur de leur lieu de travail, ce qui les pousse à s’isoler davantage et à subir les lourdes conséquences d’une anxiété constante seuls. Cette pratique amène les employés à créer des liens de proximité très forts, très rapidement puisqu’ils sont les seuls à pouvoir comprendre leur réalité.

Pour essayer de ne pas sombrer davantage dans le noir, certains d’entre eux fument de la marijuana lors de leurs pauses, d’autres ont des relations sexuelles dans des racoins de l’immeuble à bureaux. Il n’est aussi pas rare que des modérateurs tentent d’alléger l’ambiance en faisant des blagues très dark— sur le suicide, par exemple.

Des employés rencontrés dans le cadre de cette enquête racontent à quel point le fait de devoir réviser des publications litigieuses ont poussé certains de leurs collègues — ou même, parfois eux-mêmes — à adhérer à des conspirations, comme celles qui veulent que la Terre soit plate, que l’Holocaust ait été inventé de toute pièce ou que le 11 septembre était une inside job. L’omniprésence de la violence dans leur vie a aussi développé un profond sentiment d’insécurité chez certains modérateurs Facebook, à tel point quelques-uns d’entre eux se sont acheté une arme parce qu’ils craignent d’être attaqués au travail ou à la maison.

La plupart des employés ne peuvent occuper cet emploi qu’un an, tellement il affecte leur santé mentale. Plusieurs personnes rencontrées ont présenté des symptômes de stress traumatique secondaire — un trouble causé par une grande exposition à des traumatismes vécus par d’autres gens. Le travail est si dur que quelques anciens employés ont ressenti les effets d’un choc post-traumatique et ne peuvent être exposés à quelconque forme de violence — dans un film à la télé, par exemple — sans faire des crises de panique.

Un ex-modérateur de contenu a également mentionné qu’il avait d’importants troubles de santé mentale depuis son expérience. Il ajoute qu’il ne croit pas que quiconque peut occuper ce poste sur une longue période de temps sans subir de lourdes conséquences psychologiques.

Malheureusement, ce métier de justicier du web devra être occupé par des êtres humains pour un bon bout de temps encore puisque l’intelligence artificielle n’est pas encore assez développée pour lui confier ces lourdes tâches. La complexité des communications entre humains est beaucoup trop grande pour qu’un algorithme puisse en saisir toutes les subtilités, ce qui est absolument nécessaire pour faire la distinction entre une publication purement haineuse et de l’humour noir, par exemple. D’ici là, donc, de vraies personnes devront lire d’innombrables commentaires complètement déplacés flagués par des utilisateurs Facebook.

Ça fait une raison de plus d’y penser à deux fois avant d’écrire n’importe quoi sur les médias sociaux.

Si le sujet vous intéresse, on vous invite à lire l’enquête en entier, ici.