Burcu Gültekin Punsmann, une ancienne employée de l’un de ces centres de modération, à Berlin, dévoile les conditions de travail infernales de ces sortes d'éboueurs des rézosocios : les journées sont interminables, le salaire misérable et ils doivent brasser entre 1000 et 2000 contenus par jour. Ils sont obligés de suivre des règles difficiles à comprendre et qui changent souvent. Par exemple, une phrase telle que "Les migrants sont de sales cafards qui vont infecter notre pays" est interdite et doit être supprimée. Mais des propos comme "Les migrants sont tellement sales" ou "Les demandeurs d'asile dehors !" sont autorisés. Le pire, c’est que ces travailleurs ne bénéficient d’aucun soutien psychologique pour les aider à affronter les horreurs qu’ils doivent regarder toute la journée. Attention, il faut avoir le coeur bien accroché pour lire ces lignes :

Sans euphémisme, le contenu est violent. J’ai travaillé dans la consolidation de la paix et l’humanitaire dans des zones de conflit. Pourtant, j’étais loin d’imaginer, avec mon expérience d’utilisateur, que la violence pouvait être si présente dans les réseaux sociaux.

Des textes, des images, des vidéos n’arrêtent pas de défiler. Il n’y a aucun moyen de se préparer à ce qui va apparaître à l’écran. Il n’y a pas de temps pour faire mentalement les adaptions nécessaires. On est dans une condition de stress perpétuel.

Le processus mental devenait plus difficile dans les cas où je ne pouvais pas m’empêcher d’avoir de l’empathie. Voir du sang et des corps brûlés ou mutilés, ce n’était pas le pire. J’ai appris à surmonter mon dégoût. Le pire, c’était quand je trouvais quelque chose qui me connectait avec ces personnes, un petit détail qui humanisait les corps et surpassait mon réflexe de répulsion. Voir la détresse des survivants était aussi extrêmement dur. Mais ce qui était vraiment le plus affreux, c’était les vidéos de torture, spécialement quand il s’agissait d’enfants.”

J’ai dû démissionner parce que je voyais que je commençais à développer une forme de déformation professionnelle : une forme d'hyper-vigilance (surtout concernant les risques par rapport à ma famille). Je rêvais de mon job et ma perception de la réalité changeait. L’horrible shooting de Las Vegas me semblait complètement normal.

Les vidéos de décapitations sont les contenus les plus craints par les modérateurs. (...) ISIS n’était pas la seule source de ce type de vidéos. Beaucoup d'entre elles provenaient de la guerre des cartels de drogue en Amérique latine, du massacre des Rohingya au Myanmar et même des frontières sud de mon pays (la Turquie, ndlr).”

Quelles sont les motivations qui poussent les gens à poster de telles images ? La plupart des vidéos que j’ai supprimées n’étaient pas liées à des sources affiliées à ISIS. S’agit-il de pur sadisme ou de désir de montrer la violence ? Ou d’attirer l’attention des gens en postant du contenu choquant ?

Si Facebook investit dans l’IA pour décharger ses employés, nous aurons encore besoin d’humains pendant longtemps pour trier nos publications ordurières. En attendant, espérons que le réseau devienne un peu plus transparent sur les conditions de travail et la charge psychologique liés au boulot.