mars 14

La censure à l’ère des algorithmes

Sur les réseaux sociaux, la modération est désormais grandement réglementée par des algorithmes, une automatisation qui pose question et connaît des dérives.

Mathias Enthoven, directeur des programmes au sein du média « Blast », s’est récemment plaint d’une censure de la part de YouTube. En effet, une vidéo publiée il y a quelques jours par « Blast » s’est vue imposer une limite d’âge par YouTube. Ces restrictions étaient dues à la présence d’images montrant des civils blessés, et donc classé comme choquant par l’algorithme. Il fallait certifier être majeur pour pouvoir la visionner. Cependant, des médias plus main-stream, ayant diffusé ces mêmes images sur leurs chaînes YouTube n’ont, quant à eux, rencontré aucune censure. Une limite d’âge qui restreint grandement la visibilité de la vidéo. En effet, en plus des mineurs, les personnes ne disposant pas d’un compte YouTube ne peuvent pas accéder non plus à la vidéo, étant donné qu’elles ne peuvent certifier leur âge. Pour des médias centrés sur Internet comme c’est le cas pour « Blast », la baisse de visibilité résultant de ces limitations d’âge peut donc s’avérer fatale. De même que pour les vidéastes dont la rémunération repose uniquement sur la monétisation de leurs vidéos.

Des sanctions à géométrie variable

À l’inverse, l’algorithme laisse parfois passer entre les mailles du filet des vidéos plus que problématiques. Des vidéos pornographiques par exemple restent souvent disponibles, plusieurs jours, en toute impunité et sans limite d’âge. Entre sévérité extrême et laxisme, il est donc difficile de savoir sur quel pied danser avec YouTube. Les limites de l’automatisation à outrance sont rapidement observables.
Il semble également y avoir une certaine hiérarchisation de ce que les réseaux considèrent comme choquant. Sur Instagram, il est par exemple très fréquent de tomber sur des vidéos de MMA, un sport de combat considéré comme l’un des plus violents au monde, le CSA déconseillant le visionnage de matchs de MMA en dessous de 16 ans. Générant beaucoup de réactions, ces vidéos où l’on voit parfois de violents KO ou bien des effusions de sang, apparaissent donc dans le fil d’actualité de nombreux d’utilisateurs. Instagram étant autorisé dès l’âge de 13 ans, des enfants peuvent tomber par pur hasard sur ces images violentes pour les plus sensibles. À l’inverse, les algorithmes peuvent s’avérer être d’une fermeté implacable sur d’autres sujets.

La chasse aux sorcières contre le nu

Plus que la violence, c’est la nudité qui semble être avant tout ciblée par les algorithmes. Cela donne lieu à des scènes irréalistes, relevant d’une censure tout droit sortie du siècle précédent. C’est notamment le cas sur la plate-forme de streaming en live Twitch. Le journaliste Samuel Etienne en avait lui-même fait les frais, après avoir montré brièvement à la caméra un article du « Parisien » où l’on pouvait voir une photo de l’actrice Nicole Paquin nue, de dos. Immédiatement repérée par les robots de Twitch, cela lui avait valu 3 jours de bannissement de la plateforme. Situation plutôt cocasse, ces images ayant fait scandale, surtout chez les puritains en 1961. Des règles strictes, à l’apparence rétrograde qui ne cessent de se multiplier et que l’on retrouve pratiquement sur tous les réseaux sociaux numériques.
C’est aussi le cas de Facebook qui va même plus loin en censurant des photos d’œuvres d’art. Cela a par exemple été le cas avec la « Vénus de Willendorf », une sculpture qui représente une femme nue, avec des traits pourtant très grossis et éloignés du réalisme. Voir ainsi censurée une œuvre d’art vieille de 30 000 ans, considérée par beaucoup comme un incontournable de l’histoire de l’art, avait particulièrement agacé les amateurs. L’académie des beaux-arts s’était penchée immédiatement sur le sujet, en déclarant « les plateformes de diffusion ne sauraient s’arroger le droit de censurer la diffusion d’une œuvre d’art au seul motif que la représentation de celle-ci n’entre pas complètement dans les critères qu’elles ont établis ».

Un mal nécessaire

Il est pratiquement certain que si les vérifications avaient été faites par un humain, la sculpture n’aurait pas été censurée. En effet, il est complexe pour un algorithme d’être assez précis pour faire ce genre de nuance. Cependant, les algorithmes ne sont pas à bannir pour autant. Les réseaux sociaux grimpent de plus en plus en activité et les nouvelles publications se comptent quotidiennement par millions (sur YouTube par exemple, ce n’est pas moins de 500 h de vidéo qui sont ajoutées chaque minute.). Une vérification manuelle, uniquement faite par des humains s’avère donc impossible d’un point de vue organisationnel. Il existe tout de même des modérateurs, qui contrôlent le plus possible le travail des algorithmes. Leurs conditions de travail sont très rudes, étant quotidiennement exposés à des images plus que choquantes. Car oui, la réalité des réseaux sociaux, ce sont aussi des vidéos de pédophilie, de meurtres, d’ode au terrorisme. Des horreurs qui s’avèrent traumatisantes chez les modérateurs devant réguler toutes ces images illicites. Vouloir supprimer les algorithmes n’est donc pas une solution viable d’un point de vue logistique et tout simplement humain. Il est nécessaire de cohabiter avec eux sur les plateformes. Le contrôle et la régulation des algorithmes risquent de faire partie des tournants de l’ère du numérique, puisqu’ils sont voués à être omniprésents.