«Il y a un risque»: des contenus violents proposés aux ados sur les médias sociaux inquiètent

Malgré les nombreux dispositifs mis en place par les médias sociaux pour limiter la violence proposée à leurs utilisateurs mineurs, plusieurs adolescents y sont quand même exposés et parfois même contre leur gré.

• À lire aussi: Voici 4 choses à savoir sur Telegram, cette application utilisée par les organisations criminelles et terroristes

C’est ce que révèle la BBC dans un article qui présente le cas d’un garçon de 16 ans qui est tombé sur du contenu violent sur TikTok comme une vidéo d’une personne se faisant happer par une voiture ou des combats sans qu’il ne sache pourquoi.

Aujourd’hui âgé de 18 ans, le jeune homme avance qu’il n’est pas le seul dans son entourage à avoir été exposé à ce type de contenu au cours des dernières années.

Un ex-analyste de la sécurité du réseau social TikTok ayant aussi travaillé pour Meta, Andrew Kaung, explique au média anglais que les algorithmes sont guidés en grande partie par l’engagement de l’utilisateur envers une publication, qu’il soit positif ou négatif.

Par exemple, si un utilisateur commente une vidéo violente pour dire qu’il n’aime pas ce contenu, l’algorithme pourrait être porté à lui proposer davantage de contenu du genre étant donné qu’il y a porté attention.

Des adolescents pourraient également être exposés à ce type de contenu en raison de l’intérêt que d’autres personnes de leur âge y portent.

De leur côté, les compagnies derrière ces plateformes comme Meta ou TikTok disent avoir mis en place des dispositifs pour que la quasi-totalité des contenus qui ne respectent pas leurs conditions d’utilisation soit rapidement retirée par l’IA ou des modérateurs humains.

Cependant, Andrew Kaung avance que les employés de ces multinationales sont très peu au courant du type de contenu qui est concrètement proposé à leurs utilisateurs mineurs étant donné qu’ils travaillent surtout avec des statistiques concernant l’engagement et très rarement sur ce que contiennent les images et vidéos qui sont relayés.

Des impacts réels

En entrevue à LCN, la neuropsychologue Dre Johanne Lévesque se dit étonnée du peu d’attention que les algorithmes portent à la promotion de ce type de contenu à des mineurs.

«Ce qui m’a vraiment surpris c’est que le jeune est prisonnier de cette espèce de contenu violent sans qu’il n’ait nécessairement voulu en avoir, juste parce qu’autour de lui [...] il y avait des préférences sur le type de contenu, dit-elle. J’ai trouvé ça un peu inquiétant.»

«Ce qui m’a frappé aussi c’est quand ils disaient que notre cerveau est imprégné, il est teinté du contenu qu’on a regardé, donc il ne faut pas sous-estimer l’impact de ce contenu-là», ajoute-t-elle.

Ces images laissent leur marque sur les jeunes.

«Le principe même des médias sociaux, c’est de faire en sorte qu’on y revienne et qu’on y revienne et qu’on y revienne, donc il y a une forme de conditionnement à vouloir y retourner, à vouloir revoir ce qu’on aime», mentionne l’experte.

«Mais quand on nous envoie des choses qu’on n’a pas désirées, l’effet est quand même là, c’est-à-dire qu’on va être conditionné et imprégné de ce contenu-là, avec tous les risques qui peuvent s’en suivre», continue-t-elle.

Les jeunes pourraient être plus enclins à adopter les comportements problématiques qu’ils consultent sur les médias sociaux.

«Dans la dernière année, on a beaucoup parlé d’influenceurs d’extrême droite qui avaient un discours excessivement misogyne justement et très violent envers les femmes, indique Mme Lévesque. Il y a énormément de jeunes qui les suivaient et qui adoptaient ces comportements.»

«Il y a un risque d’adoption de ce type de discours et de comportements, que ça se traduise par des gestes au quotidien ou que ce soit à travers des commentaires désobligeants envers les femmes, renchérit-elle. Si on pousse ça à l’extrême, on pourrait s’inquiéter d’un comportement plus violent en société.»

Voyez l’entrevue complète dans la vidéo ci-dessus