Images indécentes: de jeunes élèves génèrent des photos nues de leur camarade de classe

Les écoles doivent agir en toute urgence pour se munir de systèmes de blocage adéquats tandis que de jeunes élèves utiliseraient l’intelligence artificielle pour générer des photos nues «terriblement» réalistes de leur camarade de classe, a averti une organisation britannique.  

«La qualité des images que nous voyons est comparable aux photos professionnelles d'enfants prises chaque année dans des écoles à travers le pays», a comparé Emma Hardy, directrice du Centre britannique de sécurité Internet (UKSIC), selon «The Guardian» lundi. 

Depuis peu, les écoles primaires britanniques seraient ainsi aux prises avec un problème grandissant de jeunes élèves qui généreraient par intelligence artificielle (IA) du matériel d'abus sexuel avec le visage de leur camarade de classe, sans réfléchir aux risques, a déploré l’organisation. 

«Ces types de comportements nuisibles devraient être anticipés lorsque les nouvelles technologies [...] deviendront plus accessibles au public. Les enfants explorent peut-être le potentiel des générateurs d’images de l’IA sans pleinement apprécier les dommages qu’ils peuvent causer», a indiqué de son côté David Wright, également directeur pour l’UKSIC.

Mais si à l’heure actuelle, le nombre de cas serait encore faible, les écoles ne devraient pas tarder à mettre en place différentes mesures, comme de meilleurs systèmes de blocage contre les contenus pédopornographiques, avant que le problème ne s’aggrave, a-t-il martelé au média britannique. 

«Les enfants doivent être avertis que [ces images] peuvent se propager sur Internet et finir par être vu par des inconnus et des prédateurs sexuels. Le potentiel d’abus de cette technologie est terrifiant», a poursuivi sa collègue. 

Cet avertissement survient seulement un mois après que la Fondation de surveillance Internet ait levé le drapeau rouge au sujet de ces images indécentes ultraréalistes, qui peuvent tromper même les plus avertis, et «menacent de submerger Internet», a rappelé «The Guardian».