Une vidéo truquée, visant une actrice de Bollywood, illustre les travers de l'intelligence artificielle

NEW DEHLI | Une vidéo truquée montrant une jeune actrice de Bollywood en tenue de sport qui porte un ample décolleté, diffusée sur les réseaux sociaux, a déclenché des appels en faveur d'une réglementation de l'intelligence artificielle en Inde.

La comédienne Rashmika Mandanna a déclaré à ses 4,7 millions d'abonnés sur la plateforme X (anciennement Twitter) avoir été «vraiment blessée» à la découverte de son visage sur le corps d'une autre femme, dans une vidéo truquée.

Amplement diffusée sur les réseaux sociaux, la vidéo a indigné des membres du gouvernement et le milieu du cinéma de Bollywood.

«En tant que communauté, nous devons régler cela de toute urgence avant que nous soyons plus nombreux à être touchés par le vol d'identité», a écrit Rashmika Mandanna, qualifiant d'«extrêmement effrayante» la vulnérabilité de tous face à l'utilisation abusive de l'intelligence artificielle (IA).

«Aujourd'hui, en tant que femme et actrice, je suis reconnaissante à ma famille, mes amis et mes fans qui constituent mon système de défense et de soutien», a ajouté l'actrice.

«Mais si cela m'était arrivé quand j'étais à l'école ou à l'université, je ne peux vraiment pas imaginer comment j'aurais pu faire face à cette situation», a-t-elle poursuivi.

Le ministre indien des Technologies de l'information, Rajeev Chandrasekhar, a déclaré que ces vidéos truquées constituaient des formes de désinformation «pernicieuses et préjudiciables».

Elles doivent «être traitées par les plateformes» comme les y oblige la loi indienne, a-t-il écrit lundi sur X.

À l'instar de la majeure partie du monde, l'IA n'est pas réglementée en Inde. En revanche, selon le ministre, la loi indienne exige des réseaux sociaux de traiter et d'éliminer toute désinformation dans les 36 h, une fois signalée.

Une ancienne vidéo dans laquelle apparaissait Zara Patel, une influenceuse anglo-indienne sur Instagram, a servi à combiner son corps avec la tête de l'actrice.

Zara Patel a affirmé n'avoir en rien participé à cette manipulation et s'est dite elle-même «profondément perturbée et bouleversée».

«Je m'inquiète pour l'avenir des femmes et des filles qui doivent désormais craindre davantage encore de s'afficher sur les réseaux sociaux», a souligné l'influenceuse, dans un message adressé à ses 450 000 abonnés Instagram.

Les vidéos truquées prolifèrent en ligne dans le monde entier, salissant des réputations. Selon une étude réalisée en 2019 par Sensity, société néerlandaise d'intelligence artificielle, environ 96% de ces vidéos sont constitués d'images pornographiques manipulées, portant atteinte aux femmes.

En 2018, une célèbre journaliste, critique du premier ministre Narendra Modi, avait été victime d'une campagne de harcèlement avec la diffusion massive de vidéos truquées de façon à la montrer dénudée.

Les réseaux sociaux, extrêmement populaires en Inde, véhiculent une multitude de fausses informations attisant les divisions politiques et religieuses, susceptibles d'avoir parfois incité de sanglantes émeutes.