Les réseaux sociaux veulent identifier plus facilement les contenus générés par l'IA

Avec le développement des outils basés sur l'IA, la génération de contenus n'a jamais été aussi facile. Mais face aux «deepfakes» et autres contenus générés par l'intelligence artificielle, certains réseaux sociaux ont décidé d'agir. Sur TikTok, un nouvel outil permettra d'étiqueter ce genre de contenus.

• À lire aussi: L'auteur de Game of Thrones et d'autres écrivains portent plainte contre OpenAI

• À lire aussi: Amazon ajoute de l'intelligence artificielle générative dans Alexa

• À lire aussi: À VOIR | Les œuvres étonnamment géométriques créées avec l'IA par un artiste captivent les médias sociaux

Sur TikTok, les «deepfakes» de Tom Cruise avaient fait sensation au début de l'année 2021. Un deepfake est un «hypertrucage» qui permet de recréer la voix et le physique d'une personne grâce à une intelligence artificielle. Souvent bluffants de réalisme, ces contenus peuvent prêter à confusion sur les réseaux sociaux si des utilisateurs ne comprennent pas qu'il ne s'agit pas du véritable acteur ou de l'actrice en question. En effet, les créateurs de ces contenus n'ont pas l'obligation de notifier aux utilisateurs le recours à l'IA dans leur contenu.

Ce n'est désormais plus le cas. TikTok vient de lancer une nouvelle étiquette qui signalera les vidéos générées par l'intelligence artificielle. Les créateurs de contenus devront l'appliquer à «tout contenu entièrement généré ou modifié de manière significative par l'IA», comme l'explique TikTok dans l'annonce officielle. Cette nouveauté permettra par ailleurs aux créateurs de se conformer à la politique relative aux médias synthétiques mise en place en mars derniers. «Cette politique exige que les contenus générés par l'IA et contenant des images, du son ou des vidéos réalistes soient étiquetés, afin d'aider les spectateurs à replacer la vidéo dans son contexte et d'empêcher la diffusion potentielle de contenus trompeurs. Les créateurs peuvent désormais le faire au moyen du nouveau label (ou d'autres types d'informations, comme un autocollant ou une légende)». Dans le cas où un créateur ne respecterait pas cette nouvelle règle, il s'expose à voir son contenu supprimé de l'application.

• Écoutez la chronique de Cybèle Olivier, journaliste à la recherche via QUB radio :

Mais si la plateforme laisse la main aux créateurs pour ajouter eux-mêmes ce tag, le géant chinois a tout de même planché sur un moyen de reconnaître automatiquement ces contenus. «Cette semaine, nous commencerons à tester un label "généré par l'IA" que nous prévoyons d'appliquer automatiquement au contenu dont nous détectons qu'il a été édité ou créé avec l'IA. Afin de clarifier davantage les produits TikTok alimentés par l'IA, nous renommons également les effets TikTok AI afin d'inclure explicitement 'AI' dans leur nom et dans l'étiquette d'effet correspondante, et nous avons mis à jour nos lignes directrices pour les créateurs d'Effect House afin de faire de même», précise le réseau social.

Le groupe Meta travaille aussi sur une fonctionnalité permettant d'avertir qu'un contenu a été généré par l'IA. Et les autres plateformes devraient également suivre le même chemin.

Ces nouvelles fonctionnalités ne sont pas uniquement dues à la stratégie des réseaux sociaux pour contrer les deepfakes mais bien à l'obligation des plateformes de respecter le Digital Services Act. Ce Règlement européen sur les services numériques oblige à identifier de tels contenus générés par l'IA dans un souci de transparence depuis le 25 août dernier.

Le Parlement européen a adopté par ailleurs en juin dernier une législation visant à encadrer et réglementer l'usage de l'intelligence artificielle. L'«AI Act» devrait être finalisé d'ici la fin de l'année, après discussions et négociations entre le Parlement, la Commission et le Conseil de l'Union européenne. L'intelligence artificielle est également au centre d'un projet de réglementation en Chine, le «Measures for Generative Artificial Intelligence Services». A Washington, les discussions sont également en cours pour déterminer comment réguler ces nouvelles technologies sur internet à l'approche de l'élection présidentielle américaine de 2024.