L’IA Darth Vader dans Fortnite dérape solidement

Epic Games a récemment ajouté un compagnon en intelligence artificielle (IA) dans Fortnite qui reprend non seulement l’apparence de Darth Vader, mais aussi sa voix. Rapidement, le personnage s’est mis à tenir des propos douteux, et maintenant, le syndicat SAG-AFTRA s'en mêle.

• À lire aussi: Netflix va ajouter des publicités générées par l’IA pendant vos diffusions

• À lire aussi: Nintendo freine les rumeurs: aucune IA générative dans Mario Kart World

Le compagnon Darth Vader, introduit dans Fortnite en mai, utilise une IA conversationnelle basée sur les modèles Gemini 2.0 Flash de Google et Flash v2.5 d’ElevenLabs. Il s’agit d’une «fonctionnalité expérimentale», selon Epic Games. Le personnage reproduit donc la voix du regretté James Earl Jones, avec l’accord de la famille de l’acteur.

«James Earl Jones lui-même disait que la voix de [Darth Vader] était un élément essentiel de l'histoire de Star Wars. Il a toujours souhaité que les fans, petits et grands, puissent continuer à en profiter. Nous espérons que cette collaboration avec Fortnite permettra aux anciennes et aux nouvelles générations de fans de partager un moment inoubliable aux côtés de ce personnage emblématique de l'univers de Star Wars,» déclare sa famille dans un communiqué.

Il n’a pas fallu longtemps pour que l’IA commence à tenir des propos racistes, homophobes et vulgaires, toutefois. Epic Games demande aux joueurs de signaler toute dérive, mais de nombreux clips sont rapidement devenus viraux en ligne. Une situation qui ne doit certainement pas plaire à Disney.

Dans une déclaration au média Kotaku, un représentant d’Epic Games dit qu’une mise à jour a été rapidement déployée pour corriger le langage odieux employé par l’IA. 

Le syndicat SAG-AFTRA (Screen Actors Guild–American Federation of Television and Radio Artists), qui représente aussi les actrices et acteurs dans le monde du jeu vidéo, s’est exprimé sur le cas de Darth Vader et Fortnite.

«Nous célébrons le droit de nos membres et de leurs héritiers à contrôler l’utilisation de leurs répliques numériques, et nous accueillons favorablement les nouvelles technologies permettant aux nouvelles générations de profiter de ces héritages et de ces rôles emblématiques. Cependant, nous devons protéger notre droit de négocier les conditions concernant les utilisations de la voix qui remplacent le travail de nos membres, y compris ceux qui ont auparavant reproduit le rythme et le ton emblématiques de Darth Vader dans les jeux vidéo», peut-on lire.

«La société signataire de Fortnite, Llama Productions, a choisi de remplacer le travail des interprètes humains par une technologie d’intelligence artificielle. Malheureusement, elle l’a fait sans nous informer de son intention et sans négocier avec nous des conditions appropriées,» ajoute le collectif, qui a déposé une plainte auprès du National Labor Relations Board (NLRB).

Le NLRB doit maintenant examiner la plainte. Si elle est retenue, une enquête ou une audience pourrait suivre. Dans le cas où une infraction est constatée, Epic Games pourrait être contraint de déployer d’autres correctifs ou même de retirer le personnage. À suivre.