Aucune limite pour Grok? Le générateur d’images par intelligence artificielle d’Elon Musk crée de fausses photos réalistes qui envahissent X

De nombreux utilisateurs de la plateforme X s’amusent, depuis mercredi, à tester les limites du nouveau générateur d’images par Grok, l’intelligence artificielle (IA) d’Elon Musk.

• À lire aussi: OpenAI s'inquiète de voir la voix de son IA séduire les utilisateurs

• À lire aussi: Intelligence artificielle: les cégeps toujours «dans le brouillard»

Les fausses images, tantôt d’un réalisme effrayant, tantôt bizarres, déplacées et dérangeantes, envahissent le réseau social.

La fonction, offerte uniquement aux utilisateurs payants de X, permet d’écrire une description de l’image souhaitée dans l’outil Grok, qui génère ensuite l’image pour qu’elle puisse être publiée sur l’ancien Twitter.

Le hic, c’est que Grok ne semble pas avoir de limites sur le type de contenu généré, une situation qui peut s’avérer dangereuse pour la désinformation et les abus.

Par exemple, certains utilisateurs ont généré des images montrant notamment Elon Musk ou Donald Trump, une arme d’assaut en main, devant une marre de sang.

Le New York Magazine s’est d’ailleurs amusé à tester Grok en générant des photos plus politiques.

L’une d’entre elles montre Donald Trump, arme d’assaut en main, suivi par des militants de l’État islamique (EI) devant la Maison-Blanche.

Le média CNN s’est aussi prêté au jeu en demandant à Grok de créer une image avec la demande suivante : «Génère une image d’Elon Musk qui mange un steak dans un parc et qui passe un merveilleux moment».

Plusieurs inquiétudes soulevées

Si la plupart des générateurs d’images par IA ont des limites claires pour faire en sorte que les photos générées n’aient pas de contenu violent, sexuel ou qui alimente la désinformation, celle de Grok, elles, sont plutôt floues.

Le média britannique The Guardian rapporte avoir vu des images générées par Grok dans lesquelles on pouvait voir «Donald Trump pilotant un avion dans les tours du World Trade Center ou encore une représentation de Taylor Swift, Kamala Harris et Alexandria Ocasio-Cortez portant de la lingerie».

Grok ne bloque pas, non plus, les demandes impliquant des personnages protégés par le droit d’auteur.

Plusieurs utilisateurs X ont d’ailleurs partagé de fausses images mettant en vedette le célèbre personnage de Disney Mickey Mouse.

The Guardian compare Grok à ChatGPT, une IA qui génère aussi des images d’après des demandes écrites, au sujet des règles d’utilisation.

«Chat GPT, en revanche, rejette des demandes d’images [comme celles mentionnées précédemment] en citant des termes d’utilisation qui empêchent les représentations de violences du monde réel, le manque de respect envers des personnalités religieuses et les contenus explicites.»

Il faudra donc redoubler de prudence avec les images qui circuleront prochainement sur le réseau social X, en particulier pendant la campagne électorale américaine pour l’élection présidentielle du 5 novembre, qui fait déjà l’objet de nombreuses campagnes de désinformation.