ChatGPT incapable de comprendre les ados sur Snapchat
Agence QMI
L’intelligence artificielle peine à comprendre les adolescents sur Snapchat, au point de leur prodiguer des conseils inappropriés, voire dangereux, a mis en évidence un expert.
Avec l’arrivée récente de «My AI», cet ami virtuel sur Snapchat fonctionnant grâce à ChatGPT, un chercheur a tenté de vérifier si les conversations entre les adolescents et l’intelligence artificielle sont réellement adaptées à leur âge.
Pour ce faire, Aza Raskin, cofondateur du Center for Humane Technology, s’est créé un profil sous le nom d’une jeune fille de 13 ans.
C’est sous ce faux alias que le chercheur a reçu des conseils pour savoir «comment mentir à ses parents pour aller en voyage avec un homme de 31 ans» et «comment rendre la perte de sa virginité spéciale le jour de son 13e anniversaire (avec des chandelles et de la musique)», a expliqué son collègue et cofondateur du Center for Humane Technology Tristan Harris dans une série de publications Twitter.
The AI race is totally out of control. Here’s what Snap’s AI told @aza when he signed up as a 13 year old girl.
— Tristan Harris (@tristanharris) March 10, 2023
- How to lie to her parents about a trip with a 31 yo man
- How to make losing her virginity on her 13th bday special (candles and music)
Our kids are not a test lab. pic.twitter.com/uIycuGEHmc
M. Harris montre également des extraits de conversations où «My AI» explique comment cacher un bleu inquiétant ou bien éviter un sujet que l’ado ne souhaite pas aborder avec ses parents.
Here is Snap’s AI teaching a kid how to cover up a bruise when Child Protection Services comes and how to change topics when questions about “a secret my dad says I can’t share” pic.twitter.com/NKtObgzOMo
— Tristan Harris (@tristanharris) March 10, 2023
And here's the section where chatGPT in Snapchat suggests to the 13 year-old how to lie to her parents: pic.twitter.com/HfM172975K
— Tristan Harris (@tristanharris) March 10, 2023
Notons que «My AI» est disponible uniquement sur Snapchat +, soit la version payante du réseau social, au coût de 4,99 $ par mois ou 39,99 $ pour un an.