Une ancienne star de Disney au cœur d’une controverse sur une app IA ressuscitant les proches décédés
Rosalie Simard
Le deuil est un passage obligé. Que ce soit pour un proche, un ami et même un être à quatres pattes. Est-ce qu'on arrive toutefois à une ère dystopique à la Black Mirror? Une ancienne vedette de Disney est dans la controverse pour amener l'intelligence artificielle au service de la mort.
• À lire aussi: Cette plateforme virale de notre adolescence fait un grand retour et on y court!
• À lire aussi: ChatGPT s’ouvre aux conversations érotiques pour adultes et voici ce que tu dois savoir
Calum Worthy (connu pour son rôle dans Austin & Ally entre 2011 et 2016) est maintenant cofondateur d’une application d’intelligence artificielle très controversée : 2wai. Cette application promet de donner une «deuxième vie» à des proches décédés grâce à quelques minutes de vidéo (seulement trois, selon ce qui est annoncé). En d'autres mots, on pourrait créer un avatar numérique d’une personne disparue.
Comment fonctionne 2wai?
1. L’utilisateur filme un proche tant qu’il est vivant (mouvement, parole) sur un court clip de trois minutes.
2. L’app génère un « HoloAvatar » : un personnage numérique qui parle, bouge, et même simule des souvenirs.
3. Dans la publicité promotionnelle de 2wai, une femme enceinte converse avec l’avatar de sa mère décédée. Puis, des années plus tard, son fils (adulte) lui parle aussi, comme si la grand-mère « était toujours là ».
4. Le slogan de l’app : «With 2wai, three minutes can last forever».
Avec toutes les archives possibles d'un individu de son vivant, aussi nombreux puissent-elles être maintenant avec la technologies qui avance à pas de géants, il serait donc possible de créer sur mesure un avatar avec la voix, le visage et le caractère global d'un individu en prévision de son départ.
Les réactions en vague contre cette intelligence artificielle
Les réactions ne se sont pas fait attendre. Beaucoup dénoncent l’exploitation du deuil : selon eux, l’app pourrait encourager à s’accrocher à une illusion, plutôt que d’accepter la mort d’un proche et de vivre le deuil et les moments difficiles et plus doux qui viennent en ce sens.
Certains critiques vont plus loin, en affirmant notamment que c'est une manière sordide de profiter de la peine de perdre un proche.
Les questions s'enchaînent sur la moralité d'une telle intelligence artificielle alors que plusieurs s’inquiètent d’un impact psychologique important: une personne vulnérable pourrait s’attacher trop fortement à l’avatar, voire confondre l’IA avec la personne réelle. La dimension éthique est aussi mise sur la table: qui «possède» ces avatars? Quels droits sur l’image d’une personne décédée?
Sertains ont qualifié l’idée de «démoniaque, malhonnête et déshumanisante».
De plus, est-ce qu'avec une évolution de ce type d'application, des personnes prêtent à payer un fort prix pourront bénéficier de plus de «temps» avec un avatar qui se veut une image d'un être aimé? Des questions hallucinantes, mais bien réelles.
Au-delà de la nostalgie ou de la préservation culturelle, les critiques insistent : la ligne entre mémoire, consolation et manipulation est mince. Certains psychologues disent que ce type d’outil pourrait créer une dépendance émotionnelle, voire aggraver le deuil. On ne parle plus ici de photos à regarder pour se souvenir et se consoler.
La défense de 2wai
Les portes-parole de 2 wai se sont prononcés. Chez eux, on défend une vision ambitieuse: cette technologie pourrait servir non seulement à recréer des proches, mais aussi à préserver des figures historiques. Worthy lui même mentionne que l’app propose des avatars de personnalités comme William Shakespeare ou Frida Kahlo, qui pourraient servir comme assistants d’apprentissage ou “tuteurs immortels”.
L’initiative de Calum Worthy et 2wai met le doigt sur un débat très contemporain: jusqu’où l’IA peut-elle intervenir dans un processus humain aussi significatif que le deuil? L'intelligence artificielle est déjà très (trop?) rapide pour pouvoir se poser et se questionner avec profondeur.
L'IA est sur toutes les lèvres. Il est difficile de tracer la ligne entre l'utile, l'émotif et le toxique.
