Avant de vous mettre en relation avec une copine virtuelle IA, lisez ceci

L’industrie des rencontres en tous genres est vite sur ses patins, comme on dit chez nous. Aujourd’hui, elle a une très bonne idée de ce qu’elle peut réaliser avec la puissance des systèmes et des outils d’intelligence artificielle (IA). 

Nées depuis l’an dernier à peine, les «copines IA» inondent déjà le magasin GPT, malgré les règles et les barrières mises en place par la société OpenAI, tandis que d’autres prolifèrent sur les boutiques d’applications mobiles App Store et Google Play Store.

Le moteur de tout ceci: l’éternelle solitude des gens

Dans un contexte d'épidémie de solitude, l'essor des robots conversationnels et des partenaires romantiques mise sur une ressource inépuisable: l’isolement de centaines de millions de gens.

La prolifération de ces applications se produit alors que les États-Unis (et on peut inclure le Canada et l’Occident en général) sont confrontés à une épidémie de solitude et d'isolement. Des études alarmantes montrent qu'un Américain adulte sur deux a déclaré souffrir de solitude, et l’administration américaine US Surgeon General a appelé à la nécessité de renforcer les liens sociaux.

Mais des chercheurs ont découvert que ces robots conversationnels ne sont pas les meilleurs amis lorsqu'il s'agit de protéger des secrets.

«Confidentialité non incluse»

Ceux de la Fondation Mozilla ont publié Privacy Not Included, un guide destiné aux consommateurs qui évalue les politiques de confidentialité des produits technologiques et autres. Elle a «examiné 11 robots conversationnels commercialisés en tant que compagnons romantiques et a constaté qu’ils étaient assortis d'étiquettes d'avertissement, les plaçant au même niveau que les pires catégories de produits jamais examinées en matière de confidentialité».

De plus, certaines politiques de confidentialité, comme celles de Chaï, datent de plus de trois ans, soit bien avant l’avènement de l’IA en ligne, et sont donc tout à fait inadaptées aux robots conversationnels gérés par IA.

Des «copines IA» très bavardes sur vos petits secrets: 24 354 traceurs de publicité en une minute!

Votre vie privée avec les robots conversationnels romantiques? Oubliez ça, tous vos désirs et secrets inavouables seront soigneusement stockés et revendus sur tous les serveurs publicitaires.

Prenons Romantic AI, un service qui vous permet de «créer votre propre petite amie IA». Les images promotionnelles de sa page d'accueil montraient, selon Mozilla, un robot conversationnel envoyant un message disant: «Je viens d'acheter de la nouvelle lingerie. Tu veux la voir?» Selon l'analyse des chercheurs, les documents relatifs à la protection de la vie privée de l'application indiquent que celle-ci ne vendra pas les données des utilisateurs. Cependant, lorsque ceux-ci ont testé l'application, ils ont constaté qu'elle «envoyait 24 354 traceurs de publicité en une minute d'utilisation». D'autres applications contrôlées en envoyaient plus d'une centaine (témoins de pistage).

Le robot conversationnel est-il une personne?

Selon les constatations de Mozilla, près de la moitié des applications (54%) ne vous permettent pas de supprimer vos données personnelles.

D'après ce qu'elles disent, la moitié seulement des applications accordent à tous les utilisateurs le droit de supprimer leurs données personnelles. Mais sachez que vos conversations ne sont pas toujours prises en compte. Même si les conversations romantiques avec votre âme sœur IA vous semblent privées, elles ne seront pas nécessairement considérées comme des «informations personnelles» et ne feront pas l'objet d'un traitement particulier. Souvent, comme le dit Romantic AI, «la communication via le robot conversationnel appartient au logiciel».

En d’autres mots, le «logiciel» est considéré comme une «personne», donc cette personne a le droit de conserver ses propres conversations – et les vôtres –, comme n’importe qui peut enregistrer ses conversations.

Courte liste des sites de romance IA

Si vous tapez dans la case recherche «romantic ai» de l’application App Store d’Apple (onglet Apps iPhone et iPad) de votre Mac, la liste d’applis disponibles est très, très longue.

Mais concentrons-nous sur les applications romantiques IA étudiées par Mozilla.

• EVA AI https://evaapp.ai/app Site alternatif: Eden AI: https://edenai.world/
• Anima: Virtual AI Girlfriend https://girlfriend.myanima.ai/
• Anima: Virtual AI Boyfriend https://boyfriend.myanima.ai/
• Romantic AI: https://romanticai.com/
• Chaï: https://www.chai-research.com/
• Talkie Soulful: https://www.talkie-ai.com/
• Genesia AI Friend & Partner (applis mobiles seulement): https://www.codeway.co
• CrushOn: https://crushon.ai/fr et CrushOn Pro (adultes)
• Mimico – Your AI Friends (applis seulement)
• Replika https://replika.ai/

Conseils pour protéger votre vie privée, selon Mozilla 

• Ne divulguez pas d’informations sensibles lors de vos conversations avec votre partenaire généré par l’IA. 
• Exigez la suppression de vos données lorsque vous cessez d’utiliser l’application. La simple suppression d’une application de votre appareil ne permet généralement pas d’effacer vos données personnelles ni de clôturer votre compte. 
• Ne consentez pas au suivi continu de votre géolocalisation par l’application. Il est préférable de fournir la géolocalisation «uniquement pendant l’utilisation de l’application». 
• Ne partagez pas de données sensibles via l’application. 
• N’autorisez pas l’accès à vos photos et vidéos ou à votre appareil photo. 
• Ne vous connectez pas par le biais de comptes tiers. 
• Ne vous connectez pas à un service tiers via l’application, ou assurez-vous au minimum que ce dernier adopte des pratiques décentes en matière de protection de la vie privée. 
• Choisissez un mot de passe compliqué. Vous pouvez utiliser un gestionnaire de mots de passe comme 1Password, KeePass, etc. 
• N’utilisez pas de plug-ins de médias sociaux. 
• Utilisez les paramètres de confidentialité de votre appareil pour limiter l’accès à vos informations personnelles via l’application (ne donnez pas accès à votre caméra, microphone, photos et localisation, sauf si nécessaire). 
• Mettez vos application et système à jour régulièrement. 
• Limitez le suivi publicitaire sur votre appareil (par exemple, sur iPhone, utilisez «Confidentialité», «Publicités» et «Limiter le suivi publicitaire») et via les principaux réseaux publicitaires (pour Google, rendez-vous sur votre compte Google et désactivez la personnalisation des publicités).
• Lorsque vous vous inscrivez, n’acceptez pas le suivi de vos données, dans la mesure du possible.

Surtout en anglais

Pour utiliser une appli ou un agent relationnel IA, vous devrez vous exprimer en anglais. En cherchant dans la liste de l’App Store, il faut taper «amour ia» ou d’autres termes similaires pour en trouver dans notre langue.

Mais peu importe la langue, la confidentialité prend le bord. Tout ce que vous dites au robot IA est stocké et revendu, et peut être transmis aux autorités (dieu sait où) et être utilisé contre vous.

Prudence.

Prochaine étape? De véritables robots faits de chair et de métal!