Ce Québécois qui travaille pour ChatGPT craint que «l’humanité perde totalement le contrôle»

«Ma peur, c’est que l’humanité perde totalement le contrôle parce que l’on crée des êtres plus puissants que nous», confie au Journal le Québécois Mati Roy, qui occupe un poste-clé chez la californienne OpenAI, qui a développé le robot conversationnel ChatGPT.

• À lire aussi: Nous avons essayé Gemini pour vous

• À lire aussi: Avant de vous mettre en relation avec une copine virtuelle IA, lisez ceci

• À lire aussi: Intelligence artificielle: le générateur de vidéos Sora suscite des craintes en vue des élections américaines

«Comme l’énergie nucléaire peut être utilisée pour le bien ou le mal, il y a des risques d’accident avec l’intelligence artificielle de créer un être extrêmement puissant sans l’aligner avec nos valeurs. Ça pourrait être extrêmement dangereux pour l’humanité», souffle d’un ton posé au bout du fil l’homme dans la trentaine originaire de Longueuil.

C’est après ses études en génie physique à l’Université Laval que Mati Roy s’est intéressé aux impacts de l’intelligence artificielle (IA). Il a vite gravi les échelons pour intégrer l’équipe d’élite d’OpenAI, qui peaufine l’outil ultraperformant ChatGPT.

Depuis deux ans, il est l’un des responsables stratégiques du programme technique d’OpenAI, une entreprise cofondée par Sam Altman et Elon Musk, dont la valeur avoisinerait les 108 G$, selon le New York Times. 

«Je supervise des personnes qui prétendent être ChatGPT pour voir comment ChatGPT devrait apprendre. Mon travail est de s’assurer que ces données-là soient de haute qualité», explique-t-il.

«On veut déterminer le comportement idéal de ChatGPT», poursuit l’homme, qui habite dans l’État de Géorgie, aux États-Unis.

Combat entre le Bien et le Mal

Il y a un an, l’expert québécois en intelligence artificielle, Yoshua Bengio, avait dit craindre les dérives d’un dictateur si l’on n’encadre pas d’urgence l’IA.

«Ça prend juste une élection et que l’on élise un dictateur qui prend tous les outils et le contrôle», avait-il prévenu. Quelques mois plus tard, Yoshua Bengio était allé jusqu’à fait part de ses inquiétudes en sous-comité au Sénat américain à Washington.

Au début du mois, le Conseil de l’innovation du Québec (CIQ) a pressé le gouvernement Legault de moderniser les lois du travail pour éviter que les avancées de l’intelligence artificielle (IA) ne viennent frapper de plein fouet le marché de l’emploi.

Vie éternelle

Quand on interroge Mati Roy sur les risques liés à l’IA, il tient un discours critique semblable à celui du professeur Bengio, mais il s’empresse également de souligner que l’IA bien dirigée avec de bonnes valeurs pourrait faire évoluer l’humanité dans la bonne voie.

Certes, la création de plusieurs intelligences artificielles plus puissantes que l’être humain «est très dangereuse pour la survie de l’humanité», martèle-t-il.

Mati Roy est cependant convaincu que si nous arrivons à inculquer des valeurs à la machine pour éviter notre anéantissement, l’humanité fera un bond de géant en avant.

«J’aimerais que les gens puissent vivre aussi longtemps qu’ils le veulent», affirme le gestionnaire.

«Quand on créera des êtres plus intelligents que nous, la technologie évoluera très rapidement. Les problèmes comme le cancer deviendront faciles [à régler]», conclut-il.