Un documentaire choc sur l'IA

Depuis des décennies, l’avènement de l’intelligence artificielle (IA) est l’objet de grandes promesses, mais soulève en parallèle d’immenses craintes. À l’heure où cette puissante technologie s’incruste dans notre quotidien à la vitesse d’une balle perdue, des acteurs influents du milieu sonnent l’alarme face à l’implantation sauvage d’une technologie qui a le pouvoir de changer nos sociétés pour le meilleur... et pour le pire.

• À lire aussi: «La promesse» a 20 ans: La série qui a lancé Evelyne Brochu

• À lire aussi: Julia Garner confirme qu'elle jouera Madonna dans un biopic

Les auteurs de science-fiction, les philosophes et les savants nous mettent en garde depuis des décennies face au risque que pose l’arrivée imminente de l’intelligence artificielle dans nos vies. Malgré les nombreux avertissements et les prédictions parfois apocalyptiques, nous voilà aujourd’hui les deux pieds ancrés dans les sables de ce qui était autrefois considéré comme un futur lointain.

Avons-nous pris le temps de bien nous préparer? Les décideurs et les gouvernements de la planète ont-ils mis en place les mesures nécessaires afin d’encadrer l’arrivée de cette nouvelle technologie d’une puissance encore inégalée? Quand on contemple le Far West qu’est devenue son implantation et les guerres que se livrent les patrons des géants économiques que sont les GAFAM, on peut en douter.

« L’État québécois est en train d’implanter ces outils-là dans plusieurs ministères et ça peut avoir des répercussions concrètes sur la vie des gens, s’inquiète notamment Noémi Mercier, animatrice et coproductrice du documentaire IA: L’angle mort. On est en train de se lancer là-dedans, et de façon pas très transparente. C’est en voie d’être implanté dans les écoles, par exemple. Il y a eu quelques articles, mais ça n’a pas été dévoilé, ça n’a pas été débattu. Moi, ça m’amène à lever des drapeaux rouges.»

Biais algorithmique

Parmi les premières victimes d’une course où les bonzes de la techno ont les coudées franches, les créatrices de ce documentaire — auquel ont participé des experts du milieu, dont la chercheuse Céline Castets-Renard et l’ancienne directrice du laboratoire en IA de Facebook, Joëlle Pinaud — se sont intéressées en particulier aux minorités culturelles et surtout aux femmes.

Une fois de plus, ces dernières doivent aujourd’hui monter aux barricades afin de faire face à une nouvelle forme de discrimination: le biais amplifié et démontré des algorithmes, qui répètent les stéréotypes dont ils s’alimentent. Une situation qui a déjà des impacts majeurs, en particulier sur le recrutement et les types d’emplois proposés aux femmes.

• À lire aussi: Maxence Garneau estime que son passage à «Si on s'aimait Célébrités» a permis à sa famille «de le comprendre davantage»

• À lire aussi: Quoi faire au Québec en octobre

«Une des bougies d’allumage, ce sont les enjeux féministes, souligne la réalisatrice, Myriam Berthelet. Le Québec se targue d’être une terre d’égalité hommes-femmes alors que, comme c’est dit dans le documentaire, tout ce pour quoi on s’est battu, une vision du monde commune, un accès égal, est menacé. Non seulement on reproduit des biais sexistes, mais en plus, ils sont amplifiés.»

Outre le profilage social et racial, qui expose une brèche énorme d’une IA s’alimentant de ce qui a été écrit sans se soucier des biais qu’elle assimile comme des vérités, l’arrivée des hypertrucages, ou deep fakes, met entre les mains des jeunes des outils sur une interface ludique, mais ayant le pouvoir de détruire des vies.

En plus de s’être elle-même prêtée à un exercice troublant, Noémi Mercier a rencontré une adolescente dont les photos personnelles ont été utilisées par des camarades de classe pour créer du matériel pornographique à son insu. Une situation cauchemardesque pour la victime et son entourage, alors que le milieu scolaire devrait plutôt être un sanctuaire.

IA 101

Malgré les risques et les histoires dramatiques qui s’accumulent, les créatrices du documentaire ont cependant insisté sur l’idée que l’IA n’est pas forcément un monstre qui va nous avaler. Elle peut et doit servir à créer une société plus juste et nous aider à affronter les grands défis économiques, environnementaux et humanitaires qui sont à nos portes.

«Il faut se calmer un peu et se rappeler que, quand l’auto est arrivée, ç’a pris 60 ans avant qu’elle soit réglementée, mentionne l’idéatrice et coréalisatrice Arianna Bardesono. Ça prend du temps pour légiférer. Les problèmes que nous avons voulu mettre de l’avant existent depuis 2001, en fait, et ils vont continuer. On essaie d’apprivoiser une technologie. Et une technologie, à la base, c’est neutre.»

«On est tous en train d’adopter ces outils-là, renchérit Noémi Mercier. Je ne dis pas qu’il ne faut pas s’en servir, mais je pense qu’il faut que nous fassions cette pause, que nous prenions ce temps de réflexion, et que nous nous demandions: “Qu’est-ce qui nous est vendu et à quelle fin?”

À l’heure où il semble difficile d’imposer des règles de bonne conduite et d’éthique aux dirigeants d’une industrie qui représente un nouveau Klondike, ce documentaire, qui se veut davantage une initiation à ces enjeux plutôt qu’une plongée en profondeur, pose une question fondamentale: à qui sert l’IA, et à quel prix pour nos droits et notre démocratie? La réponse dans un avenir près de chez vous.