Utilisation malveillante, perte de contrôle: le chercheur Yoshua Bengio alerte sur les risques de l'IA
AFP
Face à la course effrénée que se livrent les géants de la technologie autour de l'intelligence artificielle (IA), le chercheur Yoshua Bengio a mis en garde jeudi contre les retombées «néfastes» de cette technologie, alors que s'ouvre le volet scientifique du sommet sur l'IA à Paris.
• À lire aussi: L'Australie annonce interdire DeepSeek sur les équipements gouvernementaux
• À lire aussi: IA générative : les Québécois l’utilisent, mais ne lui font pas totalement confiance
• À lire aussi: Pour prévenir les risques et dérives: mieux vaut enseigner l’IA dès un plus jeune âge
S'il estime que certains risques sont déjà bien établis, comme la création de faux contenus en ligne, le lauréat 2018 du prix Turing (prestigieuse récompense en informatique) affirme que «les preuves de l'existence de risques supplémentaires comme les attaques biologiques ou les cyberattaques apparaissent progressivement.»
À plus long terme, il s'inquiète d'une potentielle «perte de contrôle» des humains sur des IA animées de «leur propre volonté de vivre», d'autant que l'arrivée du robot conversationnel chinois DeepSeek a encore un peu plus «accéléré la course, ce qui n'est pas bon pour la sécurité.»
Pour réduire les risques, le professeur en informatique canadien appelle à une plus grande réglementation internationale et au développement de la recherche sur la sécurité de l'IA, auquel «une infime partie» des immenses investissements dans le secteur sont consacrés.
Mais «sans intervention gouvernementale, je ne vois pas comment on va s'en sortir», a-t-il reconnu, alors que, dès son arrivée à la Maison-Blanche, le président américain Donald Trump a annulé le décret sur la sécurité en matière d'IA pris par son prédécesseur.
«Avec l'arrivée de ChatGPT, j'ai senti l'urgence de réfléchir à la question de la sécurité», a expliqué cette figure respectée du secteur qui présentait les conclusions du premier rapport international sur la sécurité de l'IA au cours d'une conférence de presse à Paris, à l'École normale supérieure, qui forme chercheurs et enseignants.
«Ce qui me fait le plus peur, c'est la possibilité que l'humanité puisse disparaître d'ici dix ans. C'est terrifiant. Je ne comprends pas que plus de gens ne réalisent pas», s'est alarmé celui qui voit dans cette étude l'équivalent pour l'IA des rapports du Giec sur le changement climatique.
Publié fin janvier, ce rapport pour la sécurité de l'IA est le fruit d'une collaboration internationale d'une centaine d'experts nommés par 30 pays, les Nations Unies, l'Union européenne et l'OCDE. Leurs travaux ont démarré à l'issue du sommet sur la sécurité de l'IA au Royaume-Uni en novembre 2023.
Le volet diplomatique du sommet de Paris sur l'IA se tiendra lundi et mardi, après la fin du volet scientifique vendredi et un week-end consacrés à l'impact de cette technologie dans le domaine de la culture.