ChatGPT peut créer de fausses factures, s'inquiètent des internautes
Agence QMI
Il est possible de falsifier des reçus de restaurant avec le nouveau générateur d’images de ChatGPT, selon ce qu'ont découvert des internautes qui s'inquiètent des impacts de cette trouvaille sur la protection contre la fraude.
Sortie depuis à peine un mois, la nouvelle fonctionnalité de ChatGPT, qui permet de créer des photos avec l’intelligence artificielle, fait déjà les manchettes pour les mauvaises raisons. En effet, de nombreux internautes ont fait la démonstration lundi qu’il était possible d’utiliser ChatGPT pour créer de fausses factures, a rapporté le média Techcrunch lundi.
Deedy Das, spécialisé en investissements en divers domaines dont l’intelligence artificielle, a fait part de ses préoccupations sur le réseau social X après avoir réussi à produire une fausse facture.
You can use 4o to generate fake receipts.
— Deedy (@deedydas) March 29, 2025
There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb
«Il y a trop de secteurs qui utilisent les “vraies images” comme élément de preuve. Cette ère est terminée», a-t-il écrit.
Michael Gofman, qui est professeur de finances à l’Université hébraïque de Jérusalem, est allé encore plus loin en ajoutant des taches de nourriture et de boisson pour rendre le reçu de caisse plus authentique.
I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) March 29, 2025
«Je crois que la première version est trop parfaite. [...] Voici ma tentative pour rendre le tout plus réaliste», a-t-il dit.
L’exemple le plus troublant a été fait par un utilisateur français de LinkedIn. Ce dernier a publié une addition fripée d’une chaîne de restaurant populaire de l’autre côté de l’Atlantique.
«Vous allez adorer l’IA pour faire de faux documents, de fausses factures et de faux ticket de caisse en quelques minutes» a-t-il soulevé sur un ton ironique.
Taya Christianson, une porte-parole d’OpenAI, l’entreprise derrière le projet, a indiqué à Techcrunch que toutes les images créées par l’intelligence artificielle utilisent des métadonnées qui prouvent qu’elles ont été générées par ChatGPT.
Cette dernière a également assuré qu’OpenAI est très proactif lorsque ses utilisateurs violent ses règlements en matière de prévention de la fraude et que l’entreprise est toujours à l’écoute des commentaires constructifs de ses clients.
Taya Christianson a également ajouté que le but d’OpenAI est de donner un maximum de liberté à ses utilisateurs, ce qui explique la possibilité de créer de faux reçus de caisse.
Selon elle, les factures falsifiées peuvent être utilisées dans un contexte académique pour «enseigner la littératie financière», a-t-elle illustré.