Cet article date de plus d'un an.

OpenAI, le créateur de ChatGPT et Dall-E, présente un outil pour détecter les images créées avec l'intelligence artificielle

L'authentification des contenus en ligne est devenue une préoccupation majeure avec l'explosion de l'IA, qui permet de produire, entre autres, des fausses photographies de personnes.

franceinfo avec AFP

France Télévisions

Publié le 08/05/2024 08:42

Temps de lecture : 2min

ChatGPT, l'outil d'intelligence artificielle développée par l'entreprise américaine OpenAI. (JEAN-MARC BARRERE / HANS LUCAS / AFP)

Un antidote à ses propres créations. OpenAI, la start-up à l'origine des célèbres outils d'intelligence artificielle générative ChatGPT et Dall-E, permet désormais à des chercheurs de tester un outil conçu pour détecter si des images numériques ont été créées par des programmes d'IA. Selon des tests en interne sur une version antérieure de l'outil, "il identifie correctement environ 98% des images de Dall-E 3. Moins de 0,5% des images non générées par de l'IA ont été incorrectement attribuées à Dall-E 3", a précisé l'entreprise californienne.

Une étiquette pour repérer les contenus générés par IA

OpenAI a par ailleurs annoncé qu'elle ajouterait désormais des marques en filigrane aux images d'IA, afin de respecter les normes de la Coalition for Content Provenance and Authenticity (C2PA), une initiative de l'industrie technologique qui établit des normes techniques pour déterminer la provenance et l'authenticité des contenus numériques.

Le mois dernier, le groupe Meta (Facebook, Instagram) a déclaré qu'il commencerait à étiqueter les contenus générés par l'IA à partir du mois de mai en utilisant la norme C2PA. Son voisin Google a également rejoint l'initiative.

L'authentification des contenus en ligne est devenue une préoccupation majeure avec l'explosion de l'IA générative, qui permet de produire toutes sortes de contenus sur simple requête, y compris de fausses photographies de personnes ou de faux enregistrements audio à des fins de fraude, par exemple.