Cet article date de plus de dix ans.

Google Photos : des Afro-américains tagués comme "gorille"

Sortie le mois dernier, l’application photo de Google a laissé passer un premier bug, et pas des moindres. En ajoutant automatiquement un mot-clef sur la photo, l’application a confondu le portrait de deux jeunes Afro-américains avec des gorilles.

franceinfo

Radio France

Publié le 02/07/2015 07:08 Mis à jour le 02/07/2015 08:00

Temps de lecture : 2min

("Google vous êtes des dingues ! Mon amie n’est pas un gorille" lance Jacky Alcine dans un tweet© DR)

Malaise chez la firme américaine. En postant une de ses photos sur l’application, un jeune afro-américain et son ami ont eu la désagréable surprise de voir leur image taguée du mot-clef gorille.

"Google vous êtes des dingues ! Mon amie n’est pas un gorille " fait-il remarquer dans un tweet.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— ~jalcine~ (@jackyalcine) June 29, 2015

And it's only photos I have with her it's doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo
— ~jalcine~ (@jackyalcine) June 29, 2015

La réaction est immédiate de la part de la firme américaine, pour contourner le bug, elle a supprimé le tag gorille de son application, le temps de trouver une solution. Embarrassé, Yonathan Zunger, responsable de l’application dans la firme de Mountain View a rapidement tenu à s’excuser de l’erreur. Dans un échange de message avec le jeune homme, il a regretté le dysfonctionnement de l’application : "Cet incident est assez haut dans ma liste des bugs qu’on ne veut jamais voir arriver. J’en ai des frissons. "

@jackyalcine Thank you for telling us so quickly!

Sheesh. High on my list of bugs you *never* want to see happen. ::shudder::
— (((Yonatan Zunger))) (@yonatanzunger) June 29, 2015

La faute selon lui à l’intelligence artificielle chargée d’apprendre à reconnaitre les lieux, les gens et les objets sur les photos.

Une erreur liée à l’éclairage et au contraste

Ce n’est pas la première fois que l’application montre ses limites. Yonathan Zunger assure que lors des premiers essais, l’identification de certains visages ne fonctionnait pas. D’autres étaient tagués avec le mot chien. Selon lui, les raisons du problème peuvent être liées à la couleur de la peau, aux différents contrastes et à l’éclairage de l’image.

@jackyalcine skin tones and lighting, etc. We used to have a problem with people (of all races) being tagged as dogs, for similar reasons.
— (((Yonatan Zunger))) (@yonatanzunger) June 29, 2015

Cette application est l’ancien service de photos intégré du réseau social Google+, qui tag de manière automatique nos photos grâce à un algorithme. En mai dernier, Google avait développé son application photo destiné aux smartphones, avait une évolution qualifiée "d’avancée majeure " dans le tri des images.