Google Images confond des personnes noires avec des gorilles

Bug plus que génant pour Google Photos avec le système de classement automatique des images qui confond des photographies d'une jeune femme noire avec... Celles d'un gorille...

Mauvaise ambiance pour Google Photos, l'avatar images de Google+, avec une confusion entre des photos de personnes noires et des gorilles... Il y a quelques jours, Jacky Alciné, un jeune habitant de Brooklyn, envoie des photos de lui avec sa compagne sur Google Photos (voir illustration 1 ci-dessous). La fonction de tri automatique des photos selon le contenu, proposée par l'outil, est actionnée pour plus de facilité.

Malheureusement, le "cluster" (thème) ainsi créé porte le nom de... Gorillas (voir illustration 2). On peut dire que ça fait désordre. En tout cas, Jacky Alciné l'avait un peu mauvaise (avec raison) sur Twitter...

Bien sûr, Google s'est excusé et a promis que le système de tri automatique serait mieux utilisé et optimisée à l'avenir. La catégorie en question a notamment été supprimée dans l'urgence et des solutions sont envisages pour que les thématiques soient mieux définies à l'avenir et, surtout, que la reconnaissance d'images soit plus fine et efficace. Malheureusement, il s'agit clairement d'une illustration des problématiques liées à l'automatisation sans contrôle humain du traitement des images. Cette triste affaire n'est certainement ni la première ni la dernière...

google-photos-blacks

Source de l'image : Triplex
google-photos-blacks

Source de l'image : Twitter