Les systèmes de reconnaissance faciale et les intelligences artificielles en général, sont parfois accusés d’être biaisés. Ce phénomène s’explique souvent par le fait que les échantillons utilisés pour entraîner les IA manquent de diversité.
Par exemple, en 2017, lorsqu’Apple a lancé l’iPhone X et le système de reconnaissance faciale Face ID, cette nouvelle fonctionnalité a fait l’objet d’une polémique en Asie, car celle-ci aurait eu des difficultés à distinguer des personnes en Chine.
Actuellement, Google prépare le lancement d’une fonctionnalité équivalente pour le Pixel 4. Et pour éviter ces problèmes de biais, la firme aurait voulu des scans de visages de personnes à la peau noire, afin de perfectionner le mécanisme de reconnaissance faciale.
Des abus auraient été commis
Mais visiblement, l’agence qui a été mandatée par Google pour obtenir ces scans de visages a commis des abus.
L’agence aurait proposé des cartes cadeaux d’une valeur de 5 dollars aux « volontaires », en contrepartie de scans de visage pour l’entraînement de l’IA de Google. Le problème, c’est que cette agence est accusée d’avoir ciblé les étudiants et les sans-abris parce que ceux-ci seraient plus enclins à accepter la proposition. Et les sans-abris auraient aussi été ciblés parce qu’ils seraient moins susceptibles de s’adresser à la presse. Enfin, des témoignages auraient indiqué que la raison de ces scans n’est pas toujours correctement expliquée aux « volontaires ».
Face à ce début de polémique qui pourrait entacher le lancement du Pixel 4, qui se fera ce mois d’octobre, Google réagit. Un représentant de la firme de Mountain View a indiqué au New York Times qu’après avoir été tenue au courant, celle-ci a immédiatement suspendu le programme de recherche, et a lancé une enquête. « Nous prenons cela au sérieux », a-t-il également indiqué.
En ce qui concerne ces scans effectués dans la rue, Google explique que son objectif est de faire en sorte que sa fonctionnalité de reconnaissance faciale soit sécurisée et que celle-ci fonctionne pour tout le monde.
Comentarios