Amazon bans police from using facial recognition for a year

0
62


                    
Joseph Pisani et Matt O'Brien, The Associated Press
Publié le mercredi 10 juin 2020 à 20h15 HAE
Dernière mise à jour mercredi 10 juin 2020 21:48 EDT

NEW YORK - Amazon a interdit mercredi à la police d'utiliser sa technologie de reconnaissance faciale pendant un an, ce qui en fait le dernier géant de la technologie à prendre du recul par rapport à l'utilisation des systèmes répressifs qui ont fait l'objet de critiques pour avoir identifié incorrectement les personnes à la peau plus foncée. La société basée à Seattle n'a pas expliqué pourquoi elle avait agi maintenant. Les manifestations en cours après la mort de George Floyd ont attiré l'attention sur l'injustice raciale aux États-Unis et sur la façon dont la police utilise la technologie pour suivre les gens. Floyd est décédé le 25 mai après qu'un policier blanc de Minneapolis a enfoncé son genou dans le cou de l'homme noir menotté pendant plusieurs minutes, même après que Floyd ait cessé de bouger et de demander de l'air. Les organismes d'application de la loi utilisent la reconnaissance faciale pour identifier les suspects, mais les critiques disent qu'elle peut être utilisée à mauvais escient. Un certain nombre de villes américaines ont interdit son utilisation par la police et d'autres agences gouvernementales, dirigées par San Francisco l'année dernière. Mardi, IBM a annoncé qu'il se retirerait du secteur de la reconnaissance faciale, notant des inquiétudes quant à la manière dont la technologie pouvait être utilisée pour la surveillance de masse et le profilage racial. Des groupes de défense des droits civiques et les propres employés d'Amazon ont poussé l'entreprise à cesser de vendre sa technologie, appelée Rekognition, aux agences gouvernementales, affirmant qu'elle pourrait être utilisée pour envahir la vie privée des gens et cibler les minorités. Mercredi, dans un article de blog, Amazon a déclaré qu'il espérait que le Congrès mettrait en place des réglementations plus strictes pour la reconnaissance faciale. "La décision d'Amazon est une étape symbolique importante, mais cela ne change pas vraiment le paysage de la reconnaissance faciale aux États-Unis, car ce n'est pas un acteur majeur", a déclaré Clare Garvie, chercheuse au Center on Privacy and Technology de l'Université de Georgetown. Ses recherches sur les dossiers publics n'ont trouvé que deux agences américaines utilisant ou testant Rekognition. Le bureau du shérif du comté de Washington dans l'Oregon a été le plus public à l'utiliser. Le département de police d'Orlando l'a testé, mais a choisi de ne pas le mettre en œuvre, a-t-elle déclaré. Des études dirigées par la chercheuse du MIT Joy Buolamwini ont trouvé des disparités raciales et de genre dans les logiciels de reconnaissance faciale. Ces résultats ont incité Microsoft et IBM à améliorer leurs systèmes, mais ont contrarié Amazon, qui a attaqué l'année dernière publiquement ses méthodes de recherche. Un groupe de chercheurs en intelligence artificielle, dont un lauréat du premier prix de l'informatique, a lancé l'année dernière une défense énergique de son travail et a appelé Amazon à cesser de vendre son logiciel de reconnaissance faciale à la police. Une étude réalisée l'année dernière par une agence américaine a confirmé les inquiétudes concernant les défauts de la technologie. L'Institut national des normes et de la technologie a testé les principaux systèmes de reconnaissance faciale - mais pas d'Amazon, qui n'a pas soumis ses algorithmes - et a constaté qu'ils fonctionnaient souvent de manière inégale en fonction de la race, du sexe ou de l'âge d'une personne. M. Buolamwini a qualifié mercredi l'annonce d'Amazon d '"annonce bien accueillie mais inattendue". «Microsoft doit également prendre position», a-t-elle écrit dans un communiqué envoyé par courrier électronique. «Plus important encore, nos législateurs doivent intensifier leurs efforts» pour freiner les déploiements nuisibles des technologies. Microsoft a exprimé la nécessité de réglementer la reconnaissance faciale pour prévenir les violations des droits de l'homme, mais n'a pas déclaré qu'il ne la vendrait pas aux forces de l'ordre. La société n'a pas répondu à une demande de commentaires mercredi. Amazon a commencé à attirer l'attention de l'American Civil Liberties Union et des défenseurs de la vie privée après avoir introduit Rekognition en 2016 et commencé à la présenter aux forces de l'ordre. Mais des experts comme Garvie disent que de nombreuses agences américaines s'appuient sur une technologie de reconnaissance faciale développée par des entreprises moins connues, telles que NEC basée à Tokyo, Motorola Solutions basée à Chicago ou les sociétés européennes Idemia, Gemalto et Cognitec. Amazon n'abandonne pas complètement la reconnaissance faciale. La société a déclaré que des organisations, telles que celles qui utilisent Rekognition pour aider à retrouver des enfants disparus ou exploités sexuellement, auront toujours accès à la technologie. Les annonces de cette semaine d'Amazon et d'IBM font suite à une pression des législateurs démocrates pour adopter un vaste paquet de réforme de la police au Congrès qui pourrait inclure des restrictions sur l'utilisation de la reconnaissance faciale, en particulier dans les caméras du corps de la police. Bien que peu utilisée aux États-Unis, la possibilité de caméras capables de surveiller les foules et d'identifier les personnes en temps réel a suscité des inquiétudes bipartites. L'industrie de la technologie a lutté contre les interdictions absolues de la reconnaissance faciale, mais certaines entreprises ont appelé à des lois fédérales qui pourraient établir des directives pour une utilisation responsable de la technologie. «Il devient clair que l’absence de règles nationales cohérentes retardera la mise de cette précieuse technologie entre les mains des forces de l’ordre, ralentira les enquêtes et rendra les communautés moins sûres», a déclaré Daniel Castro, vice-président des technologies de l’information et Innovation Foundation, qui a plaidé pour les fournisseurs de reconnaissance faciale. Angel Diaz, avocat au Brennan Center for Justice de l'Université de New York, a déclaré qu'il se félicitait du moratoire d'Amazon mais a déclaré qu'il "aurait dû venir plus tôt compte tenu de nombreuses études montrant que la technologie est biaisée sur le plan racial". "Nous convenons que le Congrès doit agir, mais les communautés locales devraient également être habilitées à exprimer leurs préoccupations et à décider si et comment elles souhaitent que cette technologie soit déployée", a-t-il déclaré. O'Brien a rapporté de Providence, Rhode Island.

LEAVE A REPLY

Please enter your comment!
Please enter your name here