À la tête d’une vingtaine d’associations américaines de défense des droits civiques, l’ACLU (American Civil Liberties Union) a demandé cette semaine à Amazon de revenir sur sa décision de vendre son logiciel de reconnaissance faciale aux forces de police. Ce qui dans les séries policières est présenté comme une banalité, lorsqu’on voit des visages extraits d’enregistrements de surveillance vidéo vectorisés et identifiés grâce au recours en temps réel à de vastes banques de données, ne l’est pas encore vraiment mais promet de le devenir grâce aux efforts de marketing d’Amazon en direction des forces de l’ordre.
L’ACLU est tout sauf enthousiaste, voyant dans ces efforts une avancée inquiétante vers davantage de surveillance. Dans une lettre au patron d’Amazon, Jeff Bezos, l’ACLU écrit : « Amazon Rekognition est voué à faire l’objet d’abus aux mains des gouvernements. Ceci représente une menace grave pour les communauté, en particulier pour les gens de couleur et les immigrants, et pour la confiance et le respect qu’Amazon a réussi à réunir sur son nom ».
À vrai dire, ces logiciels existent depuis plusieurs années. Leur efficacité dépend de leur capacité à éliminer les éléments parasites dans les prises de vue, mais aussi de la taille et de la qualité des banques de données auxquels ils ont accès et de la puissance de calcul et de la connectivité dont ils disposent. Le service d’Amazon est commercialisé depuis 2016 par le biais de sa plateforme AWS (Amazon Web Services) : ce n’est donc pas vraiment nouveau. Ce qui a fait réagir l’ACLU et d’autres organisations, c’est d’avoir mis la main sur des éléments de correspondance qui montrent avec quelle détermination l’entreprise de Jeff Bezos s’est lancée dans cette campagne auprès de la police.
Sur son site, AWS met en avant la qualité de sa solution, qui porte sur les visages mais aussi sur les objets, avec notamment une démonstration de sa capacité à reconnaître des textes. Dans un paragraphe consacré à la « reconnaissance faciale en mode foule », l’entreprise se vante de pouvoir reconnaître « jusqu’à cent visages » sur une image, une avancée technologique qui vous permet, dit-elle à ses clients, « d’enregistrer la structure démographique et d’analyser les sentiments de tous les visages dans des photos de groupe, lors d’événements rassemblant des foules et dans des lieux publics comme les aéroports et les grands magasins ». En 2016, Amazon mettait en avant les services que Rekognition pouvait rendre aux entreprises, y compris les commerces, par exemple pour identifier ces précieux « influenceurs » au cœur de toute démarche moderne de marketing. Amazon signale l’utilisation de son service par Marinus Analytics, une plateforme qui aide les services de police américains à lutter contre le trafic d’êtres humains.
Le coût de ce service est loin d’être astronomique : la mise en place coûte 400 dollars, l’utilisation quelques dollars par mois.
Ce qui inquiète l’ACLU, c’est qu’une entreprise aussi grande et aussi puissante qu’Amazon se lance dans cet effort intense de commercialisation auprès des services de police sans que ce déploiement ne fasse l’objet d’un suivi juridique susceptible de prévenir les dérives potentielles, qui sont nombreuses. À quelles sources et banques de données ces différentes plates-formes ont-elles accès ? En cas de déploiement dans les commissariats, les « body cameras » dont sont équipés de plus en plus de policiers américains seront-elles branchées et susceptibles d’informer en temps réel les agents à qui ils ont affaire ? Les services de police pourront-ils s’en servir exclusivement pour identifier des suspects lors d’enquêtes criminelles, ou auront-ils aussi l’utiliser pour faire de la prévention ? Quid des erreurs de reconnaissance ?
Pour l’instant, Rekognition n’est déployé que dans quelques comtés, en Floride et dans l’Oregon ; des services de police de la Californie et l’Arizona s’y intéressent. L’ACLU s’inquiète: « Une fois que des systèmes de surveillance puissants comme celui-ci seront construits et déployés, les dégâts seront extrêmement difficiles à défaire. Si Rekognition n’est pas jugulé, il est certain que son utilisation se généralisera ».