Sous la pression des manifestations et associations, Amazon et IBM ne veulent plus que la police use cette technologie accusée de porter préjudice aux personnes de couleur.
Amazon a décidé d’interdire à la police d’utiliser son logiciel de reconnaissance faciale Rekognition pendant un an, dans un contexte de pression des associations de défense des libertés et de manifestations contre les violences policières et le racisme aux États-Unis.
Nous prônons des régulations plus strictes des gouvernements sur le recours éthique aux technologies de reconnaissance faciale, et le Congrès semble prêt à relever le défi, a indiqué ce mercredi 10 juin le géant du commerce en ligne dans un communiqué.
Depuis la mort de George Floyd, asphyxié par un policier blanc fin mai, les entreprises, ainsi que les autorités locales et nationales, tentent de réagir à la pression de la rue et des réseaux sociaux. Les manifestants exigent notamment des réformes en profondeur de la police et des systèmes de surveillance, dont ils estiment qu’ils ciblent les personnes noires de façon disproportionnée.
La Chambre des représentants, à majorité démocrate, a présenté lundi une loi qui vise à changer la culture au sein de la police des États-Unis. Elle entend notamment créer un registre national pour les policiers commettant des bavures, faciliter les poursuites judiciaires contre les agents et repenser leur recrutement et formation. Nous espérons que ce moratoire d’un an donnera au Congrès suffisamment de temps pour mettre en place des règles appropriées, a ajouté Amazon dans son communiqué mercredi.
Utilisation détournée
Des organisations, comme la puissante American Civil Liberties Union (ACLU), appellent depuis deux ans Amazon à cesser de fournir sa technologie de reconnaissance faciale aux forces de l’ordre.
La pression est montée d’un cran mardi, quand des associations de lutte contre les inégalités raciales ont exhorté Amazon à cesser toute collaboration technologique avec la police américaine.
Dans leur pétition mise en ligne, elles accusent le groupe de Seattle d’alimenter et de profiter de l’injustice systématique, des inégalités et des violences contre les communautés noires.
Amazon a longtemps cherché à être la colonne vertébrale technologique de la police et de l’ICE (police de l’immigration, ndlr) en promouvant activement Amazon Web Services (cloud), son logiciel de reconnaissance faciale (Rekognition) et ses caméras de surveillance (Ring), a élaboré Athena, un collectif d’associations qui interpellent le groupe sur les impacts négatifs de ses diverses activités.
Les caméras Ring servent à assurer la sécurité des particuliers, mais leurs propriétaires peuvent donner s’ils le souhaitent accès à la surveillance vidéo à la police.
Quid de Microsoft?
Il aura fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que l’entreprise ait enfin reconnu les dangers que pose la reconnaissance faciale pour les personnes de couleur, ainsi qu’en termes de droits civils en général, a réagi mercredi Nicole Ozer, directrice des technologies et libertés pour une branche californienne de l’ACLU.
Elle voudrait que la multinationale cesse aussi de vendre les caméras Ring qui alimentent les interventions policières excessives contre les personnes de couleur. Amazon avait reconnu en octobre que, comme toutes les technologies, la reconnaissance faciale pouvait être mal utilisée. Elle avait assuré que ses équipes fournissaient des indications à tous les clients du (logiciel) Rekognition, y compris les forces de l’ordre, sur la bonne manière de s’en servir.
Le groupe de Jeff Bezos a précisé que le moratoire ne s’appliquerait pas aux organisations qui se servent de Rekognition pour sauver des victimes de trafics d’êtres humains ou retrouver des enfants disparus, comme Thorn ou l’International Center for Missing and Exploited Children.
IBM a annoncé lundi suspendre la vente de logiciels de reconnaissance faciale à des fins d’identification et s’est opposé à l’utilisation de toute technologie à des fins de surveillance de masse, de profilage racial et de violations des droits et libertés humaines de base.
Lors d’un discours à Bruxelles, Sundar Pichai, le patron de Google, avait expliqué en janvier que Google ne fournirait pas de service clé en main de reconnaissance faciale tant que des règles et garde-fous n’étaient pas mis en place par les autorités. Nicole Ozer a appelé Microsoft et les autres à rejoindre IBM, Google et Amazon pour avancer vers le bon côté de l’histoire.
