Annonce fracassante du côté de Big Blue. Le PDG d’IBM, Arvind Krishna, annonce dans une lettre envoyée au Congrès américain que l’entreprise cesse instamment toutes ses recherches en reconnaissance faciale. Le géant de la tech et pionnier de l’intelligence artificielle ne développera plus, ni ne commercialisera, de solutions de reconnaissance faciale, a-t-il par la suite confirmé à The Verge.
À voir aussi sur Konbini
Intitulée “Lettre au Congrès sur la Réforme de la justice raciale“, elle a été envoyée à cinq sénateurs démocrates dans le cadre des débats se tenant, au sein du Parlement américain, sur une nouvelle loi visant à encadrer les pratiques des policiers vis-à-vis de la population racisée.
Le projet de 134 pages, présenté en début de semaine, cherche à restreindre l’usage de techniques d’interpellation dangereuses, restreint l’usage de la “force létale” ou la fin de “l’immunité qualifiée”, qui protège partiellement les policiers contre les plaintes de la population. Tout ceci se déroule évidemment dans un contexte tendu de manifestations nationales, depuis le décès de George Floyd, lundi 25 mai.
Mais c’est en particulier l’interdiction du contrôle au faciès, voulu par cette loi, qui intéresse ici IBM. L’explosion des technologies de reconnaissance faciale, ces dernières années, s’est accompagnée de questionnements sur les biais, notamment raciaux.
Aux États-Unis, son utilisation par la police et la justice de certains États a montré à maintes reprises les failles de cette technologie et les problèmes qu’elle pose dans l’égalité raciale vis-à-vis de la loi. Une étude du National Institute of Standards and Technology, une agence fédérale américaine, montrait en décembre des “preuves empiriques” que certaines caractéristiques physiques, d’âge ou de genre, trompaient les algorithmes. Dans l’actualité très récente, nous pourrions aussi souligner la polémique autour de Clearview AI, start-up montante de la reconnaissance faciale, véritable cauchemar pour la vie privée, qui fut utilisée par 600 services de police américains au cours de ces deux dernières années.
IBM tape donc du poing sur la table contre ces différentes pratiques. L’entreprise affirme :
“IBM s’opposera fermement et ne tolérera plus l’utilisation de ces technologies, notamment les technologies de reconnaissance faciale offertes par d’autres entreprises, pour la surveillance de masse, le contrôle au faciès, la violation des droits humains les plus basiques. […] Nous pensons qu’est venu le temps d’un dialogue national, pour choisir si oui ou non et comment la reconnaissance faciale devrait être employée par les services de police.”
Dans sa lettre, Arvind Krishna se fait également l’avocat de la réforme de la police discutée au Congrès. Il propose aux sénateurs de travailler avec eux et demande des formations meilleures et plus poussées pour les agents de police.
