Une liste divulguée des clients de Clearview AI montre que le logiciel de reconnaissance faciale de la société controversée s'est répandu bien au-delà des forces de l'ordre, dans des noms familiers allant de la NBA à Walmart.
Clearview affirme avoir récupéré plus de trois milliards d'images de sites Web et de plateformes de médias sociaux dans une base de données que la police peut utiliser pour faire correspondre des photos de suspects. Le PDG de Clearview, Hoan Ton, que le logiciel est «strictement destiné aux forces de l'ordre», mais la liste des clients obtenue par BuzzFeed montre que le logiciel est également proposé par certaines des plus grandes entreprises du monde.
Ils comprennent des détaillants (Walmart, Kohl's, BestBuy et Macy's); les banques (Wells Fargo et Bank of America), les ligues sportives (la NBA); lieux de divertissement (Madison Square Garden), opérateurs de téléphonie mobile (AT&T, Verizon et T-Mobile); casinos (Las Vegas Sands et Pechanga Resort Casino); gymnases (Equinox); plateformes de billetterie (Eventbrite); et échanges de crypto-monnaie (Coinbase).
La manière dont ces entreprises utilisent Clearview reste incertaine.
Coinbase a été le seul d'entre eux à fournir des détails sur ce qu'il a fait avec le logiciel.
«Nos équipes de sécurité et de conformité ont testé Clearview AI pour voir si le service pouvait renforcer de manière significative nos efforts pour protéger les employés et les bureaux contre les menaces physiques et enquêter sur les fraudes», mais en n'utilisant aucune donnée client, un porte-parole de Coinbase a dit à BuzzFeed.
L'accent mis par Clearview sur l'application de la loi suggérerait que d'autres entreprises trouveraient des utilisations de sécurité similaires, telles que l'identification des voleurs à l'étalage dans les magasins et des fauteurs de troubles potentiels lors de matchs de basket-ball. Mais cela pourrait rapidement conduire au profilage involontaire de consommateurs innocents et de passants.
Il existe également des utilisations plus ostensiblement innocentes de la reconnaissance faciale, de la personnalisation du service client aux besoins d'un individu en passant par l'accélération de l'embarquement dans les compagnies aériennes. Il a même été utilisé pour retrouver les enfants disparus en Inde et les réunir avec leurs familles.
Mais ces déploiements peuvent nous détourner des dangers de devenir des États de surveillance de haute technologie.
Une liste de clients en expansion
Le client divulgué a montré que Clearview avait été utilisé plus de 2,200 personnes dans des agences d'application de la loi, des institutions gouvernementales et des entreprises dans 27 pays.
La majorité d'entre eux semblent n'avoir utilisé le logiciel que lors d'essais gratuits. Ryan Mac de BuzzFeed tweeté que plusieurs organisations avaient initialement nié utiliser l'outil, pour révéler plus tard que les employés l'avaient utilisé sans l'approbation de la haute direction. Cela suggère que Clearview recherche des clients de travailleurs individuels ainsi que de cadres supérieurs.
Certains d'entre eux peuvent même inclure la Maison Blanche. Les documents divulgués contiennent une entrée pour «White House Tech Office», où un seul utilisateur s'était connecté pour effectuer six recherches. Un fonctionnaire de la Maison Blanche a déclaré à BuzzFeed News qu'aucune autorisation n'aurait été donnée à cet effet.
La fuite confirme également soupçons que l'entreprise poursuit une expansion rapide à l'étranger, avec des clients d'Europe, du Moyen-Orient, d'Asie-Pacifique et d'Amérique du Sud, tous sur la liste.
Ils incluent des régimes autoritaires ayant des antécédents de violations des droits de l'homme, comme l'Arabie saoudite et les Émirats arabes unis, alimentant les craintes que le logiciel puisse être utilisé pour une répression brutale de la dissidence.
L'avocat de Clearview, Tor Ekeland, a affirmé qu'il y avait «de nombreuses inexactitudes dans ces informations obtenues illégalement».
Comment arrêter Clearview
La liste de clients divulguée est un autre chapitre inquiétant de l'histoire controversée de Clearview. Depuis Le New York Times a révélé le mois dernier que Clearview travaillait avec la police, l'entreprise a été attaquée pour son utilisation inconsidérée des photos des gens, affirmations douteuses d'exactitudeet les efforts pour travailler avec des régimes répressifs.
Il a également reçu des lettres de cessation et de désistement d'une liste croissante de plates-formes de médias sociaux, mais a montré peu d'intérêt pour se conformer à leurs demandes. Et ce n'est peut-être même pas nécessaire.
L'absence de réglementation fédérale signifie qu'il existe peu de garanties nationales contre l'utilisation abusive de la technologie de reconnaissance faciale. La fuite montre que Clearview ne peut pas non plus protéger ses clients. Les révélations selon lesquelles ces entreprises utilisent en privé la reconnaissance faciale saperont la confiance des clients et pourraient les forcer à reconsidérer les avantages de l'utilisation de la technologie et de travailler avec une entreprise aussi controversée.
La seule façon de freiner cette descente dans la surveillance omniprésente est d'imposer des lois fédérales qui restreignent l'utilisation de la reconnaissance faciale - ou mieux encore, l'interdisent carrément.
Vous êtes ici parce que vous souhaitez en savoir plus sur l'intelligence artificielle. Nous aussi. Alors cet été, nous apportons Neural à Conférence TNW 2020, où nous hébergerons un programme dynamique dédié exclusivement à l'IA. Avec des discours prononcés par des experts d'entreprises comme Spotify et RSA, notre piste Neural plongera profondément dans les nouvelles innovations, les problèmes éthiques et la façon dont l'IA peut transformer les entreprises. Obtenez votre billet Early Bird et Découvrez la piste Neural complète.
Publié en février 28, 2020 - 13: 33 UTC
Source : https://thenextweb.com/neural/2020/02/28/why-are-the-nba-and-walmart-using-clearview-ai/
