La technologie de reconnaissance faciale a été interdite par plusieurs villes américaines, notamment Portland, Boston et San Francisco. Outre le risque très réel que la technologie soit biaisée contre les minorités, la technologie porte également avec elle le sentiment inquiétant que nous nous dirigeons vers un état de surveillance.
Malgré ces préoccupations, cependant, travaillez pour améliorer technologie de reconnaissance faciale va toujours de l'avant, tant les entreprises privées que les gouvernements cherchent à exploiter son potentiel pour des applications militaires, d'application de la loi ou à but lucratif.
L'une de ces entreprises est une startup israélienne appelée AnyVision Technologies interactives. AnyVision cherche à améliorer la reconnaissance faciale d'un cran en utilisant des drones pour la capture d'images. UN US demande de brevet publié plus tôt ce mois-ci décrit le système de l'entreprise, ce qui semble tout droit sorti d'un Black Mirror épisode.
Le drone capture une image de sa «personne cible», puis analyse l'image pour déterminer comment obtenir une meilleure image; il ajuste son positionnement par rapport à la cible, par exemple en volant un peu plus bas ou en centrant son angle. Il capture ensuite plus d'images et les fait passer par un modèle d'apprentissage automatique pour obtenir une «classification des visages» et un «score de probabilité de classification», essayant essentiellement d'identifier si la personne photographiée est en fait la personne qu'elle recherche. Si le score de probabilité est trop faible, le système est renvoyé à la première étape, en recommençant le processus de capture d'image et de raffinement.
Si l'idée d'un drone programmé pour se déplacer de la manière nécessaire pour capturer l'image la plus claire possible de votre visage ne vous effraie pas, vous ne devez pas avoir vu beaucoup de science-fiction dystopique, ni chérir la vie privée comme un droit fondamental. Les caméras fixes utilisées à cet effet peuvent au moins être esquivées, détournées ou rapidement dépassées; mais une caméra volante fonctionnant sur un algorithme déterminé à identifier sa cible est une histoire différente - et beaucoup plus invasive.
Le scénario de cauchemar est que des technologies comme celle d'AnyVision soient utilisées par les gouvernements et les organismes d'application de la loi. Mais l'entreprise dit que c'est loin de son intention; PDG Avi Golan dit Fast Company que les drones de prise de photos pourraient être utilisés pour des choses comme la livraison de colis (pour identifier les destinataires et s'assurer que la bonne personne reçoit le bon colis), ou pour aider à suivre les employés à des fins de sécurité dans des lieux de travail dangereux comme les mines. Golan a ajouté qu'il existe «de nombreuses opportunités sur le marché civil» où la technologie d'AnyVision pourrait être utile.
L'entreprise vend actuellement une «plateforme d'IA visuelle» qui peut être utilisée à des fins de sécurité, comme l'identification d'une personne d'intérêt lorsqu'elle entre dans un magasin ou un bâtiment. Il commercialise également son produit en tant qu'outil pour aider les entreprises et les employés à reprendre le travail en toute sécurité au milieu de la pandémie Covid-19, écriture cette technologie de vision par ordinateur peut aider à la recherche des contacts, à l'accès sans contact et à l'authentification à distance.
AnyVision a été soutenu par Microsoft jusqu'en 2019, date à laquelle des allégations ont surgi que la technologie d'AnyVision était utilisée dans un projet de surveillance militaire qui suivait les Palestiniens de Cisjordanie. Depuis, Microsoft a non seulement cessé d'investir dans les startups travaillant sur la technologie de reconnaissance faciale, mais a également cessé de vendre sa propre version de la technologie aux forces de l'ordre, avec le président de la société. voeu de ne pas reprendre tant que des lois nationales «fondées sur les droits de l'homme» ne seront pas en place pour régir son utilisation.
À quoi pourraient ressembler ces lois? Comment pourrions-nous déterminer où et quand - et sur qui - il est acceptable d'utiliser quelque chose comme un drone qui s'auto-ajuste jusqu'à ce qu'il capture une image indubitable du visage de quelqu'un?
Le brevet de drone d'AnyVision est en instance, mais lui et de nombreuses autres entreprises font doucement progresser des technologies similaires alors même que l'opposition du public à leur égard grandit. Certes, il existe des utilisations positives de ces outils, mais il est difficile de penser à de nombreux cas où les avantages de facilité ou de commodité l'emportent sur l'invasion de la vie privée et d'autres inconvénients.
Shankar Narayan, directeur du projet technologie et liberté à l'American Civil Liberties Union, a bien résumé notre opposition réflexive à ce type de technologie, dire, «La prémisse de base d'une société libre est que vous ne devriez pas faire l'objet d'un suivi par le gouvernement sans soupçon d'actes répréhensibles. […] La surveillance du visage renverse le principe de la liberté et vous commencez à devenir une société où tout le monde est suivi, quoi qu'il fasse tout le temps.
Golan, pour sa part, est optimiste, reconnaissant qu'il y a une certaine distance à faire entre le travail de son entreprise et la faveur du public. Il dit Business Insider, "Je pense que c'est une technologie futuriste, mais je veux l'avoir dans ma poche jusqu'à ce qu'elle devienne plus acceptée par l'humanité."
Crédit image: Laurent Schmitt de Pixabay
