A tecnologia de reconhecimento facial foi banida por várias cidades dos EUA, incluindo Portland, Boston e San Francisco. Além do risco real de a tecnologia ser tendenciosa contra as minorias, a tecnologia também carrega consigo uma sensação desagradável de que estamos rastejando para um estado de vigilância.
Apesar dessas preocupações, trabalhe para melhorar tecnologia de reconhecimento facial ainda está avançando, com empresas privadas e governos procurando aproveitar seu potencial para aplicações militares, policiais ou com fins lucrativos.
Uma dessas empresas é uma startup israelense chamada AnyVision Tecnologias interativas. A AnyVision está tentando aumentar o reconhecimento facial usando drones para captura de imagens. A US pedido de patente publicado no início deste mês descreve o sistema da empresa, que soa como algo saído de um Black Mirror episódio.
O drone captura uma imagem de sua “pessoa-alvo” e analisa a imagem para descobrir como obter uma imagem melhor; ele ajusta seu posicionamento em relação ao alvo, por exemplo, voando um pouco mais baixo ou centralizando seu ângulo. Em seguida, captura mais imagens e as executa por meio de um modelo de aprendizado de máquina para obter uma "classificação de rosto" e uma "pontuação de probabilidade de classificação", essencialmente tentando identificar se a pessoa que está sendo fotografada é de fato a pessoa que está procurando. Se a pontuação de probabilidade for muito baixa, o sistema é roteado de volta para a primeira etapa, iniciando a captura da imagem e o processo de refinamento novamente.
Se a ideia de um drone programado para se mover de qualquer maneira necessária para capturar a imagem mais nítida possível de seu rosto não o apavora, você não deve ter visto muita ficção científica distópica, nem valorizar a privacidade como um direito básico. Câmeras fixas usadas para este propósito podem pelo menos ser escondidas, desviadas ou passadas rapidamente; mas uma câmera voadora rodando em um algoritmo determinado a identificar seu alvo é uma história diferente - e muito mais invasiva.
O cenário de pesadelo é que uma tecnologia como a da AnyVision seja empregada por governos e agências de segurança pública. Mas a empresa diz que isso está longe de sua intenção; CEO Avi Golan disse Fast Company que os drones para tirar fotos podem ser usados para coisas como entrega de pacotes (para identificar os destinatários e garantir que a pessoa certa está recebendo o pacote certo) ou para ajudar a rastrear funcionários para fins de segurança em locais de trabalho perigosos, como minas. Golan acrescentou que existem “muitas oportunidades no mercado civil” onde a tecnologia da AnyVision pode ser útil.
A empresa atualmente vende uma “plataforma de IA visual” que pode ser usada para fins de segurança, como identificar uma pessoa de seu interesse quando ela entra em uma loja ou prédio. Também está divulgando seu produto como uma ferramenta para ajudar empresas e funcionários a voltarem a trabalhar com segurança em meio à pandemia de Covid-19, escrita que a tecnologia de visão computacional pode ajudar no rastreamento de contatos, acesso sem contato e autenticação remota.
AnyVision foi apoiado pela Microsoft até 2019, quando alegações surgiram que a tecnologia da AnyVision estava sendo usada em um projeto de vigilância militar que rastreou palestinos na Cisjordânia. Desde então, a Microsoft não apenas parou de investir em qualquer startup que trabalha com tecnologia de reconhecimento facial, mas também parou de vender sua própria versão da tecnologia para as agências de aplicação da lei, com o presidente da empresa promessa não retomar até que as leis nacionais “baseadas nos direitos humanos” estejam em vigor para reger seu uso.
Como podem ser essas leis? Como determinaríamos onde e quando - e em quem - está tudo bem usar algo como um drone que se ajusta automaticamente até capturar uma imagem inconfundível do rosto de alguém?
A patente do drone da AnyVision está pendente, mas ela e muitas outras empresas estão avançando silenciosamente com tecnologias semelhantes, mesmo enquanto a oposição pública a elas cresce. É verdade que existem usos positivos para essas ferramentas, mas é desafiador pensar em muitas em que os benefícios de facilidade ou conveniência superam a invasão de privacidade e outras desvantagens.
Shankar Narayan, diretor de projeto de tecnologia e liberdade da American Civil Liberties Union, resumiu bem a nossa oposição reflexiva a este tipo de tecnologia, dizendo, “A premissa básica de uma sociedade livre é que você não deve ser rastreado pelo governo sem suspeita de irregularidades. [...] a vigilância facial vira a premissa da liberdade de cabeça para baixo e você começa a se tornar uma sociedade onde todos são rastreados, não importa o que façam o tempo todo. ”
Golan, por sua vez, está otimista, reconhecendo que existe uma distância entre o trabalho de sua empresa e o favorecimento público. Ele disse business Insider, “Acho que é uma tecnologia futurística, mas quero mantê-la no bolso até que seja mais aceita pela humanidade.”
Crédito de imagem: Laurent Schmidt da P
