Logotipo de Zephyrnet

Tecnología de reconocimiento facial: riesgos, regulaciones y futuras oportunidades de inicio en la UE

Fecha:

El reconocimiento facial se diferencia de la vigilancia con cámara convencional, ya que no es una mera grabación pasiva, sino que implica la identificación de un individuo mediante la comparación de imágenes recién capturadas con aquellas imágenes guardadas en una base de datos.

El estado en Europa

Aunque el reconocimiento facial aún no está regulado específicamente en Europa, está cubierto por el Reglamento general de privacidad de datos (GDPR) como medio de recopilación y procesamiento datos biométricos personales, incluyendo datos faciales y huellas dactilares. Por tanto, el reconocimiento facial solo es posible bajo los criterios del RGPD.

Los datos biométricos proporcionan un alto nivel de precisión a la hora de identificar a una persona debido a la singularidad de los identificadores (imagen facial o huella dactilar) y un gran potencial para mejorar la seguridad empresarial.

El procesamiento de datos biométricos, que se consideran datos sensibles, está en principio prohibido con algunas excepciones, como, por razones de interés público sustancial, para proteger el interés vital del titular de los datos o de otra persona, o si el titular de los datos ha dado su consentimiento explícito, por nombrar algunos.

Además, se consideran otros factores como la proporcionalidad o el desequilibrio de poder para determinar si es una excepción válida, por ejemplo, el reconocimiento facial puede considerarse desproporcionado para rastrear la asistencia a una escuela, ya que hay opciones menos intrusivas disponibles. Además, incluso cuando el titular de los datos ha dado su consentimiento explícito para el procesamiento de datos biométricos, debe tenerse en cuenta el posible desequilibrio de la dinámica de poder entre el titular de los datos individuales y la institución que procesa los datos. Por ejemplo, en un escenario de estudiante y escuela, podría haber dudas sobre si el consentimiento de los padres de un estudiante para el uso de técnicas de reconocimiento facial, se da libremente de la manera prevista por el GDPR y, por lo tanto, una excepción válida a la prohibición de procesamiento.

Uno de los desafíos en este campo es que la tecnología subyacente utilizada para el reconocimiento facial, por ejemplo, la inteligencia artificial, puede presentar graves riesgos de sesgo y discriminación, afectando y discriminando a muchas personas sin el mecanismo de control social que rige el comportamiento humano. El sesgo y la discriminación son riesgos inherentes a cualquier actividad social o económica. La toma de decisiones humana no es inmune a errores y prejuicios. Sin embargo, el mismo sesgo cuando está presente en la IA podría tener un efecto mucho mayor.

Autenticación frente a identificación

Obviamente, la biometría para la autenticación (que se describe como un mecanismo de seguridad) no es lo mismo que la identificación biométrica remota (que se utiliza, por ejemplo, en aeropuertos o espacios públicos, para identificar las identidades de múltiples personas a distancia y de manera continua verificándolas contra datos almacenados en una base de datos).

La recopilación y el uso de información biométrica utilizada para el reconocimiento y la identificación facial en espacios públicos conlleva riesgos específicos para los derechos fundamentales. De hecho, la Comisión Europea (CE) ha advertido que la identificación biométrica remota es la forma más intrusiva de reconocimiento facial y en principio está prohibida en Europa.

Entonces, ¿a dónde va todo esto?

¿Qué debería prevalecer: la protección de los derechos fundamentales o el avance que viene con las nuevas tecnologías invasivas y abrumadoras?

Las nuevas tecnologías, como la IA, aportan algunos beneficios, como el avance tecnológico y más eficiencia y crecimiento económico, pero ¿a qué costo?

Utilizando un enfoque basado en el riesgo, la CE ha considerado que el uso de IA para la identificación biométrica remota y otras tecnologías de vigilancia intrusiva es de alto riesgo, ya que podría comprometer derechos fundamentales como la dignidad humana, la no discriminación y la protección de la privacidad.

La Comisión de la UE está investigando actualmente si se necesitan salvaguardas adicionales o si el reconocimiento facial no debe permitirse en ciertos casos, o en ciertas áreas, abriendo la puerta a un debate sobre los escenarios que podrían justificar el uso del reconocimiento facial para la identificación biométrica remota.

La inteligencia artificial conlleva grandes beneficios pero también varios riesgos potenciales, como una toma de decisiones opaca, discriminación de género o de otro tipo, intrusión en nuestra vida privada o ser utilizada con fines delictivos.

Para abordar estos desafíos, la Comisión, en su libro blanco sobre IA, publicado en febrero de este año, ha propuesto un nuevo marco regulatorio sobre IA de alto riesgo y una evaluación de conformidad previa, que incluye pruebas y certificación de sistemas de alto riesgo de reconocimiento facial de IA para garantizar que cumplan las normas y requisitos de la UE.

El marco regulatorio incluirá requisitos legales obligatorios adicionales relacionados con datos de capacitación, mantenimiento de registros, transparencia, precisión, supervisión y uso basado en aplicaciones, y requisitos específicos para algunas aplicaciones de IA, específicamente aquellas diseñadas para reconocimiento facial biométrico remoto.

Entonces, deberíamos esperar la llegada de una nueva regulación, con el objetivo de tener un marco de sistema de IA, compatible con la legislación actual y que no comprometa los derechos fundamentales.

¿Oportunidades para startups?

Por lo tanto, las tecnologías de reconocimiento facial llegaron para quedarse, así que si estás pensando en cambiar el color de tu cabello, ten cuidado porque es posible que tu teléfono no te reconozca. Con la velocidad a la que está creciendo el reconocimiento facial, no deberíamos esperar demasiado para encontrar nuevas formas de 'pago por selfies'.

El reconocimiento facial ya se ha utilizado con bastante éxito en varias áreas, entre ellas:

  1. Salud: donde gracias al análisis facial ya es posible realizar un seguimiento del uso de la mediación con paciencia con mayor precisión;
  2. Mercado y venta minorista: donde el reconocimiento facial promete más, ya que 'conocer a su cliente' es un tema candente, esto significa colocar cámaras en los puntos de venta para analizar el comportamiento del comprador y mejorar la experiencia del cliente, sujeto por supuesto a los controles de privacidad correspondientes; y,
  3. Seguridad y aplicación de la ley: es decir, para encontrar niños desaparecidos, identificar y rastrear criminales o acelerar las investigaciones.

Con muchas opciones en el horizonte para el reconocimiento facial, queda por ver si las nuevas empresas europeas liderarán nuevas innovaciones en esta área.

Fuente: https://www.eu-startups.com/2020/12/facial-recognition-tech-risks-regulations-and-future-startup-opportunities-in-the-eu/

punto_img

Información más reciente

punto_img