O sonho dos veículos autônomos é que eles possam evitar erros humanos e salvar vidas, mas uma nova Agência da União Europeia para a Cibersegurança (ENISA) Denunciar descobriu que os veículos autônomos são “altamente vulneráveis a uma ampla gama de ataques” que podem ser perigosos para passageiros, pedestres e pessoas em outros veículos. Os ataques considerados no relatório incluem ataques de sensores com feixes de luz, sistemas de detecção de objetos esmagadores, atividade maliciosa de back-end e ataques de aprendizado de máquina adversários apresentados em dados de treinamento ou no mundo físico.
“O ataque pode ser usado para tornar a IA 'cega' para pedestres, manipulando, por exemplo, o componente de reconhecimento de imagem para classificar erroneamente os pedestres. Isso pode causar estragos nas ruas, pois carros autônomos podem atingir pedestres na estrada ou nas faixas de pedestres”, diz o relatório. “A ausência de conhecimento e experiência de segurança suficiente entre desenvolvedores e designers de sistemas em segurança cibernética de IA é uma grande barreira que dificulta a integração da segurança no setor automotivo.”
A variedade de sistemas e sensores de IA necessários para alimentar veículos autônomos aumenta a área de superfície de ataque, de acordo com o relatório. Para lidar com as vulnerabilidades, seus autores dizem que os formuladores de políticas e as empresas precisarão desenvolver uma cultura de segurança em toda a cadeia de suprimentos automotiva, inclusive para fornecedores terceirizados. O relatório pede que os fabricantes de automóveis tomem medidas para mitigar os riscos de segurança pensando na criação de sistemas de aprendizado de máquina como parte da cadeia de suprimentos da indústria automotiva.
O relatório se concentra em ataques de segurança cibernética com aprendizado de máquina adversário que traz o risco de ataques maliciosos indetectáveis para humanos. O relatório também conclui que o uso de aprendizado de máquina em carros exigirá uma revisão contínua dos sistemas para garantir que eles não tenham sido alterados de maneira maliciosa.
“A cibersegurança da IA não pode ser apenas uma reflexão tardia, onde os controles de segurança são implementados como complementos e as estratégias de defesa são de natureza reativa”, diz o artigo. “Isso é especialmente verdadeiro para sistemas de IA que geralmente são projetados por cientistas da computação e implementados e integrados por engenheiros. Os sistemas de IA devem ser projetados, implementados e implantados por equipes em que o especialista em domínio automotivo, o especialista em ML e o especialista em segurança cibernética colaboram.”
Os cenários apresentados no relatório incluem a possibilidade de ataques a algoritmos de planejamento de movimento e tomada de decisão e spoofing, como o tipo que pode enganar um veículo autônomo para “reconhecer” carros, pessoas ou paredes que não existem.
Nos últimos anos, vários estudos mostraram que as perturbações físicas podem enganar os sistemas de veículos autônomos com pouco esforço. Em 2017, pesquisadores usaram tinta spray ou adesivos em um sinal de stop enganar um veículo autônomo para identificar erroneamente o sinal como um sinal de limite de velocidade. Em 2019, os pesquisadores de segurança da Tencent usaram adesivos para fazer o piloto automático de Tesla desviar para a pista errada. E pesquisadores demonstraram no ano passado que poderiam levar um sistema de veículo autônomo a acelerar rapidamente de 35 mph a 85 mph colocando estrategicamente alguns pedaços de fita na estrada.
O relatório foi escrito em coautoria pelo Joint Research Centre, consultor científico e tecnológico da Comissão Europeia. Semanas atrás, a ENISA divulgou um relatório separado detalhando desafios de segurança cibernética criados pela inteligência artificial.
Em outras notícias de veículos autônomos, na semana passada Waymo começou a testar táxi-robô em San Francisco. Mas uma força-tarefa do MIT concluiu no ano passado que veículos autônomos poderia ser pelo menos mais uma década de distância.
VentureBeat
A missão da VentureBeat é ser uma praça da cidade digital para que os tomadores de decisões técnicas obtenham conhecimento sobre a tecnologia transformadora e façam transações. Nosso site oferece informações essenciais sobre tecnologias e estratégias de dados para orientá-lo à medida que lidera suas organizações. Convidamos você a se tornar um membro de nossa comunidade, para acessar:
- informações atualizadas sobre os assuntos de seu interesse
- nossos boletins
- conteúdo líder de pensamento fechado e acesso com desconto a nossos eventos premiados, como o Transform
- recursos de rede e muito mais
