자율 주행 차의 꿈은 사람의 실수를 피하고 생명을 구할 수 있다는 것이지만 새로운 유럽 연합 사이버 보안기구 (ENISA) 신고 자율 주행 차는 승객, 보행자 및 다른 차량의 사람들에게 위험 할 수있는 "광범위한 공격에 매우 취약"하다는 사실을 발견했습니다. 보고서에서 고려되는 공격에는 광선을 사용한 센서 공격, 압도적 인 물체 감지 시스템, 백엔드 악성 활동, 교육 데이터 또는 물리적 세계에 제시된 적대적인 기계 학습 공격이 포함됩니다.

“이 공격은 보행자를 잘못 분류하기 위해 이미지 인식 구성 요소를 조작하여 보행자를 위해 AI를 '맹인'으로 만드는 데 사용될 수 있습니다. 자율 주행 차가 도로 나 횡단 보도에서 보행자를 칠 수 있기 때문에 이것은 거리에 혼란을 초래할 수 있습니다.”라고 보고서는 말합니다. "AI 사이버 보안에 대한 개발자와 시스템 설계자 사이에 충분한 보안 지식과 전문 지식이 없다는 것은 자동차 부문의 보안 통합을 방해하는 주요 장벽입니다."

보고서에 따르면 자율 주행 차량에 전력을 공급하는 데 필요한 AI 시스템과 센서의 범위는 공격 표면적을 증가시킵니다. 취약점을 해결하기 위해 정책 입안자와 기업은 타사 제공 업체를 포함하여 자동차 공급망 전반에 걸쳐 보안 문화를 개발해야한다고 저자는 말합니다. 이 보고서는 자동차 제조업체가 자동차 산업 공급망의 일부로 기계 학습 시스템의 생성을 고려하여 보안 위험을 완화하기위한 조치를 취할 것을 촉구합니다.

이 보고서는 인간이 탐지 할 수없는 악성 공격의 위험을 전달하는 적대적인 머신 러닝을 통한 사이버 보안 공격에 중점을 둡니다. 이 보고서는 또한 자동차에서 머신 러닝을 사용하려면 시스템이 악의적으로 변경되지 않았는지 확인하기 위해 시스템을 지속적으로 검토해야한다는 사실을 발견했습니다.

"AI 사이버 보안은 보안 제어가 추가 기능으로 구현되고 방어 전략이 반응적인 성격을 띠는 사후 고려가 될 수 없습니다." “일반적으로 컴퓨터 과학자가 설계하고 엔지니어가 추가로 구현하고 통합하는 AI 시스템의 경우 특히 그렇습니다. AI 시스템은 자동차 분야 전문가, ML 전문가 및 사이버 보안 전문가가 협력하는 팀에서 설계, 구현 및 배포해야합니다. "

보고서에 제시된 시나리오에는 모션 계획 및 의사 결정 알고리즘에 대한 공격 가능성과 스푸핑, 자율 주행 차가 존재하지 않는 자동차, 사람 또는 벽을 "인식"하도록 속일 수있는 것과 같습니다.

지난 몇 년 동안 많은 연구에서 물리적 섭동이 적은 노력으로 자율 주행 차량 시스템을 속일 수 있음을 보여주었습니다. 2017 년 연구자들은 정지 신호에 스프레이 페인트 또는 스티커 자율 주행 차를 속여서 표지판을 속도 제한 표지판으로 잘못 인식하도록합니다. 2019 년에 Tencent 보안 연구원은 Tesla의 Autopilot이 잘못된 차선으로 방향을 바꾸는 스티커. 그리고 연구원들은 작년에 자율 주행 차량 시스템을 빠르게 가속화 할 수 있음을 입증했습니다. 35mph에서 85mph까지 도로에 몇 장의 테이프를 전략적으로 배치하여

이 보고서는 유럽위원회의 과학 및 기술 고문 인 공동 연구 센터가 공동 작성했습니다. 몇 주 전 ENISA는 인공 지능에 의해 생성 된 사이버 보안 과제.

지난주 다른 자율 주행 차 뉴스에서 Waymo는 샌프란시스코에서 로보 택시 테스트를 시작했습니다.. 그러나 MIT 태스크 포스는 작년에 자율 주행 차가 적어도 XNUMX 년은 더 남을 수 있습니다.

출처 : https://venturebeat.com/2021/02/22/eu-report-warns-that-ai-makes-autonomous-vehicles-highly-vulnerable-to-attack/