De droom van autonome voertuigen is dat ze menselijke fouten kunnen vermijden en levens kunnen redden, maar een nieuw Agentschap van de Europese Unie voor cyberbeveiliging (ENISA) verslag heeft geconstateerd dat autonome voertuigen "zeer kwetsbaar zijn voor een breed scala aan aanvallen" die gevaarlijk kunnen zijn voor passagiers, voetgangers en mensen in andere voertuigen. Aanvallen die in het rapport aan de orde komen, zijn onder meer sensoraanvallen met lichtstralen, overweldigende objectdetectiesystemen, kwaadaardige back-endactiviteiten en vijandige machine learning-aanvallen die worden gepresenteerd in trainingsgegevens of de fysieke wereld.
“De aanval zou gebruikt kunnen worden om de AI 'blind' te maken voor voetgangers door bijvoorbeeld de beeldherkenningscomponent te manipuleren om voetgangers verkeerd te classificeren. Dit kan leiden tot ravage op straat, aangezien autonome auto's voetgangers op de weg of oversteekplaatsen kunnen raken ”, luidt het rapport. "Het ontbreken van voldoende beveiligingskennis en expertise bij ontwikkelaars en systeemontwerpers op het gebied van AI-cybersecurity is een grote barrière die de integratie van beveiliging in de automobielsector belemmert."
Het scala aan AI-systemen en sensoren die nodig zijn om autonome voertuigen aan te drijven, vergroot het aanvalsoppervlak, aldus het rapport. Om kwetsbaarheden aan te pakken, zeggen de auteurs dat beleidsmakers en bedrijven een veiligheidscultuur moeten ontwikkelen in de hele toeleveringsketen van de automobielsector, ook voor externe leveranciers. Het rapport spoort autofabrikanten aan om maatregelen te nemen om veiligheidsrisico's te verminderen door na te denken over het creëren van machine learning-systemen als onderdeel van de toeleveringsketen van de auto-industrie.
Het rapport richt zich op cyberbeveiligingsaanvallen met vijandige machine learning die het risico van kwaadaardige aanvallen met zich meebrengt die niet door mensen kunnen worden gedetecteerd. Het rapport stelt ook vast dat het gebruik van machine learning in auto's een voortdurende beoordeling van systemen vereist om er zeker van te zijn dat ze niet op een kwaadwillende manier zijn gewijzigd.
"AI-cyberbeveiliging kan niet zomaar een bijzaak zijn waar beveiligingscontroles worden geïmplementeerd, aangezien add-ons en verdedigingsstrategieën reactief van aard zijn", luidt de krant. “Dit geldt met name voor AI-systemen die meestal worden ontworpen door computerwetenschappers en verder worden geïmplementeerd en geïntegreerd door ingenieurs. AI-systemen moeten worden ontworpen, geïmplementeerd en geïmplementeerd door teams waarin de automotive-domeinexpert, de ML-expert en de cybersecurity-expert samenwerken. "
Scenario's die in het rapport worden gepresenteerd, omvatten de mogelijkheid van aanvallen op bewegingsplanning en besluitvormingsalgoritmen en spoofing, zoals het soort dat een autonoom voertuig voor de gek kan houden door auto's, mensen of muren te 'herkennen' die niet bestaan.
In de afgelopen jaren hebben een aantal onderzoeken aangetoond dat fysieke verstoringen autonome voertuigsystemen met weinig moeite voor de gek kunnen houden. In 2017 gebruikten onderzoekers spuitverf of stickers op een stopbord om een autonoom voertuig voor de gek te houden door het bord ten onrechte te identificeren als een bord met snelheidslimiet. In 2019 gebruikten beveiligingsonderzoekers van Tencent stickers om de Autopilot van Tesla in de verkeerde rijbaan te laten uitwijken En onderzoekers toonden vorig jaar aan dat ze een autonoom voertuigsysteem snel kunnen laten accelereren van 35 mph tot 85 mph door strategisch een paar stukjes tape op de weg te plaatsen.
Het rapport is opgesteld door het Gemeenschappelijk Centrum voor Onderzoek, een wetenschaps- en technologieadviseur van de Europese Commissie. Weken geleden bracht ENISA een apart rapport uit met details cyberbeveiligingsuitdagingen veroorzaakt door kunstmatige intelligentie.
In ander nieuws over autonome voertuigen, vorige week Waymo begon robotaxi's te testen in San Francisco Maar een MIT-taskforce concludeerde vorig jaar dat autonome voertuigen zou nog minstens tien jaar kunnen duren.
VentureBeat
De missie van VentureBeat is om een digitaal stadsplein te zijn voor technische besluitvormers om kennis op te doen over transformatieve technologie en transacties. Onze site biedt essentiële informatie over datatechnologieën en strategieën om u te begeleiden bij het leiden van uw organisaties. We nodigen u uit om lid te worden van onze community, om toegang te krijgen tot:
- up-to-date informatie over de onderwerpen die u interesseren
- onze nieuwsbrieven
- gated thought-leader content en toegang met korting tot onze gewaardeerde evenementen, zoals Transform
- netwerkfuncties en meer
