Dat was de overkoepelende vraag die een groep van 180 experts vorige week besprak tijdens de ISO 26262 & SOTIF-conferentie vier dagen lang tijdens #FuSaWeek2023 in Berlijn. “How Safe is Safe Enough” luidt ook de titel van Prof. Koopmans boek vanaf september 2022. Ik noemde hem in mijn blog “Zijn we te streng voor kunstmatige intelligentie voor autonoom rijden?” Prof. Koopman werd vaak genoemd in Berlijn, en hij zal volgende week de keynote houden met de titel “Defining Safety for Shared Human/Computer Driver Responsibility” op Auto Sens Detroit.

Veiligheid is een veelbesproken onderwerp en we hebben veel gerelateerde onderwerpen besproken. Hoe verhoudt veiligheid zich? Hoe overlappen de verschillende normen elkaar? Hoeveel van hen kan de auto-ontwerpketen op een haalbare manier ondersteunen vanuit een ROI-perspectief? Is er enige hoop op veilige AI/ML? Wat is de machtsdynamiek van OEM's via Tier 1-systeemaanbieders, softwareontwikkelaars, halfgeleiderverkopers en hun IP-aanbieders?

Waarom doen we dit allemaal?

De beste visie op mobiliteit en motivatie voor wat voor gemakken de toekomst kan brengen, kwam van Danila da Costa Ribeiro van Continental AG. Ik heb sinds vorige week veel naar onderstaande foto gestaard voor toekomstige mobiliteit en vind elke keer nieuwe items. Van autonome drones die items via de lucht en op straat bezorgen, autonome auto's die veilig stoppen voor voetgangers tot mensen die interactie hebben met robots in gebouwen. De toekomst die het team Continental zich voorstelt, ziet er best handig uit.

Dat is op een goede dag.

Een visie op toekomstige mobiliteit. Bron: Continental AG, https://bit.ly/40TLRXv

De keerzijde is gemakkelijk voor te stellen. Vallende drones, uit de hand gelopen auto's die moeten beslissen wie ze raken. Je snapt de essentie.

Dus wat is er nodig om de autonome toekomst veilig te maken?

Normen zullen een sleutelrol spelen. Gareth Price van Eatron Technologies sprak over de pijnpunten rond standaarden. De onderstaande cartoon stond op een van zijn dia's naast enkele voorbeelden - ISO 26262 (Road vehicle, Functional Safety), SOTIF, UL4600 (Safety for the Evaluation of Autonomous Products), ISO TS 5083, ISO 21434 (Automotive Security), IEEE P2846 en 1234567890.

De laatste is duidelijk mijn favoriet.

Bron: XKCD.com, https://bit.ly/3Lu3GGT

Om mijn hoofd nog meer te laten tollen, gaf Riccardo Vincelli een uitstekend overzicht van het normenlandschap, en zijn overzichtsdia had elf (11!) regelitems met statusupdates. Hij voegde aan de bovenstaande lijst SAE J3016 / ISO/SAE PAS 22736 (Taxonomy for ADAS), ISO 21488 (Safety of the Intended Function), UN R157 (Automated Lane Keeping), ISO TS 5083 (Safety for ADAS), ISO 9839 ( Predictive Maintenance), ISO/IEC TR5469 (Functionele Veiligheid en AI-systemen) en ISO PAS 8800 (Veiligheid en Kunstmatige Intelligentie).

Dat zijn veel normen. Ze relateren, interageren, overlappen en zijn van elkaar afhankelijk.

Wat is redelijk?

ISO 26262 definieert "Functionele veiligheid" als "de afwezigheid van onredelijke risico's als gevolg van gevaren veroorzaakt door slecht functionerend gedrag van elektrische/elektronische systemen." Veel discussies gingen over wat 'redelijk' hier betekent, en sommige deelnemers brachten het in verband met 'aanvaardbare maatschappelijke normen'. Nou, ze veranderen niet alleen in de loop van de tijd (hey, we zouden kunnen standaardiseren hoe we ze moeten meten), maar je komt meteen op het gebied van consumentenvoorkeuren en 'aanvaardbaar gedrag'.

Een van de laatste dia's van de week herinnerde het publiek eraan om drie dingen te overwegen, allemaal gedreven door wat als "redelijk" wordt beschouwd:

• Denk aan de mensen van wie je houdt
• Denk aan uw rechtsbescherming
• Denk aan je winst

Recente studies op dit gebied maakten me bezorgd. Vorig jaar heeft de Insurance Institute for Highway Safety / Highway Loss Data Institute ondervroeg 600 actieve gebruikers van gedeeltelijk geautomatiseerde auto's. Ze ontdekten dat veel Amerikaanse automobilisten gedeeltelijk geautomatiseerde auto's beschouwen als zelfrijdend. 53% van Super Cruise, 42% van Autopilot en 12% van ProPILOT Assist-eigenaren "zeiden dat ze het prettig vonden om hun voertuigen te behandelen als volledig zelfrijdend." Au. Gemak lijkt veiligheidsoverwegingen te treffen. Aanvaarding kan onredelijk zijn, vooruitlopend op wat de technologie kan doen.

Aan de andere kant moeten we als branche bij het optimaliseren voor ROI meer dan redelijke inspanningen leveren om beter te creëren dan "minimaal levensvatbaar veilige en beveiligde producten". Met vertegenwoordigers uit alle geledingen van de ontwerpketen op de conferentie werd dit aspect een centraal discussiepunt. Welke normen moeten worden ondersteund en waarom? Hoe worden eisen gecommuniceerd, opgespoord en gecontroleerd? Hoe kunnen organisaties ontwerp voor veiligheid en beveiliging integreren in hun ontwikkelingsprocessen en daarmee samenhangende cultuurveranderingen bewerkstelligen?

Dit zijn slechts enkele vragen waar we ons nog een hele tijd mee bezig zullen houden.

Wat zijn de voordelen?

Terwijl de discussies over veiligheid en beveiliging vaak draaien om technologie en hoe deze kan falen – veel presentaties zetten hun motivatie op door rampen te noemen die zich hebben voorgedaan – vergeten we vaak een stap terug te doen en na te denken over de balans met menselijk rijgedrag.

Als buitenaardse wezens zouden arriveren en zouden beoordelen hoe verkeersgerelateerde sterfgevallen kunnen worden teruggedrongen, zouden ze zeker mensen van de straat halen. Analyse van de National Motor Vehicle Crash Causation Survey, uitgevoerd door de National Highway Traffic Safety Administration (NHTSA), laat zien dat bestuurdersfouten een factor zijn bij 94% van de ongevallen.

What’s next?

Geavanceerde rijhulpsystemen hebben het potentieel om de verkeersveiligheid aanzienlijk te verbeteren. Autonomie voegt veel extra gemak toe. Toch moeten veiligheid en beveiliging de belangrijkste overwegingen zijn tijdens de ontwikkeling, holistisch gezien. We moeten begrijpen hoe systeemvereisten op voertuigniveau doorsijpelen naar IP-providers van halfgeleiders zoals Arm, Imagination, SiFive en wij bij Arteris – ze hadden allemaal vertegenwoordiging bij de ISO 26262 & SOTIF-conferentie vorige week, en sommigen van ons zullen elkaar weer zien op Auto Sens Detroit deze komende week. Ook hier is enig pragmatisme nodig, en de industrie moet de juiste stappen definiëren die moeten worden genomen met behoud van de langetermijnvisie die volledige autonomie belooft. slagader CEO Charlie Janac schreef daar onlangs over in zijn artikel “Hoe u kunt voorkomen dat u aan verwachtingen voldoet voor geautomatiseerd rijden. '

Het komt erop neer dat we als branche meer tijd nodig hebben om de veiligheid en beveiliging op orde te krijgen. Op de vraag hoe we het slagingspercentage van de ISO 26262-standaardisatie zouden beoordelen in termen van acceptatie en "penetratie", kwam het interactieve resultaat uit op 3.4 op 5. Zie hieronder. Behoorlijk goed, maar ruimte om te groeien.

En laten we natuurlijk al die andere normen niet vergeten!

Trouwens, mijn complimenten aan Riccardo Vincelli van Renesas en Franck Galtie van NXP, die de hele week als moderators fungeerden en erin slaagden ons grotendeels op tijd te houden terwijl er altijd ruimte was voor discussies. Het was een van de meest interactieve conferenties die ik ooit heb bijgewoond. Ze laten enkele grote schoenen achter om te vullen voor volgend jaar!