Door Lance Eliot, de AI Trends Insider
Heb je ooit een momentopname bekeken en iemand gevraagd wanneer ze die foto hebben gemaakt? Ik weet zeker dat je dat hebt. Je wilde de foto in een context van datum en tijd plaatsen. Misschien is de foto jaren geleden gemaakt en toont het verleden. Of misschien is de foto vrij recent en geeft hij weer hoe de dingen nu zijn. Al met al kan het handig en soms essentieel zijn om te weten wanneer een foto is gemaakt.
Op computergebied hebben we het vaak over tijdstempels.
Wanneer een computer is aangesloten op een camera, gaat het maken van een foto meestal gepaard met het toevoegen van een tijdstempel aan het verzamelde beeld. Het tijdstempel geeft alleen de datum en tijd van de foto aan. Dit kan in de gegevens worden gestopt die de daadwerkelijke afbeelding bevatten of kan worden toegevoegd als een aanvullend stuk metagegevens dat de foto anders beschrijft of indexeert.
Als er een reeks foto's wordt gemaakt, begint de tijdstempel uiterst belangrijk te worden.
Stel je voor dat je een auto bezit met een camera op het dashboard die op de rijbaan is gericht. U kiest voor een autorit en besluit de camera periodiek foto's te laten maken van de weg die voor u ligt. Foto na foto wordt gemaakt. Geen probleem, easy peasy.
Tijdens het rijden sta je op een gegeven moment in een woonwijk en loopt er een hond over straat. Gelukkig zie je de hond en kom je tot stilstand om hem veilig verder te laten gaan. Kort daarna rent een peuter de straat over. Omdat je al tot stilstand was gekomen, kan het kind zonder problemen door de straat schieten. Er was niets bijzonder onaangenaams aan het evenement, en je zou het kunnen beschouwen als gewoon een dagelijkse autorit.
Een paar weken later vertel je iemand in het algemeen over de rijervaring. Als je de beproevingen begint uit te leggen, kun je je ineens niet meer herinneren of de hond eerst verscheen en daarna het kind, of misschien dat het kind als eerste door de straat kwam en de hond de peuter volgde. Het zou gemakkelijk zijn om de relatief rustige zaak en bepaalde volgorde in je geest te hebben verward.
Aha, je hebt die foto's opgeslagen in je dashboardcamera!
Je download de foto's naar je laptop.
Stel bij het opvragen van elk van de afbeeldingen dat er geen duidelijke tijdstempel was. Dit betekent dat elke foto zonder enige definitieve indicatie was van de datum en tijd waarop ze werden genomen. Je kunt elke foto duidelijk zien en je kunt bevestigen dat het een nauwkeurige weergave is van wat je hebt gezien tijdens je rij-inspanning. Helaas missen ze tijdstempels.
Het zou bijna zijn alsof je de foto's op een tafelblad verspreidde en moest uitzoeken welke voor welke andere kwam. Dit kan een lastige puzzel zijn om op te lossen.
En ja hoor, je vindt de foto die de hond laat zien die op straat was, en je vindt de foto die de peuter laat zien die op straat was. Maar je weet niet zeker welke foto als eerste in orde is. Verdorie, dit helpt niet bij het oplossen van je zoektocht om de volgorde van die gebeurtenissen te onthouden.
Zoals gezegd kunnen tijdstempels cruciaal zijn.
Als je vastbesloten was, zou je elk van de twee foto's nauwkeurig kunnen inspecteren. De kans bestaat dat er een gewaarwording is van het kind op de foto met de hond midden op straat. Als het kind aan de kant staat en wegrent van de straat, zou je kunnen concluderen dat het kind waarschijnlijk eerst kwam en de hond volgde. Evenzo, als de foto van het kind in het midden van de straat de hond laat zien, hetzij in de richting van of weg van de straat, kun je proberen de volgorde af te leiden die moet hebben plaatsgevonden.
Het zou zeker een stuk eenvoudiger zijn om de tijdstempels te hebben.
Nou, je graaft rond en ontdekt dat er een tijdstempel is ingebed in de metadata van de afbeelding. U gebruikt een speciaal programma om de tijdstempel te achterhalen. Het probleem van het vaststellen van de volgorde lijkt opgelost.
Het leven is natuurlijk nooit zo makkelijk, en ineens merk je dat het tijdstempel 31 juni 1777 als datum heeft, en dat slaat helemaal nergens op. Je weet dat dat niet kan kloppen. De tijden op elk van de foto's geven een avondperiode aan, hoewel je zeker weet dat je de hond en de peuter overdag bent tegengekomen.
Yikes, de tijdstempels zijn in de war.
In hoeverre bent u bereid de tijdstempels te vertrouwen?
U kunt bijvoorbeeld de datum weggooien en aannemen dat de datum op de een of andere manier niet goed is ingesteld. Je zou kunnen negeren dat de aangegeven tijd 's avonds was en er vanuit gaan dat de klok om te beginnen niet goed was ingesteld. Je kunt in ieder geval zien of de tijdstempel via de tijd die op elke foto wordt vermeld, onthult welke foto als eerste is genomen.
Bent u bereid te accepteren dat dit onweerlegbaar bewijs is welke foto als eerste is genomen en dus of de hond of het kind als eerste de straat op ging?
Het lijkt erop dat je op wankele grond zou staan. Het feit dat de datum verkeerd is, zou zorgwekkend zijn. Het feit dat de tijden ogenschijnlijk verkeerd zijn, is ook verontrustend. Op dit moment ga je ervan uit dat de volgorde in ieder geval klopt vanwege het tijdstempel dat de ene keer op de hondenfoto staat en de andere keer op de foto met de peuter.
Als je deze zoektocht alleen uit aangeboren nieuwsgierigheid zou doen, zou het misschien niet veel uitmaken of je bereid was te accepteren dat de tijdstempeltijd vermoedelijk geschikt was en je nu wist welke gebeurtenis het eerst plaatsvond. Zou u zo optimistisch zijn als de zaak van levensbelang was? Stel je voor dat dit om de een of andere reden een topprobleem is en serieus moet worden opgelost.
Ik denk dat we dat immer populaire kinderspel kunnen spelen door te vragen of je bereid bent je leven erop te verwedden. De foto's lijken duidelijk aan te tonen dat je inderdaad een hond hebt gezien en inderdaad een kind. De sequentie hangt helaas nog enigszins in de lucht.
Over in de lucht zijn gesproken, laten we onze aandacht verleggen naar het onderwerp autonome helikopters. We komen terug op de hele kwestie over foto's en tijdstempels nadat we deze toegevoegde grond hebben behandeld.
Je weet misschien dat NASA een autonome helikopter op Mars heeft gezet. De helikopter maakt deel uit van de algehele Mars 2020 Perseverance rover-missie. Met de pakkende naam Ingenuity heeft de autonome helikopter al nieuwe records gevestigd op basis van zijn vluchten op Mars, en de NASA-teams mogen trots zijn op de bereikte prestaties.
De reden dat de helikopter autonoom wordt genoemd, is dat hij tijdens het rondvliegen voor zichzelf moet zorgen. Als menselijke controllers hier op aarde zouden proberen het vaartuig rechtstreeks te besturen, zou de vertraging vanwege de afstanden en transmissietijden niet voldoende zijn. Tegen de tijd dat de menselijke piloot hier zag wat daar gebeurde en vervolgens een stuur- of stuurbevel gaf, dat vervolgens moest worden verzonden en ontvangen, had de helikopter een probleem kunnen tegenkomen dat het verre vaartuig volledig verwoestte.
Door een autonoom stuursysteem te hebben ontwikkeld, kan Ingenuity vrijwel zelfstandig rondvliegen.
Dat gezegd hebbende, betekent dit niet dat het vaartuig willekeurig gaat waar het heen wil. NASA en het Jet Propulsion Laboratory (JPL) hebben vooraf bepaalde missies opgesteld en elke missie is zorgvuldig gepland en voorbereid.
Er worden een reeks missies uitgevoerd. Elke missie heeft specifieke doelen van wat moet worden bereikt. Naarmate de missies vordert, worden ze elke keer een beetje ingewikkelder, bijna alsof je begint met kruipen en dan verder gaat met lopen en dan rennen (of, in het geval van een helikopter, korte verticale vluchten op en neer die worden gevolgd door langere afstanden en horizontale vluchten met meerdere paden).
Dit brengt ons bij Flight Six en een interessante anomalie tijdens de vlucht die ertoe had kunnen leiden dat de autonome helikopter in het Mars-oppervlak duikt. Als dat op enig moment tijdens de Mars-excursie zou gebeuren, kun je er waarschijnlijk van uitgaan dat de helikopter uit is voor de telling. Er zouden geen middelen zijn om het vaartuig te repareren. Alleen zou het zitten, omdat het zijn deel voor de wetenschap heeft gedaan, en een stille marker zijn die zegt dat mensen hier zijn geweest.
Wat is er gebeurd met Ingenuity?
Ik zal beginnen met te benadrukken dat het in staat was om de toegewezen missie te voltooien en bestaat, nog steeds intact en klaar voor de volgende missie (nou ja, met wat aanpassingen die op afstand moeten worden gedaan).
Halverwege de zesde missie begon het vaartuig zenuwslopend op een ongewenste manier te rollen en te stampen. Deze snelle kanteling en aanpassingen in snelheid zijn te zien in de video die op Mars is opgenomen. Iedereen die de opgenomen video bekijkt, moet voelen dat er aan hun hart wordt getrokken, aangezien de autonome helikopter eruitziet alsof hij gek is geworden en onregelmatig lijkt te vliegen. Je zou waarschijnlijk aannemen dat er iets vreselijks is gebeurd met Ingenuity en dat zijn ondergang (van soort) op handen is.
De basis voor wild vliegen is enigszins ingewikkeld, maar er is één woord dat het probleem samenvat: Tijdstempels.
Wauw, je moet tegen jezelf zeggen, hadden we het zojuist niet over tijdstempels? Hoe toevallig! Eigenlijk was het punt van die eerdere saga over tijdstempels om je klaar te maken voor het identificeren van wat er met Ingenuity op Mars is gebeurd tijdens zijn Flight Six.
Zet jezelf vast en laten we in de strijd springen.
Wanneer de autonome helikopter vliegt, heeft deze de neiging om een naar beneden gerichte camera te gebruiken die meestal op het oppervlak van Mars is gericht. Ongeveer elke dertig seconden wordt er een foto gemaakt. Elke foto wordt computationeel geanalyseerd door een beeldverwerkingssysteem aan boord van een computer. Na verloop van tijd kan een reeks foto's helpen om vast te stellen waar het vaartuig zich bevindt, samen met veranderingen in snelheid, hoogte, houding, positie en dergelijke.
Dit omvat met name het vergelijken van de ene foto met een andere foto.
Tip: Denk aan het eerdere verhaal van de gemaakte foto's over de peuter op straat en de hond op straat. Dit komt straks van pas.
Deze specifieke camera op Ingenuity wordt in het algemeen aangeduid als een navigatiecamera, wat betekent dat het een camera is die voornamelijk te maken heeft met het helpen van de navigatie van het vaartuig. De computer die het systeem autonoom bestuurt, gebruikt de afbeeldingen en de analyses van de afbeeldingen om te helpen bepalen waar het is, waar het naartoe gaat, enz. Deze analyse wordt gecombineerd met andere navigatiemogelijkheden, waaronder het gebruik van een traagheidsmeeteenheid ( IMU).
Met een beetje tromgeroffel presenteer ik u nu de officiële verklaring over de anomalie (volgens de NASA-website): "Ongeveer 54 seconden na de vlucht deed zich een storing voor in de pijplijn van beelden die door de navigatiecamera werden afgeleverd. Deze glitch zorgde ervoor dat een enkele afbeelding verloren ging, maar wat nog belangrijker is, het resulteerde in het feit dat alle latere navigatieafbeeldingen werden geleverd met onnauwkeurige tijdstempels. Vanaf dit punt werkte het navigatie-algoritme elke keer dat het een correctie uitvoerde op basis van een navigatiebeeld, op basis van onjuiste informatie over wanneer het beeld werd genomen. De resulterende inconsistenties verslechterden de informatie die werd gebruikt om de helikopter te besturen aanzienlijk, waardoor schattingen voortdurend werden 'gecorrigeerd' om fantoomfouten te verklaren. Er volgden grote schommelingen.”
Het lijkt nog niet helemaal duidelijk wat de tijdstempels waren en hoe ze verkeerd zijn toegewezen of uitgelijnd, maar we nemen dit voor nu zoals het is en gaan ermee akkoord.
Je vraagt je misschien af waarom het vaartuig niet zo in de war raakte dat het een noodlanding maakte. Blij dat je het vroeg.
Een afzonderlijk, maar integraal aspect van de Ingenuity autonome besturing is dat het blijkbaar probeert het vaartuig binnen bepaalde gewenste of redelijke drempels te houden.
Dit is vaak een soort faalveilig mechanisme voor Autonomous Vehicles (AV's).
Als al het andere gek wordt, wordt in ieder geval de kerncomponent voor rijden of besturen verondersteld om te voorkomen dat het voertuig radicaal afwijkt van normaal verwachte parameters. De programmeurs bevatten meestal aangegeven drempels die aangeven dat ze binnen die grenzen moeten blijven, en zelfs als er een andere interne component is die probeert het voertuig te dwingen buiten die grenzen te gaan, weigert het kernbesturingssysteem dit en probeert de acties tegen te gaan door te blokkeren of tegenwicht bieden aan wat er gebeurt.
Volgens NASA's uitleg over hoe Ingenuity de tijdstempel-snafu overwon: "Een reden waarom het dit kon doen, is de aanzienlijke inspanning die is geleverd om ervoor te zorgen dat het vluchtcontrolesysteem van de helikopter voldoende 'stabiliteitsmarge' heeft: we hebben Ingenuity ontworpen om significante fouten te tolereren zonder instabiel te worden, inclusief fouten in timing. Deze ingebouwde marge was niet volledig nodig in de vorige vluchten van Ingenuity, omdat het gedrag van het voertuig in lijn was met onze verwachtingen, maar deze marge kwam te hulp in Flight Six.”
Er was ook een gelukkige konijnenpoot die ook hielp.
Wanneer Ingenuity de laatste fase van een vlucht bereikt en begint te dalen, wordt de navcam niet langer actief gebruikt voor navigatiedoeleinden. Dit is logisch vanwege de kans dat er stof wordt opgeworpen wanneer de autonome helikopter dichter bij het Mars-oppervlak komt en de beelden onbruikbaar of onbetrouwbaar zou maken of vertroebelen. De NASA-beschrijving luidt als volgt: "Die ontwerpbeslissing heeft ook zijn vruchten afgeworpen tijdens Flight Six: vindingrijkheid negeerde de camerabeelden in de laatste momenten van de vlucht, stopte met oscilleren, stelde zijn houding recht en landde met de snelheid zoals ontworpen."
Over dat laatste zou je wat kunnen kibbelen. Zoals gesuggereerd, is dit misschien meer een kwestie van geluk dan een doelgerichte ontwerpbasis. Het lijkt hoogst onwaarschijnlijk dat een beoogde situatie was dat de navcam zelf problemen zou kunnen veroorzaken en dat het daarom bij de landing ongetwijfeld logisch zou zijn om hem niet meer te gebruiken. In plaats daarvan werd in dit geval de andere reden om de navcam niet langer te gebruiken toen de aanlegsteiger begon onbedoeld en toch een heel welkome helpende hand.
Nu we het hebben gehad over een autonome helikopter die op Mars opereert, laten we onze aandacht naar de aarde verleggen. Er zullen hier op aarde allerlei soorten autonome voertuigen zijn, waaronder autonome helikopters, autonome drones, autonome vrachtwagens, autonome schepen, autonome auto's, enzovoort. Beschouw die autonome voertuigen voor het gemak als zelfrijdend.
Ik zou graag willen zien welke lessen we kunnen trekken uit de Ingenuity-situatie en die kunnen toepassen op de komst van op AI gebaseerde echte zelfrijdende auto's.
Zelfrijdende auto's worden bestuurd via een AI-aandrijfsysteem. Er is geen behoefte aan een menselijke bestuurder aan het stuur, en evenmin is er een voorziening voor een mens om het voertuig te besturen.
Hier is een intrigerende vraag die de moeite waard is om over na te denken: Hoe zijn tijdstempels en beeldverwerking van toepassing op op AI gebaseerde echte zelfrijdende auto's en zou iets vergelijkbaars met de Ingenuity-afwijking kunnen gebeuren met een zelfrijdende auto?
Voordat ik in de details spring, wil ik graag verduidelijken wat wordt bedoeld met echte zelfrijdende auto's.
Zie de link hier voor mijn raamwerk over autonome AI-auto's: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/
Waarom dit een moonshot-inspanning is, zie mijn uitleg hier: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/
Voor meer informatie over de niveaus als een type Richter-schaal, zie mijn discussie hier: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/
Zie mijn uitleg hier voor het argument over het splitsen van de niveaus: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/
Inzicht in de niveaus van zelfrijdende auto's
Ter verduidelijking: echt zelfrijdende auto's zijn auto's waarbij de AI de auto volledig alleen bestuurt en er geen menselijke assistentie is tijdens de rijtaak.
Deze zelfrijdende voertuigen worden beschouwd als niveau 4 en niveau 5, terwijl een auto waarvoor een menselijke bestuurder nodig is om de rij-inspanning mee te delen, meestal wordt beschouwd op niveau 2 of niveau 3. De auto's die samen de rijtaak delen, worden beschreven als semi -autonoom, en bevatten doorgaans een verscheidenheid aan geautomatiseerde add-on's die worden aangeduid als ADAS (Advanced Driver-Assistance Systems).
Er is nog geen echte zelfrijdende auto op niveau 5, waarvan we nog niet eens weten of dit mogelijk zal zijn en hoe lang het duurt om daar te komen.
Ondertussen proberen de inspanningen van niveau 4 geleidelijk wat grip te krijgen door zeer smalle en selectieve proeven op de openbare weg te ondergaan, hoewel er controverse is over de vraag of dit testen op zich zou moeten worden toegestaan (we zijn allemaal proefkonijnen op leven of dood in een experiment). vindt plaats op onze snelwegen en zijwegen, beweren sommigen).
Aangezien semi-autonome auto's een menselijke bestuurder nodig hebben, zal de adoptie van dat soort auto's niet veel verschillen van het besturen van conventionele voertuigen, dus er is op zich niet veel nieuws om erover te praten over dit onderwerp (maar zoals je zult zien in een oogwenk zijn de volgende punten algemeen toepasbaar).
Voor semi-autonome auto's is het belangrijk dat het publiek wordt gewaarschuwd voor een verontrustend aspect dat de laatste tijd naar voren komt, namelijk dat ondanks de menselijke chauffeurs die video's blijven plaatsen van zichzelf die in slaap vallen achter het stuur van een auto van niveau 2 of niveau 3 , we moeten allemaal voorkomen dat we worden misleid door te geloven dat de bestuurder zijn aandacht kan afleiden van de rijtaak terwijl hij in een semi-autonome auto rijdt.
U bent de verantwoordelijke voor de rijacties van het voertuig, ongeacht hoeveel automatisering er in een niveau 2 of niveau 3 kan worden gegooid.
Zie mijn uitleg hier voor waarom het op afstand besturen of bedienen van zelfrijdende auto's over het algemeen wordt vermeden: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/
Om op uw hoede te zijn voor nepnieuws over zelfrijdende auto's, bekijk mijn tips hier: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/
De ethische implicaties van AI-aandrijfsystemen zijn aanzienlijk, zie mijn indicatie hier: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/
Wees je bewust van de valkuilen van normalisatie van deviantie als het gaat om zelfrijdende auto's, hier is mijn oproep tot bewapening: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/
Problemen met zelfrijdende auto's en tijdstempels
Voor echte zelfrijdende voertuigen van niveau 4 en niveau 5 is er geen menselijke bestuurder betrokken bij de rijtaak. Alle inzittenden zullen passagiers zijn; de AI doet het rijden.
Een aspect dat meteen moet worden besproken, is het feit dat de AI die betrokken is bij de huidige AI-rijsystemen niet bewust is. Met andere woorden, de AI is helemaal een collectief van computergebaseerde programmering en algoritmen, en zeer zeker niet in staat om op dezelfde manier te redeneren als mensen.
Waarom deze extra nadruk op het feit dat de AI niet bewust is?
Omdat ik wil onderstrepen dat ik bij het bespreken van de rol van het AI-rijsysteem geen menselijke kwaliteiten aan de AI toeschrijf. Houd er rekening mee dat er tegenwoordig een voortdurende en gevaarlijke tendens is om AI te antropomorfiseren. In wezen kennen mensen een menselijk gevoel toe aan de huidige AI, ondanks het onmiskenbare en onbetwistbare feit dat een dergelijke AI nog niet bestaat.
Met die verduidelijking kun je je voorstellen dat het AI-aandrijfsysteem op de een of andere manier de facetten van autorijden niet kent. Rijden en alles wat daarbij komt kijken zal geprogrammeerd moeten worden als onderdeel van de hardware en software van de zelfrijdende auto.
Laten we eens kijken naar de talloze aspecten die over dit onderwerp spelen.
Een geschikte plaats om te beginnen is het verschijnen van een anomalie terwijl een autonoom voertuig in het veld en in wezen onderweg is. Dat is een slechte tijd om dingen mis te gaan.
In het geval van een autonome helikopter van Mars was er waarschijnlijk een enorme hoeveelheid zorgvuldig ontworpen, gebouwd en getest lang voordat de AV naar Mars werd gestuurd. Maar ondanks rigoureuze inspanningen om vooraf mogelijke problemen te identificeren, deed zich toch een behoorlijk serieus probleem voor.
Sommigen hebben mogelijk maagzuur en verwijzen naar het probleem als een zogenaamde "afwijking", die misschien wat misselijke of losse semantiek gebruikt om het aspect te overschaduwen dat dit een regelrechte fout of bug in het systeem lijkt te zijn. De formulering van de minder alarmerende bewoording via de onschuldige "anomalie" lijkt de kneuzingen te verzachten die de ontwikkelaars, het leiderschap en het ontwikkelingsproces de fout hebben laten glippen en uiteindelijk ontstaan terwijl het vaartuig op zijn minst een verre 34 miljoen mijl verwijderd was vanuit huis en midden in zijn missie.
Vragen zijn onder meer hoe leidde een wegvallend beeld tot de daaruit voortvloeiende reeks disfunctionele uitkomsten? Zou een weggevallen afbeelding niet als onderdeel van het basisontwerp worden beschouwd en zijn voorzien? Zo niet, dan had dit in ieder geval een testcase moeten zijn. Als het een testcase was, wat gebeurde er dan tijdens de test? Heeft het niet de daaropvolgende problemen in verband met de tijdstempel onthuld? Misschien deed het dat wel, maar werd het niet opgemerkt, en dat alleen al is reden tot zorg. Welke bepaling had het ontwerp over de verificatie of validatie van tijdstempels? Waren er geen tests bij betrokken die opzettelijk met de tijdstempels knoeiden om te zien hoe de rest van het systeem zou reageren? Enzovoorts.
Gelukkig kon de AV in ieder geval in de lucht blijven en landde zonder schade of vernietiging. Daar kunnen we dankbaar voor zijn.
Dit lijkt echter te zijn gebeurd door te vertrouwen op een algehele failsafe in plaats van een duidelijk geformuleerde bepaling te hebben om deze specifieke fout of bug het hoofd te bieden. Een catchall redde de dag.
Het punt is dat de diepte en intensiteit van het ontwerp en de tests die plaatsvinden voor een ambacht als Ingenuity enkele van de meest indrukwekkende en robuuste werkzaamheden zijn die zijn gedaan op alle AV's van welke aard dan ook. Daarentegen zijn voor sommige van de bestaande ontwikkelingsinspanningen voor zelfrijdende auto's de kwaliteit en intensiteit van het ontwerp en de tests lang niet zo grondig en volledig.
Kortom, als dit type bug kan overslaan en in het uiteindelijke systeem van een bijzonder zorgvuldig ontworpen AV terecht kan komen, moeten we de inspanningen om zelfrijdende auto's te ontwikkelen scherp in de gaten houden.
Ook kunnen we nadenken over de gevolgen in het geval van een zelfrijdende auto. Een neergestorte autonome helikopter op Mars als proefexperiment zou ogenschijnlijk slecht, verdrietig en teleurstellend zijn, maar niemand zou dood zijn. Een zelfrijdende auto hier op aarde die een ernstige bug of fout ervaart terwijl hij op de openbare weg rijdt, kan een ramp betekenen in termen van de mogelijkheid om een dodelijk auto-ongeluk te krijgen, de inzittenden van de zelfrijdende auto schade toe te brengen, samen met de mogelijkheid van het verwonden of doden van voetgangers en andere berijders in andere auto's in de buurt.
Dat omvat de ietwat algemene kwestie over verborgen bugs of fouten en de noodzaak om ze van tevoren aan het licht te brengen en ze te accijnzen of op zijn minst speciaal gebouwde gerichte voorzieningen te hebben om ze het hoofd te bieden (naast, en niet in plaats van ook de algehele faalveilige mogelijkheden).
Dat gezegd hebbende, is er een kans op wegvallende beelden van de videocamera's die worden gebruikt op zelfrijdende auto's?
Dat vraag je je misschien af. Misschien is er nul kans op een soortgelijke fout voor zelfrijdende auto's. Geen geluk. Het spijt me te moeten zeggen, er is een grote kans dat dit gebeurt (vanwege de beperkte ruimte hier, zal ik hier niet ingaan op de details, hoewel ik dit waarschijnlijk in latere kolommen zal behandelen).
Is er een kans dat de tijdstempels die worden gebruikt in zelfrijdende auto's op de een of andere manier mis gaan? Absoluut.
Maar dat betekent niet noodzakelijkerwijs dat de verschillende inspanningen voor zelfrijdende auto's allemaal gericht zijn op die specifieke potentiële problemen en aanzienlijke middelen besteden aan die specifieke soorten fouten of bugs. Houd er rekening mee dat veel van de AI-ontwikkelingsteams al te dun zijn om te proberen hun zelfrijdende auto-project met succes van punt A naar punt B te krijgen, veilig en zonder incidenten. Als er scrupules zijn over weggevallen afbeeldingen of een snafu met tijdstempels, is het op dit moment waarschijnlijk een kleine kans en krijgt het op dit moment niet acuut buitensporige aandacht.
Misschien is de Ingenuity-snafu een nuttige wake-up call.
Zie mijn indicatie op deze link hier voor meer informatie over ODD's: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/
Wat betreft off-road zelfrijdende auto's, hier zijn mijn details: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/
Ik heb erop aangedrongen dat er een Chief Safety Officer moet zijn bij zelfrijdende autofabrikanten, hier is de primeur: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/
Verwacht dat rechtszaken geleidelijk een belangrijk onderdeel gaan worden van de zelfrijdende auto-industrie, zie mijn verklarende details hier: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/
Conclusie
Sommigen dringen erop aan dat zelfrijdende auto's volledig moeten worden getest op afgesloten privécircuits of proefterreinen voordat ze op de openbare weg worden toegelaten. Sommigen dringen er ook op aan dat zelfrijdende auto's volledig moeten worden getest via computergebaseerde simulaties, voordat ze op de openbare weg worden toegelaten. Vermoedelijk lijkt een combinatie van simulatie- en proefterreinen relatief bevredigend voor die kampen (ik heb dit algemene onderwerp uitgebreid besproken, zie mijn columns).
Zullen alle faalveilige voorzieningen die elke autofabrikant of zelfrijdend technologiebedrijf selectief bedenkt, voldoende zijn om onvoorziene fouten of bugs te verhelpen?
Weet niet. Kan het niet met zekerheid zeggen.
We weten zoveel, namelijk dat het leven van die hond en peuter die de straat oprennen ervan afhangt.
Ga je gang en zet een onbetwistbare tijdstempel op die plechtige gedachte.
Copyright 2021 Dr.Lance Eliot
http://ai-selfdriving-cars.libsyn.com/website
PlatoAi. Web3 opnieuw uitgevonden. Gegevensintelligentie versterkt.
