Door Lance Eliot, de AI Trends Insider 

Vooruitgang in kunstmatige intelligentie (AI) zal de brede acceptatie van robots in ons dagelijks leven blijven stimuleren. Robots die ooit zo duur leken dat ze alleen konden worden betaald voor zware fabricagedoeleinden, zijn geleidelijk in prijs gedaald en evenzeer kleiner geworden. Je kunt die Roomba-stofzuiger in je huis beschouwen als een soort robot, hoewel we nog steeds niet de ooit beloofde huisbutler-robot hebben die voor onze dagelijkse routinewerkzaamheden zou moeten zorgen.   

Misschien wel een van de meest bekende facetten over robots is de legendarische set van drie regels van schrijver Isaac Asimov. Zijn sciencefictionverhaal getiteld De drie wetten werd gepubliceerd in 1942 en is schijnbaar niet te stoppen in termen van aanhoudende interesse en omhelzing.   

Hier zijn de drie regels die hij slim heeft bedacht: 

1)      Een robot mag een mens niet verwonden of, door niets te doen, een mens schade toebrengen, 

2)      Een robot moet de bevelen opvolgen die hem door mensen worden gegeven, behalve wanneer dergelijke bevelen in strijd zouden zijn met de eerste wet, 

3)      Een robot moet zijn eigen bestaan ​​beschermen, zolang die bescherming niet in strijd is met de eerste of tweede wet. 

Als je Asimovs opmerkingen over robots leest, wil je misschien het woord 'robot' vervangen door simpelweg de overkoepelende naam AI. Ik zeg dit omdat je anders waarschijnlijk zijn drie regels eng interpreteert alsof ze alleen van toepassing zijn op een robot die er toevallig uitziet als wij, gewoonlijk met benen, armen, een hoofd, een lichaam, enzovoort.   

Niet alle robots zijn zo gerangschikt.   

Sommige van de nieuwste robots zien eruit als dieren. Misschien heb je de populaire online video's gezien van robots die vierbenig zijn en die een hond of een soortgelijk wezen lijken te zijn. Er zijn zelfs robots die op insecten lijken. Ze zien er nogal griezelig uit, maar zijn niettemin belangrijk als middel om erachter te komen hoe we robotica op allerlei manieren kunnen gebruiken.   

Een robot hoeft niet biologisch geïnspireerd te zijn. Een robotstofzuiger ziet er niet bepaald uit als een dier of insect. Je kunt verwachten dat we allerlei soorten robots zullen hebben die er vrij ongebruikelijk uitzien en niet alleen lijken te zijn gebaseerd op een levend organisme.   

Sommige robots staan ​​recht voor onze ogen, en toch beschouwen we ze niet als robots. Een voorbeeld hiervan is de komst van op AI gebaseerde echt zelfrijdende auto's. 

Een auto die wordt bestuurd door een AI-systeem, kan als een soort robot worden beschouwd. De reden dat je een zelfrijdende auto misschien niet als een robot ziet, is dat er niet die lopende pratende robot op de bestuurdersstoel zit. In plaats daarvan rijdt het computersysteem dat verborgen is in de onderzijde of kofferbak van de auto. Dit lijkt aan onze aandacht te ontsnappen en daardoor lijkt het voertuig niet snel een soort robot te zijn, hoewel het dat inderdaad is. 

Voor het geval je het je afvraagt, er zijn bemoedigende inspanningen gaande om lopende pratende robots te maken die in staat zouden zijn om een ​​auto te besturen. Stel je voor hoe dat onze wereld zou opschudden.   

Op dit moment houdt het maken van een zelfrijdende auto in dat de auto wordt aangepast om zelfrijdend te zijn. Als we robots hadden die konden rondlopen, in een auto konden zitten en het voertuig zouden besturen, zou dit dat betekenen allen bestaande auto's kunnen in wezen worden beschouwd als zelfrijdende auto's (wat betekent dat ze kunnen worden bestuurd door dergelijke robots, in plaats van dat een mens de auto bestuurt). In plaats van geleidelijk conventionele auto's weg te gooien voor de komst van zelfrijdende auto's, zou het niet nodig zijn om een ​​volledig zelfrijdende auto te bedenken en zouden we op die meanderende robots vertrouwen om onze chauffeurs te zijn. 

Op dit moment is de snelste of snelste weg naar zelfrijdende auto's het inbouwen in de voertuigbenadering. Sommigen geloven dat er een bittere ironie in deze benadering schuilt. Ze beweren dat deze opkomende zelfrijdende auto's onvermijdelijk zullen worden overgenomen door die lopende pratende robots. In die zin zal de zelfrijdende auto van vandaag verouderd en achterhaald zijn, en plaats maken voor opnieuw conventionele bedieningselementen, zodat het voertuig kan worden bestuurd door een mens of kan worden bestuurd door een rijdende robot. 

Als een extra wending zijn er sommigen die hopen dat we zover zijn bij het adopteren van zelfrijdende auto's dat we geen onafhankelijke robots zullen gebruiken om onze auto's te besturen.   

Hier is de logica. 

Als een robotchauffeur achter het stuur zit, suggereert dit dat de conventionele bedieningselementen nog steeds beschikbaar zullen zijn in een auto. Dit houdt ook in dat mensen nog steeds in staat zullen zijn om een ​​auto te besturen, wanneer ze maar willen. Maar de overtuiging is dat de AI-aandrijfsystemen, of ze nu ingebouwd zijn of als onderdeel van een lopende sprekende robot, betere chauffeurs zullen zijn en de incidentie van rijden onder invloed en ander ongunstig rijgedrag zullen verminderen. Kortom, een echte zelfrijdende auto heeft geen bedieningselementen voor het besturen, waardoor een lopende pratende robot (vermoedelijk) wordt uitgesloten en (gelukkig beweren sommigen) een mens niet kan rijden.   

Dit leidt tot de gedachte dat de wereld misschien helemaal is overgeschakeld op echte zelfrijdende auto's en hoewel een lopende sprekende rijdende robot mogelijk wordt, zal het zo ver zijn dat niemand de klok terug zal draaien en conventionele auto's opnieuw zal introduceren. 

Dat lijkt een beetje op wishful thinking. OHoe dan ook, het centrale doel lijkt te zijn om de menselijke bestuurder uit de vergelijking te halen​ Dit zet een zelfrijdende auto-een die het AI-aandrijfsysteem heeft ingebouwd of een robotbestuurder-innaar a positie om te beslissen leven or dood.   

Als dat lijkt eerder kommer en kwel, overwegen op het moment dat jij zet je geliefde tiener newbie-chauffeur bij de bedieningselementen. THet spook van leven of dood wordt plotseling heel uitgesproken. De tienerd chauffeur voelt meestal ook deze plicht,.   

Sinds leven en dood zijn op de lijn, hEr is de intrigerende vraag van vandaag: Doe de Asimov drie reglement van de robots is van toepassing op op AI gebaseerde echt zelfrijdende auto's, en zo ja, wat moet eraan worden gedaan?   

Laten we de zaak uitpakken en zien. 

Zie de link hier voor mijn raamwerk over autonome AI-auto's: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

Waarom dit een moonshot-inspanning is, zie mijn uitleg hier: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/ 

Voor meer informatie over de niveaus als een type Richter-schaal, zie mijn discussie hier: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/   

Zie mijn uitleg hier voor het argument over het splitsen van de niveaus: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

Inzicht in de niveaus van zelfrijdende auto's 

Ter verduidelijking: echt zelfrijdende auto's zijn auto's waarvan de AI de auto volledig alleen bestuurt en dat er geen menselijke assistentie is tijdens de rijtaak.   

Deze zelfrijdende voertuigen worden beschouwd als een niveau 4 en niveau 5, terwijl een auto waarbij een menselijke bestuurder de rij-inspanning mede moet delen, gewoonlijk wordt beschouwd als een niveau 2 of niveau 3. De auto's die de rijtaak mede delen, worden beschreven als zijn semi-autonoom en bevatten doorgaans een verscheidenheid aan geautomatiseerde add-on's die ADAS (Advanced Driver-Assistance Systems) worden genoemd.   

Er is nog geen echte zelfrijdende auto op niveau 5, waarvan we nog niet eens weten of dit mogelijk zal zijn en hoe lang het duurt om daar te komen.   

Ondertussen proberen de inspanningen van niveau 4 geleidelijk wat grip te krijgen door zeer smalle en selectieve proeven op de openbare weg te ondergaan, hoewel er controverse is over de vraag of dit testen op zich zou moeten worden toegestaan ​​(we zijn allemaal proefkonijnen op leven of dood in een experiment). vindt plaats op onze snelwegen en zijwegen, beweren sommigen). 

Aangezien semi-autonome auto's een menselijke bestuurder nodig hebben, zal de adoptie van dat soort auto's niet veel anders zijn dan het besturen van conventionele voertuigen, dus er is op zich niet veel nieuws om erover te praten over dit onderwerp (hoewel, zoals je zult zien in een oogwenk zijn de volgende punten algemeen toepasbaar).  

Voor semi-autonome auto's is het belangrijk dat het publiek wordt gewaarschuwd voor een verontrustend aspect dat de laatste tijd naar voren komt, namelijk dat ondanks de menselijke chauffeurs die video's blijven plaatsen van zichzelf die in slaap vallen achter het stuur van een auto van niveau 2 of niveau 3 , we moeten allemaal voorkomen dat we worden misleid door te geloven dat de bestuurder zijn aandacht kan afleiden van de rijtaak terwijl hij in een semi-autonome auto rijdt.   

U bent de verantwoordelijke voor de rijacties van het voertuig, ongeacht hoeveel automatisering er in een niveau 2 of niveau 3 kan worden gegooid. 

Zie mijn uitleg hier voor waarom het op afstand besturen of bedienen van zelfrijdende auto's over het algemeen wordt vermeden: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

Om op uw hoede te zijn voor nepnieuws over zelfrijdende auto's, bekijk mijn tips hier: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

De ethische implicaties van AI-aandrijfsystemen zijn aanzienlijk, zie mijn indicatie hier: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

Wees je bewust van de valkuilen van normalisatie van deviantie als het gaat om zelfrijdende auto's, hier is mijn oproep tot bewapening: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/   

Zelfrijdende auto's en de wetten van Asimov 

Voor echte zelfrijdende voertuigen van niveau 4 en niveau 5 zal er geen menselijke bestuurder bij de rijtaak betrokken zijn. Alle inzittenden zijn passagiers​ thij AI doet het rijden 

Laten we in het kort elk van de drie regels van Asimov bekijken en zien hoe ze van toepassing kunnen zijn op echte zelfrijdende auto's. Ten eerste is er de regel dat een robot of AI-aandrijfsysteem (in dit geval) een mens niet mag verwonden, hetzij door openlijke actie, noch door zijn passiviteit.   

Dat is een hele opgave als je achter het stuur van een auto zit. 

Een zelfrijdende auto rijdt door een straat en voelt de omgeving scherp aan. Zonder medeweten van het AI-rijsysteem staat een klein kind tussen twee geparkeerde auto's, aan het zicht onttrokken en verborgen voor het sensorische bereik en de diepte van de zelfrijdende auto. De AI rijdt met de aangegeven snelheidslimiet. Plots stapt het kind de straat op.   

Sommige mensen gaan ervan uit dat een zelfrijdende auto nooit iemand zal tegenkomen, aangezien de AI over de allernieuwste zintuiglijke capaciteiten beschikt en geen dronken bestuurder zal zijn. Helaas, in het soort scenario dat ik zojuist heb geponeerd, zal de zelfrijdende auto tegen dat kind rammen. Ik zeg dit omdat de wet van de fysica voorop staat boven alle dromerige ideeën over wat een AI-aandrijfsysteem kan doen. 

Als het kind schijnbaar uit het niets is verschenen en nu bijvoorbeeld een afstand van 15 voet van de rijdende auto is, en de zelfrijdende auto rijdt met een snelheid van 30 mijl per uur, dan is de remafstand ongeveer 50 tot 75 meter, wat betekent dat het kind zou kunnen be geslagen. Daar zijn geen twee manieren voor.  

En dit zou betekenen dat het AI-rijsysteem zojuist de eerste regel van Asimov heeft geschonden. 

De AI heeft een mens verwond. Houd er rekening mee dat ik bepaal dat de AI inderdaad de remmen van de zelfrijdende auto zou aanroepen en er alles aan zou doen om het rammen van het kind te voorkomen. Desalniettemin is er onvoldoende tijd en afstand voor de AI om de botsing te voorkomen.   

Nu we hebben aangetoond dat het onmogelijk is om altijd te voldoen aan de eerste regel van Asimov in termen van strikte naleving van de regel, zou je op zijn minst kunnen stellen dat het AI-stuursysteem gepoogd om de regel te gehoorzamen. Door de remmen te hebben gebruikt, lijkt het erop dat het AI-aandrijfsysteem heeft geprobeerd het kind niet te raken, en de impact zou iets minder ernstig kunnen zijn als het voertuig bijna tot stilstand was gekomen op het moment van de botsing.   

Hoe zit het met het andere deel van de eerste regel dat stelt dat er geen passiviteit mag zijn die zou kunnen leiden tot schade aan een mens? 

Men veronderstelt dat als de zelfrijdende auto niet zou proberen te stoppen, dit soort passiviteit binnen dat domein zou kunnen vallen, namelijk opnieuw niet slagen in het naleven van de regel. We kunnen hier een draai aan geven. Stel dat het AI-aandrijfsysteem in staat was om de auto uit te wijken, voldoende om het kind niet te raken, maar ondertussen gaat de zelfrijdende auto tegen een sequoia-boom. Er zit een passagier in de zelfrijdende auto en deze persoon krijgt door de crash een whiplash. 

Oké, het kind op straat is gered, maar de passagier in de zelfrijdende auto is nu gewond. U kunt zich afvragen of de actie om het kind te redden waard was in vergelijking met het resultaat van het verwonden van de passagier. U kunt ook overwegen of de AI niet de juiste actie heeft ondernomen om letsel bij de passagier te voorkomen. Dit soort ethische dilemma's wordt vaak afgebeeld via het beruchte Trolley-probleem, een aspect dat ik fel heb betoogd, is zeer van toepassing op zelfrijdende auto's en verdient veel meer aandacht naarmate de opkomst van zelfrijdende auto's voortduurt.   

Alles bij elkaar kunnen we het erover eens zijn dat de eerste regel van Asimovs triade een nuttig ambitieus doel is voor een op AI gebaseerde echt zelfrijdende auto. haar vervulling zal behoorlijk moeilijk te bereiken zijn en zal waarschijnlijk voor altijd een raadsel blijven voor de samenleving om mee te worstelen.   

De tweede wet van Asimov is dat de robot, of in dit geval het AI-stuursysteem, geacht wordt de bevelen op te volgen die hem door een mens zijn gegeven, met uitzondering van situaties waarin een dergelijk door mensen uitgevaardigd commando in strijd is met de eerste regel (dat wil zeggen: mensen schaden).   

Dit lijkt eenvoudig en volkomen aangenaam. 

Maar zelfs deze regel heeft zijn problemen.   

Ik heb vorig jaar in mijn columns het verhaal behandeld van een man die een auto gebruikte om over een schutter te rijden op een brug die willekeurig mensen neerschoot en doodde. Volgens de autoriteiten was de chauffeur heldhaftig door die schutter te hebben tegengehouden.   

Als de tweede wet van Asimov was geprogrammeerd in het AI-aandrijfsysteem van een zelfrijdende auto, en stel dat een passagier de AI de opdracht zou geven een schutter omver te rijden, dan zou de AI dat waarschijnlijk weigeren. Dit is duidelijk omdat de instructie een mens zou schaden. Maar we weten dat dit een geval was dat de afspraak lijkt te negeren dat je je auto niet mag gebruiken om tegen mensen aan te rammen. 

U zou kunnen klagen dat dit een zeldzame uitzondering is. Ik ben het eens.    

Bovendien, als we de deur zouden openen om passagiers in zelfrijdende auto's toe te staan ​​om de AI te vertellen iemand over te rijden, zou de resulterende chaos en chaos onhoudbaar zijn. Kortom, er is zeker een reden om te beweren dat de tweede regel moet worden gehandhaafd, ook al betekent dit dat het in die zeldzame gevallen zou leiden tot schade als gevolg van inactiviteit. 

Het punt is dat je niet zo ver buiten de dagelijkse wereld hoeft te reiken om situaties te vinden die onzinnig zouden zijn voor een AI-aandrijfsysteem om ongetwijfeld een passagier te gehoorzamen. Een berijder in een zelfrijdende auto vertelt de AI om het trottoir op te rijden. Er zijn geen voetgangers op het trottoir, dus niemand zal gewond raken.   

Ik vraag je, moet het AI-aandrijfsysteem deze mens gehoorzamen-uitgesproken commando?   

Nee, de AI zou dat niet moeten doen, en we zullen uiteindelijk moeten omgaan met de soorten uitingen van menselijke passagiers die de AI-aandrijfsystemen in overweging zullen nemen en welke commando's zullen worden afgewezen. 

De derde regeren dat Asimov heeft gepostuleerd is dat de robot, of in dit geval het AI-aandrijfsysteem, zijn eigen bestaan ​​moet beschermen, zolang de eerste en tweede regels niet worden opgeheven.   

Moet een zelfrijdende auto proberen zijn bestaan ​​te behouden? 

In een eerdere column zei ik dat sommigen geloven dat zelfrijdende auto's ongeveer vier jaar zullen bestaan ​​en uiteindelijk in slechts vier jaar rijden aan slijtage zullen bezwijken. Dit lijkt verrassend aangezien we verwachten dat auto's veel langer meegaan, maar het verschil met zelfrijdende auto's is dat ze vermoedelijk bijna 24 × 7 zullen rijden en veel meer kilometers zullen afleggen dan een conventionele auto (een conventionele auto blijft ongeveer 95% ongebruikt staan). tot 99% van de tijd).   

Oké, dus neem aan dat een zelfrijdende auto zijn nuttige einde nadert. Het voertuig is gepland om zelf naar de vuilnisbelt te rijden om te worden gerecycled.   

Is het acceptabel dat het AI-rijsysteem besluit om niet naar het recyclingcentrum te gaan en zo het bestaan ​​ervan te behouden?   

Ik veronderstel dat als een mens zegt dat hij daarheen moet gaan, de tweede regel wint en de zelfrijdende auto moet gehoorzamen. De AI kan lastig zijn en een stiekeme manier vinden om zich aan de eerste en tweede regel te houden, en niettemin een bonafide basis vinden om het voortbestaan ​​ervan te zoeken (ik laat dit achter als een bewuste oefening waar je over na moet denken).   

Zie mijn indicatie op deze link hier voor meer informatie over ODD's: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

Wat betreft off-road zelfrijdende auto's, hier zijn mijn details: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

Ik heb erop aangedrongen dat er een Chief Safety Officer moet zijn bij zelfrijdende autofabrikanten, hier is de primeur: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

Verwacht dat rechtszaken geleidelijk een belangrijk onderdeel gaan worden van de zelfrijdende auto-industrie, zie mijn verklarende details hier: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

Conclusie   

IHet lijkt erop dat de drie regels van Asimov met een korreltje zout moeten worden genomen. De AI-aandrijfsystemen kunnen met die regels worden bedacht als onderdeel van de overkoepelende architectuur, maar de regels zijn ambities, geen onweerlegbare en onveranderlijke wetten.   

Misschien wel het belangrijkste punt van deze mentale training over de regels van Asimov is om licht te werpen op iets dat maar weinigen de nodige zorgvuldigheid betrachten. In het geval van op AI gebaseerde echt zelfrijdende auto's komt er veel meer kijken bij het bedenken en inzetten van deze autonome voertuigen dan alleen de mechanische aspecten van autorijden.   

Autorijden is een enorm ethisch dilemma dat mensen vaak als vanzelfsprekend beschouwen. We moeten de realiteit uitzoeken hoe AI-aandrijfsystemen beslissingen over leven of dood gaan nemen. Dit moet gebeuren voordat we onze straten gaan overspoelen met zelfrijdende auto's. 

Asimov zei het het beste: "Het meest trieste aspect van het leven op dit moment is dat de wetenschap sneller kennis vergaart dan de samenleving wijsheid."   

Echte woorden die de moeite waard zijn om opnieuw te bezoeken.  

Copyright 2021 Dr.Lance Eliot; Deze inhoud is oorspronkelijk geplaatst op AI Trends.  

[Ed. Opmerking: raadpleeg de online Forbes-kolom voor lezers die geïnteresseerd zijn in de voortdurende bedrijfsanalyses van Dr. Eliot over de komst van zelfrijdende auto's: https://forbes.com/sites/lanceeliot/] 

http://ai-selfdriving-cars.libsyn.com/website 

Bron: https://www.aitrends.com/ai-insider/asimovs-three-laws-of-robotics-and-ai-autonomous-cars/