Di Lance Eliot, Insider dell'IA Trends
L’intelligenza artificiale sta iniziando a scusarsi.
Questa è l’ultima tendenza per l’intelligenza artificiale che interagisce direttamente con le persone. L’idea sembra essere che se l’IA deve fornire notizie sfavorevoli o sembra aver commesso un potenziale errore, dovrebbe essere civile riguardo alla questione e scusarsi. Gli sviluppatori di intelligenza artificiale stanno scegliendo di includere la capacità di generare scuse oppure vengono spinti da progettisti e manager di sistema a infondere la capacità di "mi dispiace".
A prima vista potrebbe sembrare una meravigliosa aggiunta a un sistema di intelligenza artificiale e presumibilmente sarebbe utile da costruire. Mi dispiace dire che l'intelligenza artificiale che si scusa ha sia vantaggi che svantaggi.
Cominciamo considerando un contesto che aiuterà a rivelare i pro e i contro delle scuse basate sull’intelligenza artificiale. Immagina di fare domanda online per un prestito auto e il sistema di intelligenza artificiale determina che non sei degno, per così dire, e ti rifiuta immediatamente. La convinzione è che questo sarebbe il momento ideale per l’IA per offrirti delle scuse “sentite”.
Potrebbe essere più o meno questo: Caro richiedente di prestito, è con grande dispiacere che devo informarti della sfortunata notizia che la tua richiesta di prendere in prestito fondi per acquistare un'auto è stata respinta. Tieni presente che non sei il solo ad essere stato respinto e accetta queste scuse per qualsiasi disagio che potrebbe derivare da questo risultato. Cordiali saluti, il sistema di intelligenza artificiale che con riluttanza ha respinto la tua richiesta.
Pensi che queste scuse faranno sentire meglio la persona riguardo alla decisione basata sull'intelligenza artificiale?
Ebbene, dubito che lo sarebbe per la maggior parte delle persone, tuttavia esiste una tendenza emergente che prevede che i sistemi di intelligenza artificiale producano questo tipo di messaggi.
Possiamo riflettere e discutere i compromessi implicati nell’avere un’intelligenza artificiale che fornisca questo tipo di scuse. Si sostengono vantaggi nel far sembrare l'IA deferente, mentre ci sono critiche secondo cui questa è una presa in giro dell'umanità e diminuisce la potenza delle scuse nel complesso. Prima di arrivare all’insieme generale dei compromessi, immagina la miriade di aree in cui viene applicata l’intelligenza artificiale, oltre alla semplice valutazione dei candidati al prestito auto, e immagina come queste varie istanze potrebbero scegliere di sfruttare un sistema di intelligenza artificiale intenzionalmente scusato.
Ecco un aspetto intrigante: L’avvento delle vere auto a guida autonoma basate sull’intelligenza artificiale richiederà che l’intelligenza artificiale si scuserà di tanto in tanto, e vogliamo o ci aspettiamo davvero che le scuse vengano rilasciate dai sistemi di guida dell’intelligenza artificiale?
Disimballiamo la questione e vediamo.
Per il mio quadro sulle auto autonome AI, vedere il link qui: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/
Perché questo è uno sforzo lunare, vedi la mia spiegazione qui: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/
Per ulteriori informazioni sui livelli come tipo di scala Richter, vedere la mia discussione qui: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/
Per l'argomento sulla biforcazione dei livelli, vedi la mia spiegazione qui: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/
Comprensione dei livelli delle auto a guida autonoma
Per chiarire, le vere auto a guida autonoma sono quelle in cui l'IA guida l'auto interamente da sola e non c'è alcuna assistenza umana durante l'attività di guida. Questi veicoli senza conducente sono considerati di Livello 4 e Livello, mentre un'auto che richiede un conducente umano per condividere lo sforzo di guida è solitamente considerata di Livello 2 o Livello 3. Le auto che condividono il compito di guida sono descritte come semi-autonomi e in genere contengono una varietà di componenti aggiuntivi automatizzati denominati ADAS (sistemi avanzati di assistenza alla guida).
Non c'è ancora una vera auto a guida autonoma al Livello 5, che non sappiamo ancora se questo sarà possibile raggiungere, e nemmeno quanto tempo ci vorrà per arrivarci.
Nel frattempo, gli sforzi del Livello 4 stanno gradualmente cercando di ottenere un po 'di trazione sottoponendosi a prove su strade pubbliche molto strette e selettive, anche se c'è controversia sul fatto che questo test debba essere consentito di per sé (siamo tutti cavie a vita o morte in un esperimento che si svolgono sulle nostre autostrade e strade secondarie, alcuni sostengono).
Poiché le auto semi-autonome richiedono un guidatore umano, l'adozione di questi tipi di auto non sarà nettamente diversa dalla guida di veicoli convenzionali, quindi non c'è molto di nuovo di per sé su questo argomento (tuttavia, come vedrai in un momento, i punti successivi saranno generalmente applicabili).
Per le auto semi-autonome, è importante che il pubblico abbia bisogno di essere avvertito di un aspetto inquietante che si è verificato di recente, vale a dire che, nonostante quei guidatori umani che continuano a pubblicare video di se stessi addormentarsi al volante di un'auto di Livello 2 o Livello 3 , dobbiamo tutti evitare di essere indotti in errore nel credere che il conducente possa distogliere la propria attenzione dal compito di guida durante la guida di un'auto semi-autonoma.
Sei la parte responsabile delle azioni di guida del veicolo, indipendentemente da quanta automazione possa essere lanciata in un Livello 2 o Livello 3.
Per quale motivo il pilotaggio a distanza o il funzionamento di auto a guida autonoma è generalmente evitato, vedere la mia spiegazione qui: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/
Per diffidare di notizie false sulle auto a guida autonoma, consulta i miei suggerimenti qui: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/
Le implicazioni etiche dei sistemi di guida AI sono significative, vedi la mia indicazione qui: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/
Fai attenzione alle insidie della normalizzazione della devianza quando si tratta di auto a guida autonoma, ecco la mia chiamata alle armi: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/
Auto a guida autonoma e offerta di scuse
Per i veicoli a guida autonoma di livello 4 e 5, non ci sarà un guidatore umano coinvolto nel compito di guida. Tutti gli occupanti saranno passeggeri; tlui AI sta guidando.
Alcuni sostengono che sia logico che l’intelligenza artificiale presenti delle scuse quando la situazione lo richiede.
Inizialmente potresti essere sconcertato dal fatto che ci sia mai una base affinché il sistema di guida basato sull’intelligenza artificiale possa scusarsi con i passeggeri di un’auto a guida autonoma. Certamente non ci aspettiamo che i guidatori umani si scusino in modo particolare, e quindi non esiste una tradizione consolidata di guidatori che facciano tali espressioni. Certo, in rare occasioni un autista di un servizio di ride sharing potrebbe scusarsi perché la sua macchina puzza di insalata di tonno perché è appena riuscito a divorare il pranzo mentre veniva a prenderti, ma per il resto il numero di scuse che riceviamo mentre guidiamo in macchina è aumentato. deve essere piuttosto basso, quasi zero a quanto pare.
Bene, fai un passo indietro e medita sul seguente scenario.
Sei immerso in un'auto a guida autonoma e ti stai godendo un po' di tempo tranquillo mentre vai al lavoro. I sedili possono reclinarsi completamente poiché non ci sono controlli di guida all'interno del veicolo (il volante e i pedali per le vere auto a guida autonoma dovrebbero essere rimossi dall'interno e non più accessibili agli esseri umani poiché l'intelligenza artificiale sta facendo tutta la guida) ).
L'intelligenza artificiale osserva diligentemente la carreggiata e tenta di fornirti un viaggio sicuro da casa tua all'ufficio. Per fortuna, l'intelligenza artificiale riesce a gestire il dannato traffico sulle autostrade e l'altrettanto esasperante traffico ingorgato nelle trafficate strade cittadine. Puoi sognare ad occhi aperti e nel frattempo l'intelligenza artificiale osserva l'ambiente circostante come un falco vigile.
All'improvviso, l'intelligenza artificiale rileva tramite i suoi sensori, ad esempio utilizzando telecamere, radar, LIDAR e così via, che un pedone si sta muovendo in modo irregolare sul marciapiede e sembra avvicinarsi al cordolo della strada. È difficile discernere se la persona verrà effettivamente in strada. Forse all'ultimo momento torneranno indietro verso gli edifici ed eviteranno di entrare nella carreggiata. Oppure, nel peggiore dei casi, la persona potrebbe scegliere di fare un salto in strada, proprio di fronte al luogo in cui è diretta l’auto a guida autonoma.
Cosa fare? Cosa faresti? Cosa dovrebbe fare l'IA?
I conducenti umani si confrontano continuamente con questo tipo di situazioni di guida. Devi valutare in una frazione di secondo se un pedone vagherà stupidamente direttamente sul percorso della tua auto in movimento, e quindi calcolare nella tua mente se rallentare, accelerare, sterzare o non intraprendere alcuna azione. Qualunque di queste opzioni potrebbe essere giusta. Naturalmente, anche una qualsiasi di queste opzioni potrebbe essere sbagliata.
Nel caso dei sistemi di guida basati sull’intelligenza artificiale, fino ad oggi l’approccio ha comportato che l’intelligenza artificiale fosse straordinariamente cauta, più di quanto forse potrebbe esserlo la maggior parte dei guidatori umani. Se c'è anche solo la minima idea di un imminente incidente automobilistico o di un incidente simile, l'intelligenza artificiale cercherà di scongiurare le possibilità adottando la linea di condotta più "sicura" (ne parleremo più avanti tra poco).
Supponiamo che l'IA prema i freni dell'auto a guida autonoma, in modo da fermarsi completamente prima di raggiungere il punto in cui potrebbe trovarsi il pedone. Calcolando i punti di intersezione in cui sarebbero potuti arrivare l'auto a guida autonoma e il pedone, l'intelligenza artificiale ha calcolato la distanza di arresto e ha calcolato che una fermata di emergenza avrebbe probabilmente potuto garantire che l'auto a guida autonoma e il vagabondo non entrassero in contatto con l'auto. l'un l'altro.
Il pedone si salva.
Supponiamo però che la persona non sia scesa in strada e all'ultimo momento sia tornata sul marciapiede. Ciò significa che l’auto a guida autonoma si è fermata inutilmente. Presumibilmente potresti dare all'intelligenza artificiale un po 'di credito per aver evitato un potenziale incidente, ma l'incidente non si è mai materializzato e quindi potresti ugualmente criticare l'intelligenza artificiale per essere un guidatore eccessivamente reattivo.
Nel frattempo, ricorda che c'è un passeggero all'interno dell'auto a guida autonoma (stiamo ancora facendo finta che fossi tu). Eccoti lì, comodamente sdraiato e beatamente disattento alle condizioni della strada, giustamente, facendo affidamento sull'intelligenza artificiale per affrontare la guida e prendere le giuste decisioni.
Grazie alla brusca azione frenante utilizzata dal sistema di guida AI, verrai sballottato come un sacco di patate. Forse è coinvolto un po' di colpo di frusta.
Che diamine è successo, probabilmente ti starai chiedendo, non avendo la minima idea del motivo per cui l'intelligenza artificiale ha effettuato l'arresto inaspettato e del tutto senza preavviso.
A questo punto, almeno come minimo, ti aspetteresti che l’intelligenza artificiale spieghi cosa è successo. Se l’IA non indica il motivo per cui è stata intrapresa l’azione di guida brutale, sei assalito da dubbi e ti sentirai a disagio sul fatto che l’IA possa guidare adeguatamente l’auto a guida autonoma. Forse l'intelligenza artificiale è impazzita, o un aumento di potenza elettronica ha fatto guastare i suoi componenti.
Siamo ormai alla domanda da un milione di dollari. L'intelligenza artificiale dovrebbe scusarsi con te?
Prova questo: caro pilota, senza dubbio hai percepito che l'auto a guida autonoma si è fermata improvvisamente, per cui ti prego di accettare le mie scuse per averlo fatto. Ciò è stato fatto per estrema cautela e potenzialmente avrebbe potuto salvare la vita di un pedone errante. In quanto trasgressione di guida, non è ciò che aspiro a fare mentre guido, ma spero che tu capisca che tali momenti hanno merito e il tuo perdono in questo caso è accolto con favore. Cordiali saluti, l'intelligenza artificiale alla guida dell'auto a guida autonoma.
Si noti che si tratta di un twofer, costituito da una spiegazione e contemporaneamente da scuse inserite. La spiegazione tenderebbe ad alleviare le tue preoccupazioni sul fatto che l'IA sia andata fuori di testa. Le scuse ti fanno sentire meglio?
Rivolgiamo la nostra attenzione all'IA che si scusa e a coloro che in precedenza alludevano ai compromessi coinvolti nel far sì che l'IA lo faccia.
Per maggiori dettagli sugli ODD, vedere la mia indicazione a questo link qui: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/
Sul tema delle auto a guida autonoma fuoristrada, ecco i miei dettagli elicitazione: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/
Ho sollecitato la presenza di un Chief Safety Officer presso i produttori di auto a guida autonoma, ecco lo scoop: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/
Aspettatevi che le cause legali diventino gradualmente una parte significativa del settore automobilistico a guida autonoma, vedere i miei dettagli esplicativi qui: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/
L'intelligenza artificiale si scusa e i meriti o i demeriti
Alcuni insistono sul fatto che qualsiasi scusa da parte di un sistema di intelligenza artificiale è completamente, sfacciatamente, un atto fraudolento e vuoto.
L'intelligenza artificiale non è senziente. Per quelli di voi che potrebbero essere ingannati dalla raffica di post sui media che suggeriscono che l'intelligenza artificiale è senziente o quasi, non cadete in questa sciocchezza. Oggi non esiste alcuna intelligenza artificiale che possa essere interpretata come senziente e non c’è nulla all’orizzonte che implichi o pretenda di dimostrare che la sensibilità possa essere raggiunta nel prossimo futuro.
Quindi, il punto è che l’intelligenza artificiale che genera delle scuse non è la stessa cosa di un essere umano che si scusa. L'intelligenza artificiale non può fornire a te o a chiunque scuse sincere. Questo non conta. In questo senso generale, si può sostenere che le scuse dell’IA non sono altro che un falso.
Peggio ancora è l’idea che fornendo delle scuse si insinui insidiosamente che l’intelligenza artificiale sia effettivamente senziente. In un linguaggio più formale, ciò equivale ad antropomorfizzare l’intelligenza artificiale. Quando l’intelligenza artificiale come macchina basata su computer verrà fatta sembrare umana, i veri esseri umani inizieranno a pensare che la macchina sia un essere umano o un equivalente.
Questa è una pericolosa china scivolosa.
Le persone che credono che l’intelligenza artificiale possa pensare e agire come un essere umano diventeranno dipendenti dall’intelligenza artificiale per fare cose che l’intelligenza artificiale non può realizzare. Ad esempio, gli esseri umani hanno un ragionamento basato sul buon senso (mi rendo conto che alcuni potrebbero ridacchiare e notare che conoscono gli esseri umani che non sono in grado di esercitare il buon senso, ma per il momento mettono da parte quel cinismo), ma non ci sono sistemi di intelligenza artificiale. eppure hanno qualcosa di simile. Pertanto, l’IA non applicherà il buon senso a tutte le istruzioni che potresti condividere con essa, e non dovresti nemmeno aspettarti che utilizzi il buon senso quando esegue un compito per te.
Parlando di cinici, alcune persone sono meno entusiaste di queste scuse sull’IA e affermano che qualsiasi essere umano con un minimo di intelligenza sa che le scuse emesse dall’IA sono semplicemente un artefatto inventato dagli umani che hanno programmato l’IA. Da questo punto di vista, c'è una convinzione radicata che tutti dovrebbero già rendersi conto che l'intelligenza artificiale è solo un computer e, come qualsiasi computer che emette un rapporto o visualizza un messaggio, il tutto è solo un mucchio di 1 e 0 che vengono spalati... e andata e ritorno.
E si potrebbe sostenere che ricevere delle scuse, anche se da qualcosa che non “sa” cosa siano, fornisce un bel tocco di umanità per le circostanze in questione.
Gli sviluppatori dell'IA almeno si sono resi conto che a volte l'IA potrebbe entrare in conflitto. Questo da solo è importante e forse scioccante poiché molte volte un sistema di intelligenza artificiale commette un errore o un passo falso e non si rende conto di ciò che è accaduto. Meno male che ci sono delle scuse, che agiscono come un canarino in gabbia, mostrando la luce che l'intelligenza artificiale è stata incorporata con una sorta di capacità di rilevamento e risposta agli errori.
Anche le parole di scusa possono essere calmanti. Nonostante l’intelligenza artificiale non sia umana o qualcosa di simile, vengono pronunciate e ricevute solo le parole.
Tornando a sdraiarsi in un'auto a guida autonoma che si è fermata di colpo, forse le scuse possono essere la ciliegina sulla torta, in cui la torta era la spiegazione e la deliziosa ciliegina sono le parole di scusa supplementari.
Fino a dove potrebbe spingersi?
Ci sono livelli stratificati di scuse introdotti in alcuni sistemi di intelligenza artificiale. C'è una lieve scusa che viene utilizzata quando l'incidente o l'attività ha disturbato solo modestamente l'essere umano. In attesa di essere utilizzate ci sono le scuse di livello medio che forniscono un'indicazione più lunga di ciò di cui l'IA è dispiaciuta. Poi ci sono le scuse accentuate, che cercano profusamente di offrire una tristezza degna di un'opera shakespeariana.
Il passeggero di un’auto a guida autonoma che è stato spintonato dall’arresto improvviso potrebbe ricevere delle scuse lievi se l’azione di arresto non fosse stata particolarmente severa. D'altra parte, se il fermo fosse del tipo che ti fa battere i denti fuori dal cranio, probabilmente verrebbe rilasciata la versione accentuata delle scuse.
Gli scettici hanno un punto di vista completamente diverso su queste scuse basate sull’intelligenza artificiale.
Datemi un risarcimento o qualcosa di tangibile che mi renda integro e calmato, esortano gli scettici, piuttosto che un mucchio di parole appiccicose di scusa.
Nel caso di un’auto a guida autonoma, l’intelligenza artificiale dovrebbe informarti che riceverai uno sconto del 10% sulla tariffa di guida per il viaggio, o forse rinuncerai completamente al conto. Se esiste un programma fedeltà associato all'uso dell'auto a guida autonoma, forse l'intelligenza artificiale può aggiungere alcune miglia imbottite al tuo account, così facendo per cercare di placare il tuo sgomento per l'improvvisa azione di arresto. Eccetera.
In breve, ci sono i critici che evitano le scuse se non c'è un profitto in buona fede associato alle parole stesse. In questa prospettiva, qualsiasi scusa da parte di un’intelligenza artificiale o di un essere umano è essenzialmente inutile a meno che non sia supportata da denaro in tasca o da qualche altra forma di risarcimento che affronti la questione alla base dell’incidente che ha portato alle scuse, tanto per cominciare.
Conclusione
Un’altra preoccupazione di alcuni riguardo alle scuse dell’intelligenza artificiale è che potrebbe aprire un vero vaso di Pandora. L’atto di scusa dell’IA potrebbe essere interpretato come un riconoscimento che l’IA ha fatto qualcosa di sbagliato. Questa ammissione può quindi essere utilizzata per qualsiasi azione legale contro la società che ha realizzato o messo in campo il sistema di intelligenza artificiale.
Per quanto riguarda l’auto a guida autonoma, potenzialmente la casa automobilistica o il produttore di tecnologia a guida autonoma stanno facendo di testa propria, si potrebbe dire, perché hanno ammesso di essere in colpa.
La prossima cosa che sai, ci sono milioni di azioni legali avviate da persone che hanno ricevuto scuse basate sull'intelligenza artificiale, e tutte useranno come prova concreta che l'intelligenza artificiale si è scusata, il che certamente deve significare che l'intelligenza artificiale aveva torto e che il creatore dell’IA sapeva o avrebbe potuto sapere che l’IA avrebbe pasticciato le cose.
Tornando agli scettici, potenzialmente l'IA che offre delle scuse è quasi come un dollaro nelle loro tasche, dato che l'IA sta offrendo loro su un piatto d'argento che l'IA era in colpa e presumibilmente dovrebbe essere previsto un risarcimento di conseguenza, magari attraverso procedimenti giudiziari. .
In ultima analisi, ci sono anche i perfezionisti che hanno qualcosa da dire sulle scuse basate sull’intelligenza artificiale. Secondo loro, non dovrebbero mai essere necessarie delle scuse, vale a dire che l'intelligenza artificiale dovrebbe funzionare sempre perfettamente. Se l’IA viene costruita con le scuse incluse, ciò significa che l’IA non viene costruita per raggiungere la perfezione. Questo è ovviamente un errore iniziale perché l’intelligenza artificiale non dovrebbe essere da nessuna parte nel mondo reale finché non sarà perfezionata e non avrà mai bisogno di scuse.
Ti piacciono quelle mele?
I realisti riderebbero di questo tipo di sentimento e probabilmente direbbero che i perfezionisti sono idealisti, inoltre la linea comune di questi tempi è che la ricerca della perfezione è presumibilmente nemica del bene (apparentemente preso in prestito da Voltaire e una variante del cosiddetto modello d'oro). significato attribuito da filosofi come Confucio e Aristotele).
Nessuna scusa, nessun rimpianto, recita anche la famosa frase.
Ora che conosci le scuse basate sull'intelligenza artificiale, potresti addolcire quelle scuse pronunciate dagli umani che ricevi di tanto in tanto.
Naturalmente, le scuse generate dall'uomo non sono necessariamente sempre genuine e complete, a pensarci bene, anche una volta che l'intelligenza artificiale diventa senziente, forse non sapremo se l'intelligenza artificiale sta solo cercando di offrire vuote banalità per placarci o sinceramente. esprimendo un profondo dolore.
Sembra un buon momento per concludere questo argomento e offrire questa saggia citazione del Bardo: "Separarsi è un dolore così dolce che dirò buonanotte finché non sarà". domani. "
Copyright 2021 Dottor Lance Eliot; Questo contenuto è originariamente pubblicato su AI Trends.
[Ed. Nota: per i lettori interessati alle continue analisi commerciali del Dr. Eliot sull'avvento delle auto a guida autonoma, consultare la sua rubrica online di Forbes: https://forbes.com/sites/lanceeliot/]
