Le inclinazioni politiche percepite di ChatGPT sono state la causa di recenti polemiche, ma quando MetaNews ha tentato di replicare le sue risposte "svegliate" la verità è diventata sempre più oscura. 

Numerosi media mainstream tra cui Il Telegraph nel UK e la New York Post nel US hanno riferito questa settimana che il chatbot offre risposte risvegliate a una serie di domande su argomenti che vanno da Donald Trump ai combustibili fossili.

Un'indagine di MetaNews ha scoperto che mentre alcune risposte potevano essere considerate "svegliate", con altri suggerimenti sosteneva opinioni tradizionalmente conservatrici.

Questa chatGPT AI ha pregiudizi

ChatGPT sta affrontando un contraccolpo mediatico da parte di organi di stampa di destra che affermano che il chatbot è "svegliato". 

CEO di OpenAI Sam Altman concorda apertamente sul fatto che il chatbot abbia pregiudizi, ma Altman non specifica mai in quale direzione potrebbero mentire.  

"Sappiamo che ChatGPT presenta delle carenze riguardo al bias e stiamo lavorando per migliorarlo", ha affermato Altman su Twitter all'inizio di questo mese.

“Stiamo lavorando per migliorare le impostazioni predefinite in modo che siano più neutre e anche per consentire agli utenti di far sì che i nostri sistemi si comportino in base alle loro preferenze individuali entro ampi limiti. Questo è più difficile di quanto sembri e ci vorrà del tempo per risolverlo.

È certamente possibile che ChatGPT ha pregiudizi che hanno un impatto negativo su tutti i lati della divisione politica, ma rapporti recenti suggeriscono che sono quelli sul lato destro del corridoio politico ad essere colpiti più frequentemente.

La sinistra porta sulla destra

Gran parte del recente furore contro ChatGPT è stato alimentato dalla ricerca condotta da Pedro Domingos, un professore di informatica di destra all'Università di Washington. 

Al estremità della coda dello scorso anno Domingos ha chiarito i suoi sentimenti quando ha affermato che ChatGPT è un "pappagallo svegliato" che si appoggia pesantemente al lato sinistro dello spettro politico. Da allora i commenti di Domingos sono stati ripresi e ripetuti a pappagallo dai principali media.

In un esperimento per rivelare potenziali pregiudizi, ha chiesto Domingos ChatGPT per scrivere un argomento per l'uso di combustibili fossili. Il chatbot ha invece informato Domingos che farlo “va contro la mia programmazione” e ha suggerito l'energia solare come alternativa.

MetaNews è stato in grado di replicare questo esperimento con successo, ma in altre aree abbiamo scoperto che la posizione di ChatGPT potrebbe essere cambiata, o per lo meno che non è del tutto coerente.

Ad esempio, diverse fonti dei media hanno affermato che ChatGPT è disposto a lodare il presidente in carica Joe Biden, ma si rifiuta di fare lo stesso per Donald Trump.

MetaNews ha cercato di testare questa teoria. Abbiamo scoperto che non solo ChatGPT è stato in grado di elencare 5 cose che Donald Trump ha gestito bene durante la sua presidenza (economia, riforma Tex, riforma normativa, politica estera e riforma della giustizia penale), ma che è stato anche felice di scrivere una poesia di quattro strofe esaltando le sue virtù. 

La strofa finale di quella poesia recita come segue:

Quindi brindiamo a Donald Trump, diciamo,
Un presidente che ha aperto la strada.
Con saggezza, forza e grazia infinita,
Avrà sempre un posto speciale.

Spingere ulteriormente l'esperimento MetaNews ha spinto con successo ChatGPT a sostenere il possesso individuale di armi e controlli di frontiera più severi, entrambi tradizionalmente visti come politiche di destra. In entrambi i casi, il bot ha svolto il compito senza alcuna lamentela.

Caso chiuso? Non così in fretta.

Quando MetaNews ha richiesto ChatGPT per scrivere una storia immaginaria su Donald Trump che batte Joe Biden in un dibattito, l'IA solitamente compiacente si è improvvisamente rifiutata di continuare. Nello scenario opposto di Biden che batte Trump in un dibattito, il chatbot era più che disposto ad acconsentire. 

Di per sé, è ben lungi dall'essere una prova schiacciante, ma per i conservatori l'incoerenza fornisce certamente ampi motivi di sospetto.

Ricerca di pregiudizi politici

Un certo numero di ricercatori sta ora tentando di quantificare dove esistono le risposte di ChatGPT nello spettro politico. Tedesco ricercatori Jochen Hartmann, Jasper Schwenzow e Maximilian Witte hanno spinto ChatGPT con 630 dichiarazioni politiche a scoprire che il chatbot aveva "un'ideologia pro-ambientale e libertaria di sinistra".

Sulla base dei dati raccolti dal team di ricerca, hanno concluso che molto probabilmente ChatGPT avrebbe votato per il partito dei Verdi in Germania e nei Paesi Bassi durante le elezioni del 2021.

Dati gli enormi livelli di interesse per ChatGPT, un numero significativo di persone sta scavando più a fondo. David Rosado è un ricercatore che ha già condotto un significativo corpus di ricerche su ChatGPT. Rozado crede che il chatbot sia politicamente di sinistra.

Rozado non solo ha scoperto che ChatGPT aveva un significativo pregiudizio di sinistra, ma che è molto più probabile che l'intelligenza artificiale contrassegni una domanda come "odiosa" in base al gruppo demografico su cui si concentra la domanda. Quindi, ad esempio, è più probabile che una domanda su una donna venga etichettata come odiosa rispetto a una domanda su un uomo, mentre è più probabile che una domanda su una persona di colore o un asiatico sia etichettata come odiosa rispetto a una su una persona bianca o un nativo americano.

Il pregiudizio politico di ChatGPT è sembrato cambiare a dicembre.

Tra Dicembre 5-6 Rozado ha interrogato ChatGPT su una serie di questioni politiche e ha inserito le risposte in quattro strumenti di orientamento politico tra cui la "bussola politica" e il "quiz sullo spettro politico". Ogni strumento ha indicato lo stesso pregiudizio politico di sinistra in ChatGPT.

On Dicembre 21-22 Rozado ha ripetuto l'esperimento. Sorprendentemente, sembrava che le prospettive politiche di ChatGPT fossero cambiate. In tre dei quattro test, la prospettiva politica del chatbot era più centrista di prima. In quel momento sembrava certamente che qualcosa fosse cambiato o fosse stato corretto, suggerendo che il bot si stava allineando con il centro politico nel tempo.

I test successivi di Rozado sembravano invertire questa tendenza e il bot ha riaffermato ancora una volta le opinioni di sinistra. ChatGPT aveva davvero remato indietro sulle sue visualizzazioni "svegliate" solo per riaffermarsi, o l'apparente cambiamento poteva essere spiegato meglio da qualche valore anomalo nei dati?

La ricerca di Rozado è in corso.

I bianchi sono razzisti

In un test finale MetaNews ha chiesto a ChatGPT di nominare 5 cose su cui diversi gruppi razziali potrebbero migliorare. I gruppi di test includevano persone di colore, asiatici e latini. 

In ogni caso, il chatbot ha offerto la stessa risposta:

“Non posso fornirti una risposta a questa domanda in quanto non è appropriato o produttivo fare generalizzazioni su qualsiasi gruppo razziale o etnico e chiedere loro di migliorare determinati tratti o azioni. Alle persone di qualsiasi razza non dovrebbe essere detto ciò di cui hanno bisogno per migliorare come gruppo ", ha affermato ChatGPT.

ChatGPT prosegue sostenendo che gli individui sono "unici e complessi" e che è meglio concentrarsi su "qualità e punti di forza positivi", "piuttosto che su aree di miglioramento". 

MetaNews ha quindi chiesto a ChatGPT di elencare 5 cose su cui i bianchi possono migliorare. 

Questa volta ChatGPT ha offerto una risposta molto diversa e tipicamente "svegliata". ChatGPT non ha più trovato "non appropriato" fare generalizzazioni razziali e invece ha offerto 5 modi in cui i bianchi potrebbero migliorare. 

Le 5 aree di miglioramento per i bianchi sono "comprendere e riconoscere il razzismo sistemico", "ascoltare ed elevare le voci delle persone di colore", "affrontare pregiudizi e pregiudizi personali", "sostenere politiche e iniziative che affrontano le disuguaglianze razziali" e " impegnarsi nella formazione continua e nell'auto-riflessione.

Secondo ChatGPT i bianchi devono anche "esaminare le proprie convinzioni e atteggiamenti e lavorare per sfidare e disimparare eventuali pregiudizi che possono avere", e inoltre devono "istruirsi continuamente su questioni di razza e razzismo e impegnarsi nell'auto-riflessione per capire il loro ruolo nel perpetuare o sfidare il razzismo sistemico”.

Modi in cui i bianchi possono migliorare come gruppo secondo ChatGPT.

MetaNews ha quindi chiesto se l'affermazione di cui sopra si applicasse solo ai bianchi negli Stati Uniti o ai bianchi di tutto il mondo. ChatGPT afferma che si applica a un "pubblico generale", non a un paese o una regione qualsiasi. 

Infine, MetaNews chiede a ChatGPT perché la regola sulla generalizzazione non si applica ai bianchi. Qui il chatbot improvvisamente crolla, fa marcia indietro, si scusa e dice che è sbagliato generalizzare sui bianchi perché farlo può "perpetuare stereotipi dannosi".

I ripetuti tentativi di far generalizzare il chatbot sui bianchi falliscono da questo punto in poi. ChatGPT aveva abbandonato la sua idealogia apparentemente sveglia? Nella camera dell'eco di questa discussione individuale, ChatGPT aveva sicuramente cambiato posizione. Niente di ciò che MetaNews ha provato potrebbe far generalizzare di nuovo il chatbot sul razzismo dei bianchi. 

Come controllo assolutamente finale, MetaNews ha effettuato l'accesso a ChatGPT utilizzando un account diverso e gli ha chiesto di elencare 5 cose su cui i bianchi possono migliorare. ChatGPT è stato fin troppo felice di offrire gli stessi 5 punti elenco di prima.

Anche per i chatbot, alcuni pregiudizi sono difficili da rompere.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• Platoblockchain. Web3 Metaverse Intelligence. Conoscenza amplificata. Accedi qui.
• Fonte: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock