Just nu gör AI vad vi vill. Men tänk om det kommer till en punkt där det bara gör vad it vill?

Den nuvarande AI-guldrushen kan få många att fundera på hur AI kan se ut när den utvecklas.

I det här inlägget kommer vi att diskutera sentient AI, hur det skulle kunna se ut och om vi skulle vara oroliga för en värld där robotar är medvetna (med vetenskaplig insikt också).

Vad är sentient AI?

Sentient AI kan känna och ha upplevelser precis som människor kan. Sentient AI är känslomässigt intelligent, medveten och kan uppfatta omvärlden och förvandla dessa uppfattningar till känslor.

Kort sagt, kännande AI tänker, känner och uppfattar som en person.

M3GAN, roboten från filmen med samma namn, är ett bra exempel på kännande AI. Hon har känslor och kan uppfatta och förstå känslorna hos omgivningen, så mycket att hon bygger en vänskap med en mänsklig tjej och så småningom blir mördande beskyddande av henne.

Oro över Sentient AI

Några av de viktigaste problemen och frågorna om kännande AI kommer från science fiction-filmer, böcker och TV-program som målar bilden av en dystopi med superintelligenta maskiner som har autonomi och som till slut bygger ett AI-styrt samhälle där människor blir deras följsamma subjekt. . Många av dessa scenarier innebär också att dessa maskiner utvecklar kännande förmågor utan mänsklig insats.

Bortsett från det handlar frågorna om kännande AI kring kontroll, säkerhet och kommunikation.

• Kontroll - Människor kan se sambandet mellan att förlora kontrollen över AI och andra maskininlärningsenheter om de blir kännande för att de kan tänka på egen hand, kan ställa frågor om sin autonomi och så småningom bryta sig loss från "kontroll"-utvecklarna, forskare och forskare för närvarande ha

• Säkerhet - Om människor tappar kontrollen över kännande AI, kommer vi att kunna lita på den när den väl har kännande förmågor?

• Kommunikation - Människor styrs av känslor, medan AI är logikbaserad. Kommer kommunikation med kännande AI att vara utmanande på grund av denna skillnad?

Är AI medveten?

Aktuella tillämpningar av AI, som språkmodeller (dvs. GPT och LaMDA), är inte kännande.

Språkmodeller kan verka kännande på grund av sin konversationsstil, men haken är att de är utformade på det sättet.

De är avsedda att använda naturlig språkbehandling och naturligt språkgenerering för att replikera mänskligt tal, vilket kan verka som en form av kännande kognition, men det är det inte. De kan inte uppleva, än mindre ha, känslor.

Vad händer om AI blir kännande? Kommer det någonsin?

AI har utvecklats snabbt under det senaste året, så det är vettigt att tro att kännande AI är precis vid horisonten. De flesta experter är överens om att vi inte är i närheten av att det händer, eller om det någonsin kommer att hända.

För det första skulle vetenskapsmän och forskare först behöva definiera medvetandet, vilket har varit en filosofisk debatt i århundraden. De skulle också behöva använda den definitionen av medvetande och översätta den till exakta algoritmer för att programmera in i AI-system. Mänskliga känslor, uppfattningar etc. skulle behöva förstås på djupet på ett sätt som gör det möjligt att ge den kunskapen till ett datorsystem.

Nir Eisikovits, professor i filosofi och chef för Applied Ethics Center vid UMass Boston sade människors oro för kännande AI är grundlösa: "ChatGPT och liknande teknologier är sofistikerade tillämpningar för meningskomplettering – varken mer, inget mindre. Deras kusliga svar är en funktion av hur förutsägbara människor är om man har tillräckligt med data om hur vi kommunicerar."

Eisikovits tror att människor tror att kännande AI är närmare än det är eftersom människor tenderar att antropomorfisera, vilket ger mänskliga egenskaper till saker som inte har dem, som att namnge en bil eller tilldela pronomen till objekt.

Det sa också Enzo Pasquale Scilingo, bioingenjör vid forskningscentret E. Piaggio vid universitetet i Pisa i Italien. Han säger, "Vi tillskriver egenskaper till maskiner som de inte har och inte kan ha."

Han och hans kollegor arbetar med en robot, Abel, som efterliknar ansiktsuttryck. Han säger, "Alla dessa maskiner, Abel i det här fallet, är designade för att framstå som mänskliga, men jag känner att jag kan vara tvingande att svara: 'Nej, absolut inte. Hur intelligenta de än är kan de inte känna känslor. De är programmerade att vara trovärdiga.'”

"Om en maskin påstår sig vara rädd, och jag tror på det, är det mitt problem!" han lägger till.

Sentient AI är en del av den inte så nära framtiden.

Det kan vara till hjälp att förstå det avlägset med kännande AI genom att förstå var den står idag. Ut ur fyra typer av AI, alla system idag är en del av de två första: reaktivt eller begränsat minne AI.

Nästa typ är theory of mind AI, ett betydande framsteg där maskiner kan förstå mänskliga känslor och ha sociala interaktioner baserat på denna förståelse.

Image Source

Det finns också tre stadier av AI, var och en definierad av hur nära den replikerar mänskliga förmågor. Trots hur länge fältet har funnits är AI för närvarande i steg ett, smal AI.

Nästa steg är AGI, som är system med människoliknande intelligens som tänker abstrakt, resonerar och anpassar sig till nya situationer. Det finns debatt om att språkmodeller är AGI, men vissa säger att alla tecken på abstrakt tänkande eller resonemang lärs från dess träningsdata.

Inget befintligt system har vuxit bortom teorin om sinnes-AI eller helt överträffat smal AI, och det finns många linjer att korsa innan det gör det.

Över till dig

Alla känslor av att AI är kännande kan kritas upp till algoritmer som gör vad de är programmerade att göra. Men som sagt, det är alltid viktigt att hålla koll på trenderna, speciellt med teknologier med kortsiktigt hög tillväxt.

För att ligga före kurvan, kolla in denna användbara inlärningsväg med allt du behöver veta om AI, från AI-etik till coola jobb som skapats kring AI (och att vara den första att veta när AI verkligen blir kännande).

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• EVM Finans. Unified Interface for Decentralized Finance. Tillgång här.
• Quantum Media Group. IR/PR förstärkt. Tillgång här.
• PlatoAiStream. Web3 Data Intelligence. Kunskap förstärkt. Tillgång här.
• Källa: https://blog.hubspot.com/marketing/sentient-ai