Om een ​​machine te bouwen, moet men weten wat de onderdelen zijn en hoe ze in elkaar passen. Om de machine te begrijpen, moet men weten wat elk onderdeel doet en hoe het bijdraagt ​​aan zijn functie. Met andere woorden, men zou in staat moeten zijn om de "mechanica" van hoe het werkt uit te leggen.

Volgens een filosofische benadering mechanisme genoemd, mensen zijn aantoonbaar een soort machine - en ons vermogen om te denken, te spreken en de wereld te begrijpen is het resultaat van een mechanisch proces dat we niet begrijpen.

Om onszelf beter te begrijpen, kunnen we proberen machines te bouwen die onze capaciteiten nabootsen. Daarbij zouden we een mechanistisch begrip van die machines hebben. En hoe meer van ons gedrag de machine vertoont, hoe dichter we misschien bij een mechanistische verklaring van onze eigen geest komen.

Dit is wat AI filosofisch interessant maakt. Geavanceerde modellen zoals GPT-4 en Midjourney kan nu menselijke gesprekken nabootsen, slagen voor professionele examens en prachtige foto's maken met slechts een paar woorden.

Maar ondanks alle vooruitgang blijven er vragen onbeantwoord. Hoe kunnen we iets zelfbewust maken, of bewust maken dat anderen zich bewust zijn? Wat is identiteit? Wat betekent?

Hoewel er veel concurrerende filosofische beschrijvingen van deze dingen zijn, hebben ze allemaal weerstand geboden aan mechanistische verklaringen.

In een volgorde van papieren geaccepteerd voor de 16e jaarlijkse conferentie over kunstmatige algemene intelligentie in Stockholm geef ik een mechanistische verklaring voor deze verschijnselen. Ze leggen uit hoe we een machine kunnen bouwen die zich bewust is van zichzelf, van anderen, van zichzelf zoals waargenomen door anderen, enzovoort.

Intelligentie en intentie

Veel van wat we intelligentie noemen, komt neer op het doen van voorspellingen over de wereld met onvolledige informatie. Hoe minder informatie een machine nodig heeft om nauwkeurige voorspellingen te doen, hoe "intelligenter" het is.

Voor elke taak is er een limiet aan hoeveel intelligentie werkelijk nuttig is. De meeste volwassenen zijn bijvoorbeeld slim genoeg om te leren autorijden, maar met meer intelligentie worden ze waarschijnlijk geen betere chauffeurs.

Mijn papieren beschrijven de bovengrens van intelligentie voor een bepaalde taak, en wat er nodig is om een ​​machine te bouwen die deze taak uitvoert.

Ik noemde het idee Bennett's Razor, wat in niet-technische termen betekent dat "verklaringen niet specifieker mogen zijn dan nodig is". Dit verschilt van de populaire interpretatie van Ockham's Razor (en wiskundige beschrijvingen daarvan), wat een voorkeur heeft voor eenvoudigere verklaringen.

Het verschil is subtiel, maar significant. In een experiment door te vergelijken hoeveel data AI-systemen nodig hebben om eenvoudige wiskunde te leren, presteerde de AI die de voorkeur gaf aan minder specifieke verklaringen wel 500 procent beter dan een die de voorkeur gaf aan eenvoudigere verklaringen.

Het onderzoeken van de implicaties van deze ontdekking leidde me naar een mechanistische verklaring van betekenis - iets genaamd "Griceaanse pragmatiek.” Dit is een concept in de taalfilosofie dat kijkt naar hoe betekenis gerelateerd is aan intentie.

Om te overleven moet een dier voorspellen hoe zijn omgeving, inclusief andere dieren, zal handelen en reageren. Je zou niet aarzelen om een ​​auto onbeheerd achter te laten in de buurt van een hond, maar hetzelfde kan niet gezegd worden van je lunch met biefstuk.

Intelligent zijn in een gemeenschap betekent de intentie van anderen kunnen afleiden, die voortkomt uit hun gevoelens en voorkeuren. Als een machine de bovengrens van intelligentie zou bereiken voor een taak die afhangt van interacties met een mens, dan zou hij ook de intentie correct moeten afleiden.

En als een machine intentie kan toeschrijven aan de gebeurtenissen en ervaringen die hem overkomen, roept dit de vraag op naar identiteit en wat het betekent om je bewust te zijn van jezelf en anderen.

Causaliteit en identiteit

Ik zie John een regenjas dragen als het regent. Als ik John dwing om op een zonnige dag een regenjas te dragen, zal dat dan regenen?

Natuurlijk niet! Voor een mens is dit vanzelfsprekend. Maar de subtiliteiten van oorzaak en gevolg zijn moeilijker te leren aan een machine (geïnteresseerde lezers kunnen dit bekijken Het boek waarom door Judea Pearl en Dana Mackenzie).

Om over deze dingen te kunnen redeneren, moet een machine leren dat 'ik heb het laten gebeuren' iets anders is dan 'ik zag het gebeuren'. Normaal gesproken zouden we programma dit begrip erin.

Mijn werk legt echter uit hoe we een machine kunnen bouwen die presteert op de bovengrens van intelligentie voor een taak. Zo'n machine moet per definitie oorzaak en gevolg correct identificeren - en dus ook causale verbanden afleiden. Mijn papieren onderzoeken hoe precies.

De implicaties hiervan zijn ingrijpend. Als een machine leert "Ik heb het laten gebeuren", dan moet het concepten van "Ik" (een identiteit voor zichzelf) en "het" construeren.

Het vermogen om intentie af te leiden, oorzaak en gevolg te leren en abstracte identiteiten te construeren zijn allemaal met elkaar verbonden. Een machine die de bovengrens van intelligentie voor een taak bereikt, moet al deze capaciteiten vertonen.

Deze machine construeert niet alleen een identiteit voor zichzelf, maar voor elk aspect van elk object dat helpt of belemmert om de taak te voltooien. Het kan dan zijn eigen voorkeuren gebruiken een basislijn te voorspellen wat anderen kunnen doen. Dit is vergelijkbaar met hoe mensen hebben de neiging toe te schrijven opzet op niet-menselijke dieren.

Dus wat betekent het voor AI?

Natuurlijk is de menselijke geest veel meer dan het eenvoudige programma dat wordt gebruikt om experimenten in mijn onderzoek uit te voeren. Mijn werk geeft een wiskundige beschrijving van een mogelijke causale weg naar het creëren van een machine die aantoonbaar zelfbewust is. De details van het ontwerpen van zoiets zijn echter nog lang niet opgelost.

Een mensachtige intentie zou bijvoorbeeld mensachtige ervaringen en gevoelens vereisen, wat moeilijk te construeren is. Bovendien kunnen we niet gemakkelijk testen op de volledige rijkdom van het menselijk bewustzijn. Bewustzijn is een breed en dubbelzinnig concept dat de meer enge beweringen hierboven omvat, maar moet worden onderscheiden.

Ik heb er een mechanistische verklaring voor gegeven aspecten van bewustzijn - maar dit alleen vat niet de volledige rijkdom van bewustzijn zoals mensen het ervaren. Dit is nog maar het begin en toekomstig onderzoek zal deze argumenten moeten uitdiepen.

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Krediet van het beeld: DeepMind on Unsplash 

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
• De toekomst slaan met Adryenn Ashley. Toegang hier.
• Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPO®. Toegang hier.
• Bron: https://singularityhub.com/2023/05/05/can-machines-be-self-aware-new-research-explains-how-this-could-happen/