Ray Kurzweil, een bekende futurist en technisch directeur bij Google, publiceerde een weerlegging van de brief waarin hij opriep tot een pauze in het AI-onderzoek, waarin hij redenen aangaf waarom het voorstel onpraktisch is en de mensheid medische doorbraken en innovaties ontneemt die de mensheid ten zeerste ten goede komen.

Internationale brief om AI-ontwikkeling te pauzeren

Een open brief ondertekend door wetenschappers en beroemdheden van over de hele wereld (gepubliceerd op FutureOfLife.org) riep op tot een volledige pauze bij het ontwikkelen van AI die krachtiger is dan GPT-4, de nieuwste versie gemaakt door OpenAI.

Naast het stopzetten van de verdere ontwikkeling van AI, riepen ze ook op tot de ontwikkeling van veiligheidsprotocollen die worden gecontroleerd door onafhankelijke experts van derden.

Enkele punten die de auteurs van de open brief naar voren brengen:

• AI vormt een groot risico
• De ontwikkeling van AI mag pas doorgaan als nuttige toepassingen van de technologie zijn opgesomd en gerechtvaardigd
• AI mag alleen doorgaan als "wij" (de duizenden ondertekenaars van de brief) er zeker van zijn dat de AI-risico's beheersbaar zijn.
• AI-ontwikkelaars worden opgeroepen om samen met beleidsmakers AI-governancesystemen te ontwikkelen die bestaan ​​uit regelgevende instanties.
• De ontwikkeling van watermerktechnologieën om door AI gecreëerde inhoud te helpen identificeren en om de verspreiding van de technologie te beheersen.
• Een systeem voor het toekennen van aansprakelijkheid voor door AI veroorzaakte schade
• Oprichting van instellingen om de verstoringen veroorzaakt door AI-technologie aan te pakken

De brief lijkt te komen vanuit het standpunt dat AI-technologie gecentraliseerd is en kan worden onderbroken door de weinige organisaties die de technologie beheersen. Maar AI is niet exclusief in handen van overheden, onderzoeksinstituten en bedrijven.

AI is op dit moment een open source en gedecentraliseerde technologie, ontwikkeld door duizenden individuen op een wereldwijde schaal van samenwerking.

Ray Kurzweil: futurist, auteur en technisch directeur bij Google

Ray Kurzweil ontwerpt sinds de jaren zestig software en machines gericht op kunstmatige intelligentie. Hij heeft veel populaire boeken over dit onderwerp geschreven en staat bekend om het doen van voorspellingen over de toekomst die meestal juist zijn.

Van de 147 voorspellingen die hij in 2009 over het leven deed, waren er slechts drie, in totaal 2%, fout.

Een van zijn voorspellingen in de jaren '1990 is dat veel fysieke media, zoals boeken, aan populariteit zullen inboeten als ze gedigitaliseerd worden. In een tijd in de jaren negentig, toen computers groot en omvangrijk waren, voorspelde hij dat computers tegen 1990 klein genoeg zouden zijn om te dragen, wat waar bleek te zijn (Hoe het met mijn voorspellingen gaat - 2010 PDF).

De recente voorspellingen van Ray Kurzweil richten zich op al het goede dat AI zal brengen, met name op medische en wetenschappelijke doorbraken.

Kurzweil is ook gefocust op de ethiek van AI.

In 2017 was hij een van de deelnemers (samen met Sam Altman, CEO van OpenAI) die een open brief opstelde die bekend staat als de Asilomar AI-beginselen die ook op de Future of Life-website zijn gepubliceerd, richtlijnen voor veilige en ethische ontwikkeling van kunstmatige-intelligentietechnologieën.

Een van de principes die hij hielp creëren:

• “Het doel van AI-onderzoek zou moeten zijn om geen ongerichte intelligentie te creëren, maar nuttige intelligentie.
• Investeringen in KI moeten gepaard gaan met financiering voor onderzoek om het nuttige gebruik ervan te waarborgen
• Er moet een constructieve en gezonde uitwisseling zijn tussen AI-onderzoekers en beleidsmakers.
• Geavanceerde AI zou een ingrijpende verandering in de geschiedenis van het leven op aarde kunnen betekenen, en moet worden gepland en beheerd met passende zorg en middelen.
• Superintelligentie mag alleen worden ontwikkeld ten dienste van breed gedeelde ethische idealen, en ten behoeve van de hele mensheid in plaats van één staat of organisatie.”

Het antwoord van Kurzweil op de open brief waarin hij om een ​​pauze in de ontwikkeling van AI vroeg, kwam voort uit een leven lang innoveren van technologie vanuit het oogpunt van al het goede dat het kan doen voor de mensheid en de natuurlijke wereld.

Zijn reactie concentreerde zich op drie hoofdpunten:

• De roep om een ​​pauze is te vaag om praktisch te zijn
• Alle landen moeten akkoord gaan met de pauze, anders zijn de doelen vanaf het begin verslagen
• Een pauze in de ontwikkeling negeert de voordelen, zoals het identificeren van geneeswijzen voor ziekten.

Te vaag om praktisch te zijn

Zijn eerste punt over de brief is dat het te vaag is omdat het een AI-pauze veroorzaakt die krachtiger is dan GPT-4, dat ervan uitgaat dat GPT-4 het enige type AI is.

Kurzweil schreef:

"Wat betreft de open brief om onderzoek naar AI "krachtiger dan GPT-4" te "pauzeren", dit criterium is te vaag om praktisch te zijn."

Naties zullen afzien van pauze

Zijn tweede punt is dat de in de brief geschetste eisen alleen kunnen werken als alle onderzoekers over de hele wereld vrijwillig meewerken.

Elke natie die weigert zich aan te melden, heeft het voordeel, en dat is waarschijnlijk wat er zou gebeuren.

Hij schrijft:

"En het voorstel kampt met een ernstig coördinatieprobleem: degenen die instemmen met een pauze kunnen ver achterblijven bij bedrijven of landen die het er niet mee eens zijn."

Dit punt maakt duidelijk dat het doel van een volledige pauze niet haalbaar is, omdat naties geen voordeel willen afstaan ​​en bovendien is AI gedemocratiseerd en open source, in handen van individuen over de hele wereld.

AI biedt aanzienlijke voordelen voor AI

Er zijn redactionele artikelen die AI afdoen als zeer weinig voordeel voor de samenleving, met het argument dat het verhogen van de productiviteit van werknemers niet voldoende is om de risico's te rechtvaardigen waar ze bang voor zijn.

Het laatste punt van Kurzweil is dat de open brief die een pauze in de ontwikkeling van AI zoekt, volledig voorbijgaat aan al het goede dat AI kan doen.

Hij legt uit:

“Er zijn enorme voordelen aan het bevorderen van AI op kritieke gebieden zoals geneeskunde en gezondheid, onderwijs, het nastreven van hernieuwbare energiebronnen om fossiele brandstoffen te vervangen, en tal van andere gebieden.

…er is meer nuance nodig als we de diepgaande voordelen van AI voor gezondheid en productiviteit willen ontsluiten en tegelijkertijd de echte gevaren willen vermijden.”

Gevaren, angst voor het onbekende en voordelen voor de mensheid

Kurzweil maakt goede opmerkingen over hoe AI de samenleving ten goede kan komen. Zijn punt dat er geen manier is om AI daadwerkelijk te pauzeren, klopt.

Zijn uitleg van AI benadrukt de grote voordelen voor de mensheid die inherent zijn aan AI.

Zou het kunnen dat OpenAI's implementatie van AI als een chatbot AI bagatelliseert en het voordeel voor de mensheid overschaduwt, terwijl tegelijkertijd mensen bang worden gemaakt die niet begrijpen hoe generatieve AI werkt?

Uitgelichte afbeelding door Shutterstock/Iurii Motov

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
• De toekomst slaan met Adryenn Ashley. Toegang hier.
• Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPO®. Toegang hier.
• Bron: https://www.searchenginejournal.com/ray-kurzweil-rebuts-calls-to-pause-ai-research/486315/