Zoals beloofd heeft Elon Musk het model achter de xAI-chatbot, Grok-1, vrijgegeven.

Uitgebracht onder de Apache 2.0-licentie zijn de basismodelgewichten en netwerkarchitectuur nu beschikbaar. Het model heeft 314 miljard parameters en heeft hardware nodig met voldoende GPU-geheugen om het te kunnen gebruiken. Het is verfijnd voor toepassingen zoals dialoog in natuurlijke taal, en vertegenwoordigt het onbewerkte basismodelcontrolepunt uit de pre-trainingsfase, die in oktober 2023 werd afgerond.

Critici hebben gewezen op relatief matige prestaties in benchmarks; Hoewel Grok een groot model is, doet het het slecht, zoals sommige ingenieurs hebben gezien. “Als je bedenkt hoe slecht het is vergeleken met andere modellen, benadrukt het echt hoe belangrijk fijnafstelling is. Modellen met VEEL kleinere aantallen parameters presteren in veel statistieken beter”, aldus iemand poster op de Hacker News-forums gisteravond.

Misschien vind je dat kleiner mistral presteert net zo goed als bijvoorbeeld Grok-1.

Om de grootte ervan in te vullen perspectiefZelfs met 314 miljard parameters heeft het nog steeds een inhaalslag te maken met OpenAI's GPT-4, die bij de laatste telling 1.76 biljoen params telde.

Met name heeft Grok, in tegenstelling tot bestaande LLM's, die zijn getraind op gegevens met een afsluitpunt in de tijd, via X.com toegang tot realtime gegevenscorpus van ieders Xeets, wat de komende dagen een aantal interessante experimenten zou moeten opleveren, hoewel als een ander Commentaar merkte op: “Twitter-tweetgegevens op zichzelf zijn zowel zeer eigenzinnig als kort van opzet, wat op zichzelf niet bevorderlijk is voor het trainen van een LLM.”

Grok zal bekend zijn bij gebruikers van Musk's sociale mediaplatform X, en abonnees hebben de chatbot vragen kunnen stellen en antwoorden ontvangen. Volgens xAI, Grok is gemodelleerd naar The Hitchhiker's Guide to the Galaxy. “Het is bedoeld om bijna alles te beantwoorden en, veel moeilijker, zelfs te suggereren welke vragen je moet stellen.”

Als een gebruiker door een kopie met ezelsoren bladert van The Hitchhiker's Guide to the Galaxy radioscripts, kan de volgende definitie op de loer liggen in Fit the Tenth: “The Hitchhiker's Guide to the Galaxy is een onmisbare metgezel voor iedereen die graag betekenis wil geven aan het leven in een oneindig complex en verwarrend universum, want hoewel het niet kan hopen dat ook te worden nuttig of informatief over alle zaken, maar er wordt wel geruststellend beweerd dat waar het onnauwkeurig is, dat in ieder geval het geval is definitief onnauwkeurig.

“In geval van grote discrepantie is het altijd de realiteit die het bij het verkeerde eind heeft.”

De release komt op de eerste verjaardag van de lancering van OpenAI's GPT-4-model, en Musk's juridische ruzie met zijn voormalige AI-vrienden blijft op de achtergrond. Begin deze maand is Musk heeft OpenAI aangeklaagd, waarbij hij beweerde dat er ondanks de naam weinig openheid was over het bedrijf. OpenAI gereageerd door een schat aan e-mails vrij te geven, waarin hij beweerde dat Musk volledig op de hoogte was van zijn plannen en wilde dat deze in Tesla zou worden opgenomen.

Patrik Backman, algemeen partner bij OpenOcean, zei over de release van Grok-1: “Voor één keer brengt Elon Musk zijn principes in praktijk. Als je OpenAI aanklaagt wegens transformatie naar een winstgedreven organisatie, moet je bereid zijn dezelfde idealen aan te hangen.”

Wat heeft niet uitgebracht door xAI is ook opmerkelijk. De Grok-1-gewichten zijn beschikbaar, maar de gegevens die voor training worden gebruikt, zijn niet beschikbaar onder dezelfde licentie, wat AI-expert Gary Marcus ertoe aanzet om kwinkslag: “GedeeltelijkOpenAI.”

Open source generatieve AI-tools zijn controversieel gebleken. Sommige ontwikkelaars maken zich zorgen dat het beschikbaar stellen van de technologie misbruik met zich meebrengt, terwijl anderen wijzen op de inherente voordelen van transparantie.

meta gedeeld - soort van – zijn Llama 2-modellen vorig jaar, en andere bedrijven hebben dit voorbeeld gevolgd. OpenAI daarentegen is dat zeker niet.

Door de gewichten achter Grok-1 te openen, probeert Musk een vlag te planten in het tegenovergestelde kamp van de eigen wereld van OpenAI.

Wat de ultieme prestaties betreft, kan het, net als alles wat Musk aanraakt, beide kanten op gaan. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/03/18/grok_chatbot_code_released/