Zephyrnet-logo

Meta onthult een nieuwe generatie AI-chips als uitdaging voor Nvidia – Tech Startups

Datum:

Meta Platforms heeft het gordijn opgelicht voor zijn nieuwste doorbraak: de volgende iteratie van zijn interne kunstmatige intelligentie-acceleratorchip. Meta onthulde woensdag details van de nieuwe generatie AI-chips, twee maanden nadat het bedrijf dit had aangekondigd het bouwen van nieuwe aangepaste AI-chips om haar AI-initiatieven te stimuleren.

Volgens Meta is de komende generatie van zijn uitgebreide infrastructuur zorgvuldig ontworpen met AI als kern. Deze strategische stap is bedoeld om de steun voor nieuwe generatieve AI-producten, geavanceerde aanbevelingssystemen en baanbrekend AI-onderzoek te versterken. Het is een berekende investering die klaar is om mee te schalen met de escalerende rekenvereisten van steeds ingewikkelder AI-modellen.

In een recente blogpost legt Meta uit: “De architectuur van deze chip is fundamenteel gericht op het bieden van de juiste balans tussen rekenkracht, geheugenbandbreedte en geheugencapaciteit voor het bedienen van ranking- en aanbevelingsmodellen.”

Meta had met name vorig jaar eerder zijn Meta Training and Inference Accelerator (MTIA) v1 onthuld: een baanbrekende AI-inferentieversneller die intern is ontwikkeld en nauwgezet is afgestemd op Meta's unieke AI-workloads. MTIA v1 is specifiek afgestemd op aanbevelingsmodellen voor diepgaand leren en heeft een belangrijke rol gespeeld bij het verbeteren van een groot aantal gebruikerservaringen in Meta's reeks apps en technologieën.

Meta voegde eraan toe dat de nieuwste versie van MTIA een essentieel onderdeel is van het uitgebreide ontwikkelingsplan voor op maat gemaakt silicium, specifiek ontworpen om onze unieke taken en systemen aan te pakken.

“Deze nieuwe versie van MTIA verdubbelt ruimschoots de reken- en geheugenbandbreedte van onze vorige oplossing, terwijl onze nauwe aansluiting op onze workloads behouden blijft. Het is ontworpen om op efficiënte wijze de ranking- en aanbevelingsmodellen te bedienen die hoogwaardige aanbevelingen aan gebruikers bieden”, aldus Meta in de krant blogpost.

De architectuur van de chip geeft prioriteit aan het vinden van de juiste balans tussen rekenkracht, geheugenbandbreedte en capaciteit, specifiek afgestemd op ranking- en aanbevelingsmodellen.

De sociale gigant zei dat het MTIA al in zijn datacenters had geïmplementeerd, waar het actief modellen uitvoert in realistische scenario's. Vroege feedback wijst op veelbelovende resultaten, waardoor we meer computerbronnen kunnen toewijzen aan onze veeleisende AI-taken. Uit eerste tests blijkt dat deze MTIA-chip effectief omgaat met zowel eenvoudige als complexe ranking- en aanbevelingsmodellen, cruciale componenten van Meta's producten. Dankzij onze end-to-end controle over het hele systeem bereiken we een hogere efficiëntie vergeleken met kant-en-klare GPU's.

Ondertussen eerder meldt van Reuters dit jaar zinspeelde op Meta's plannen om een ​​nieuwe versie van zijn aangepaste datacenterchip uit te rollen om te kunnen voldoen aan de stijgende computervereisten die nodig zijn voor het uitvoeren van AI-gestuurde producten op Facebook, Instagram en WhatsApp. Deze chip, die intern “Artemis” wordt genoemd, is gepositioneerd om de afhankelijkheid van Meta van de AI-chips van Nvidia te verminderen en tegelijkertijd het totale energieverbruik te verlagen.

De lancering heeft Meta er echter niet van weerhouden Nvidia-chips te kopen. Het bedrijf investeert ook fors in de aanschaf van Nvidia en andere AI-chips. CEO Mark Zuckerberg maakte dit jaar bekend dat Meta van plan is ongeveer 350,000 vlaggenschip H100-chips van Nvidia aan te schaffen. Zuckerberg zei verder dat Meta, in combinatie met chips van andere leveranciers, tegen het einde van het jaar het equivalent van 600,000 H100-chips wil verzamelen.


spot_img

Laatste intelligentie

spot_img