"Jeg håper du skjønner at dette ikke er en konsert,” sa Nvidia-president Jensen Huang til et fullsatt SAP-senter i San Jose. Administrerende direktør Jensen Huang holdt en elektriserende keynote på NVIDIAs GPU Technology Conference (GTC) 2024, og kom med banebrytende kunngjøringer som lover å redefinere teknologi. Med over 11,000 XNUMX deltakere og et globalt publikum, begeistret og spekulerte arrangementet om fremtiden for akselerert databehandling og AI.

Glimt av Crowd på GTC 2024

Du har kommet til en utviklerkonferanse. Det vil være mye vitenskap som beskriver algoritmer, dataarkitektur, matematikk. Jeg aner en veldig tung vekt i rommet; Plutselig er du på feil sted.

Jensen Huang administrerende direktør i NVIDIA

La oss se på høydepunktene til NVIDIA GTC 2024 Keynote!

Akselerert databehandling

Huang fremhevet det akselererte databehandlingsparadigmet som essensielt for å opprettholde veksten av beregningskrav på tvers av bransjer. Med generell databehandling når sine grenser, lover NVIDIAs akselererte databehandlingsarkitektur betydelige ytelsesforbedringer, og fremmer fremskritt innen felt som spenner fra klimavitenskap til helsetjenester. Skiftet mot akselerert databehandling er ikke bare teknologisk, men markerer en ny industriell revolusjon, som krever modernisering av den globale datasenterinfrastrukturen.

Generativ AI: Opprette en ny programvarekategori

Keynoten satte søkelyset på generativ AI, og understreket dens fremvekst som en kraftig teknologi som er i stand til å lage programvare som aldri har eksistert før. Denne nye kategorien AI, eksemplifisert ved fremskritt som ChatGPT og ulike generative modeller, viser muligheten til å generere nytt innhold, inkludert tekst, bilder og til og med programvarekode, som innvarsler en ny æra med AI-drevet kreativitet og produktivitet.

Introduksjon til Blackwell Architecture

I hjertet av Huangs keynote var introduksjonen av Blackwell-arkitekturen, et revolusjonerende sprang fremover oppkalt etter David Harold Blackwell, den anerkjente matematikeren. Den overgår betydelig evnene til forgjengeren Hopper, og utfordrer tradisjonelle databehandlingsparadigmer.

Tekniske innovasjoner

• Transistor og prosessinnovasjon: Blackwell er konstruert med 208 milliarder transistorer over to brikker, ved å bruke en sofistikert 4NP TSMC-prosess. Denne designen muliggjør et bemerkelsesverdig 10TB/s-grensesnitt, som går utover konvensjonelle halvlederbegrensninger.
• Effektivitet og kraft: Arkitekturen introduserer FP4- og FP6-beregningsevner, og forbedrer modelltreningseffektiviteten med en balanse mellom kraft og presisjon. En andregenerasjons transformatormotor driver betydelige forbedringer i databehandling, båndbredde og modellstørrelse, og imøtekommer AI-utviklingsbehov.

Hvordan skal Blackwell hjelpe? La oss utforske det i delen nedenfor:

Båndbredde og pålitelighet

• Avansert tilkobling: Integrasjon med PCIe Gen6 og HBM3e minneteknologi øker båndbredden betydelig. Femte generasjons NVLink dobler båndbredden til 1.8 TB/s, støttet av RAS Engine for forbedret AI-implementeringspålitelighet.
• Konfidensiell databehandling: Blackwell introduserer også muligheter for konfidensiell databehandling, som sikrer sikker databehandling i pålitelige utførelsesmiljøer på GPUer.

Blackwells teknologiske fremskritt

• Ytelsesmilepæler: Blackwell-brikken, sammen med NVIDIA GB2.5 Grace Blackwell Superchip, oppnår 8x ytelse i FP5 for trening og 4x i FP200 for inferens, og setter nye standarder for GPU-ytelse og minnearkitektureffektivitet.
• Nettverksplattformer: Integrasjonen med Quantum-X800 InfiniBand og Spectrum-X800 Ethernet-plattformene muliggjør nettverkshastigheter på opptil 800 Gb/s, mens NVLink Switch-brikken hjelper til med å konstruere det avanserte NVIDIA GB200 NVL72-systemet for AI-trening og inferens.
• Superdatabehandlingsevner: DGX SuperPOD, drevet av NVIDIA GB200 Grace Blackwell Superchips, er et landemerke innen AI-superdatabehandling. Designet for modeller med trillioner parametere, gir den 11.5 exaflops med datakraft med FP4-presisjon, med en væskekjølt arkitektur for skalerbar, høyeffektiv AI-behandling.

Industriadopsjon og støtte

• Bedriftsstøtte: Fremtredende skikkelser som Sundar Pichai (Alphabet og Google), Elon Musk (Tesla og xAI) og andre industriledere har offentlig støttet Blackwell, noe som indikerer et omfattende bransjeskifte mot NVIDIAs visjon.
• Global adopsjon: Med støtte fra ledende skytjenester og innovative AI-selskaper, viser Blackwells omfattende bruk potensialet til å revolusjonere ulike sektorer.

Generativ AI med NIM

Huangs visjon strekker seg utover maskinvare til hvordan vi lager og distribuerer programvare. Han introduserte NVIDIA NIM (NVIDIA inference microservices), en spillveksler innen pakking og levering av AI-drevet programvare. Denne innovasjonen forbinder utviklere med millioner av GPUer over hele verden, noe som muliggjør distribusjon av tilpasset AI på tvers av ulike applikasjoner.

Slå sammen AI med Real World: Omniverse Cloud APIer

• Omniverse Cloud Integration: Omniverse Cloud APIer fremhever fusjonen av AI med fysisk virkelighet, og leverer avanserte simuleringsfunksjoner som er avgjørende for utviklingen av robotikk og AIs forståelse av vår verden.
• Et paradigmeskifte: Generativ AI redefinerer programvareutviklingsprosesser. I stedet for tradisjonell koding, vil selskaper utnytte AI-modeller, tildele dem oppgaver og veilede dem med eksempler og tilbakemeldinger. NVIDIA NIM, bygget på NVIDIAs databiblioteker og generative AI-modeller, representerer denne nye tilnærmingen.
• Forenkling av integrasjon: NVIDIAs mikrotjenester er designet for å enkelt integreres i eksisterende systemer, og støtter standard industri-APIer. De er optimalisert for NVIDIAs CUDA-plattform, kontinuerlig oppdatert for nye GPU-generasjoner, og skannes jevnlig for sikkerhet for å sikre robuste og sikre AI-løsninger.

Project Groot: The Future of Humanoid Robotics

Blant mylderet av kunngjøringer dukket Project Groot opp som et fyrtårn for NVIDIAs ambisjon innen humanoid robotikk. Groot er lekent navngitt, men likevel med et nikk til den populære "Guardians of the Galaxy"-karakteren, og representerer NVIDIAs satsing på generelle grunnmodeller for humanoide roboter. Huang så for seg en verden der robotikk og AI konvergerer for å skape autonome systemer som er i stand til å samhandle sømløst med miljøet deres. Dette prosjektet tar sikte på å bygge bro mellom AIs digitale dyktighet og dens fysiske manifestasjoner, lære av menneskelige eksempler og tilpasse seg fysikkens lover gjennom streng trening i virtuelle miljøer som Omniverse.

Stiftelsen: Jetson Thor og Isaac Lab

Jetson Thor-datamaskinen og Isaac Lab utgjør kjernen i Project Groots utviklingsinfrastruktur. Jetson Thor, utstyrt for transformatormotorer, er satt til å gi uovertruffen prosessorkraft for humanoide roboter, og forbedre deres evne til å navigere og samhandle med verden med enestående presisjon.

Fremtiden for roboter

Huang spår en fremtid der alle bevegelige ting vil inkludere robotikk, med bilindustrien som spiller en betydelig rolle. Huang fremhevet NVIDIAs innflytelse og delte at BYD, den ledende elbilprodusenten, har valgt NVIDIAs neste generasjons datamaskiner for sine autonome kjøretøy.

Fremskritt innen persepsjon og manipulasjon

• Isaac Perceptor SDK: Dette verktøysettet ble introdusert for å forbedre roboters miljøoppfatning, og tilbyr avansert visuell odometri, 3D-rekonstruksjon og dybdeføling.
• Isaac Manipulator: Dette nye biblioteket fremmer robotarmteknologi med sofistikert persepsjon, veiplanlegging og kontrollmekanismer, og signaliserer store fremskritt i robottilpasningsevne.

Project GR00T, forskjellig fra Groot, representerer NVIDIAs forpliktelse til å fremme robotikk og legemliggjort AI. Ved siden av kunngjøringen av Project GR00T, introduserte NVIDIA Jetson Thor-datamaskinen skreddersydd for humanoide roboter og betydelige forbedringer til NVIDIA Isaac-robotikkplattformen, og la grunnlaget for mer sofistikerte robotsystemer.

GTC mars 2024 Keynote med NVIDIA-sjef Jensen Huang

[Innebygd innhold]

Sluttnotat

NVIDIAs GTC 2024 keynote, ledet av Jensen Huang, var mer enn en presentasjon; det var en fremtidserklæring. Med Blackwell-arkitekturen avslørt og Project Groot i sikte, former NVIDIA en teknologiæra som skal transformere våre digitale og fysiske verdener. Når du står på denne kanten, kan NVIDIAs innovasjoner sette i gang den neste industrielle revolusjonen, og drive fremgang gjennom akselerert databehandling og generativ AI.

Hold deg oppdatert Analytics Vidhya-blogger for å vite mer om hva som skjer i GenAI-verdenen!

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://www.analyticsvidhya.com/blog/2024/03/nvidia-gtc-keynote/