Zephyrnet-logo

Eén keer trainen, overal rennen, bijna: Qualcomm's drive om AI naar zijn telefoon te brengen, pc-chips

Datum:

Qualcomm weet dat als het wil dat ontwikkelaars AI-applicaties bouwen en optimaliseren in zijn portfolio van silicium, de Snapdragon-gigant de ervaring eenvoudiger en, idealiter, beter moet maken dan wat zijn rivalen hebben bedacht op de softwarestackafdeling.

Daarom introduceerde de fabless-chipontwerper woensdag wat hij de . noemt Qualcomm AI-stack, dat onder meer tot doel heeft ontwikkelaars AI-modellen te laten gebruiken die ze voor het ene type apparaat hebben ontwikkeld, laten we zeggen smartphones, en ze gemakkelijk aan te passen voor een ander type, zoals pc's. Deze stapel is alleen voor apparaten die worden aangedreven door Qualcomm's system-on-chips, of het nu gaat om laptops, mobiele telefoons, auto-entertainment of iets anders.

Hoewel Qualcomm vooral bekend staat om zijn mobiele Arm-gebaseerde Snapdragon-chips die veel Android-telefoons aandrijven, hoopt het chiphuis uit te groeien naar andere markten, zoals personal computers, het internet der dingen en de auto-industrie. Deze uitbreiding betekent dat Qualcomm concurreert met onder meer Apple, Intel, Nvidia, AMD, en anderen, op een veel groter slagveld.

Aangezien al deze spelers het erover eens zijn dat AI een belangrijke toekomstige werklast is voor alles, van auto's en IoT-apparaten tot pc's en smartphones, hoopt Qualcomm op te vallen met een uniforme softwarestack, die alle bestaande tools, frameworks, runtimes en andere van het bedrijf samenbrengt. soorten software voor het ontwikkelen van AI-toepassingen op zijn processorfamilies.

Qualcomm denkt dat dit alles de AI-ontwikkeling zal dekken voor alles, van telefoons en pc's tot auto's en datacenters. Klik om te vergroten.

In een briefing met journalisten zei Qualcomm-topman Ziad Asghar dat de consolidatie van de AI-software-inspanningen van het bedrijf in overeenstemming is met hoe het zijn kernchiptechnologie heeft overgenomen en aangepast aan verschillende markten met maatwerk.

"Dus een investering wordt een echt positief voordeel voor ons, omdat de investering die we in één gebied doen zich nu echt sterk kan verspreiden naar alle verschillende gebieden", zegt Asghar, vice-president productbeheer bij Qualcomm Technologies.

De toolkit openen

Met Qualcomm AI Stack hoopt het bedrijf dit voordeel van het gebruik van één set technologieën voor meerdere marktgebieden te kunnen bieden aan ontwikkelaars en apparaatmakers aan de softwarekant.

Door de hoeveelheid werk te verminderen die nodig is om AI-applicaties aan te passen van het ene type Qualcomm-chip naar het andere, belooft de biz bedrijven geld te besparen op dure technische middelen.

"We geven onze OEM-basis de mogelijkheid om dat in grote mate te doen zonder echt veel meer uit te geven in termen van [eenmalige engineering]", zei Asghar.

Wat Qualcomm AI Stack onderscheidt van concurrerende softwarestacks, volgens Asghar, is de Qualcomm AI Model Efficiency Toolkit. Een van de belangrijkste functies is de mogelijkheid om een ​​energieverslindend AI-model dat in de cloud is getraind, te comprimeren van 32-bits floating point-precisie naar het 8-bits integer-formaat, zodat het goed kan werken op apparaten met een laag stroomverbruik.

"Als je dat doet, kun je enorme voordelen opleveren op het gebied van stroomverbruik, tot vier keer een verbetering van het stroomverbruik in veel gevallen in scenario's als deze", zei hij.

Qualcomm rekent ook op zijn Neural Architecture Search-tool, waarmee ontwikkelaars AI-modellen kunnen optimaliseren met behulp van verschillende beperkingen, zoals grotere nauwkeurigheid, lagere latentie of lager vermogen. Dit stelt ontwikkelaars in staat, zei Asghar, "veel meer nauwkeurigheid te krijgen of een model dat je een lagere latentie kan geven of een model dat in staat is om dezelfde taak op een lager vermogen uit te voeren."

Hoewel veel van de onderliggende software in de Qualcomm AI Stack niet nieuw is, noemde Asghar de unificatie van de elementen een "sprong voorwaarts" voor ontwikkelaars en apparaatmakers en zei dat het zal dienen als de basis voor domeinspecifieke softwareontwikkelingskits wanneer toekomstige markten vorm krijgen.

"Wat we voor ogen hebben, is dat we nu met deze zeer solide basis, die verenigd is in alle verschillende bedrijfsonderdelen, kunnen beginnen met het schrijven van meer van deze domeinspecifieke SDK's naarmate een nieuwe branche ontstaat waar we een agglomeratie van onze klanten zien", hij zei. ®

spot_img

Laatste intelligentie

spot_img