Zephyrnet-logo

CEO-interview: Patrick T. Bowen van Neurophos – Semiwiki

Datum:

Patrick T. Bowen Neurophos

Patrick is een ondernemer met een achtergrond in natuurkunde en metamaterialen. Patrick bepaalt de visie voor de toekomst van de Neurophos-architectuur en stuurt zijn team aan op het gebied van onderzoek en ontwikkeling, met name op het gebied van metamaterialenontwerp. Hij heeft een masterdiploma in micro-nanosystemen van de ETH Zürich en een doctoraat in elektrotechniek van Duke University, onder leiding van prof. David Smith. Na zijn afstuderen richtte Patrick samen met prof. Smith Metacept op; Metacept is 's werelds belangrijkste centrum en adviesbureau voor de commercialisering van metamaterialen.

Vertel ons over Neurophos. Welke problemen ben je aan het oplossen?
We zeggen dat we bestaan ​​om de rekenkracht van het menselijk brein naar kunstmatige intelligentie te brengen. In 2009 werd ontdekt dat GPU's veel beter zijn in het herkennen van katten op internet dan CPU's, maar GPU's zijn niet het antwoord op de toekomst van AI-workloads. Net zoals GPU's beter waren dan CPU's voor neurale netwerken, zouden er architecturen kunnen zijn die in ordes van grootte beter zijn dan GPU's. Neurophos is wat de volgende stap is voor AI na GPU's.

Grote taalmodellen van AI zijn over het algemeen beperkt omdat we niet over voldoende rekenkracht beschikken om hun potentieel volledig te realiseren. Mensen hebben zich vooral gericht op de trainingskant ervan, alleen maar omdat je iets nuttigs moest trainen voordat je er zelfs maar aan kon denken om het in te zetten. Deze inspanningen hebben de ongelooflijke kracht van grote AI-modellen benadrukt, en met dat bewijs beginnen mensen zich te concentreren op de manier waarop ze AI op grote schaal kunnen inzetten. De kracht van deze AI-modellen betekent dat we miljoenen gebruikers hebben die ze elke dag zullen gebruiken. Hoeveel energie kost het per gebruiker? Hoeveel kost de berekening per gevolgtrekking? Als het volgens de conclusie niet goedkoop genoeg is, kan dat een zeer beperkende zaak zijn voor bedrijven die AI willen inzetten.

Energie-efficiëntie is ook een groot probleem dat moet worden opgelost. Als je een server hebt die bijvoorbeeld 6 kiloWatt verbruikt, en je wilt 100 keer sneller gaan maar niets aan de fundamentele energie-efficiëntie doet, dan wordt die server van 6 kiloWatt ineens een server van 600 kiloWatt. Op een gegeven moment bots je tegen een muur; je verbrandt gewoon te veel stroom en je kunt de warmte niet snel genoeg uit de chips zuigen. En natuurlijk komen daar nog klimaatveranderingsvraagstukken bovenop. Hoeveel energie verbruikt AI? Hoeveel extra energie verspillen we alleen maar door datacenters koel te houden? Iemand moet dus eerst het energie-efficiëntieprobleem oplossen, en dan kun je snel genoeg gaan om aan de eisen van de toepassingen te voldoen.

Mensen hebben voorgesteld om optische rekenkracht voor AI te gebruiken, al bijna net zo lang als AI bestaat. Er zijn veel ideeën waar we vandaag de dag aan werken en die ook oude ideeën uit de jaren 80 zijn. De oorspronkelijke vergelijkingen voor de beroemde ‘onzichtbaarheidsmantel van metamaterialen’ en andere zaken zoals de negatieve brekingsindex zijn bijvoorbeeld terug te voeren op Russische natuurkundigen uit de jaren zestig en tachtig. Hoewel het een beetje bedacht was, werd het in werkelijkheid opnieuw uitgevonden door David Smith en Sir John Pendry.

Op dezelfde manier zijn systolische arrays, wat mensen doorgaans bedoelen als ze 'tensorprocessor' zeggen, een oud idee uit de late jaren '70. Kwantumcomputing is een oud idee uit de jaren 80 dat we vandaag weer tot leven hebben gewekt. Optische verwerking is ook een oud idee uit de jaren 80, maar destijds hadden we nog niet de technologie om het te implementeren. Dus met Neurophos gingen we terug naar het opnieuw uitvinden van de optische transistor, waarbij we van de grond af aan de onderliggende hardware creëerden die nodig is om de mooie optische computerideeën van lang geleden te implementeren.

Wat zal ervoor zorgen dat klanten overstappen van het gebruik van een GPU van Nvidia naar het gebruik van uw technologie?
Het belangrijkste waar de meeste klanten volgens mij om geven, zijn de dollars per gevolgtrekkingsmetriek, want dat is wat hun bedrijfsmodel echt maakt of breekt. We pakken deze statistiek aan met een oplossing die de rekensnelheid echt met 100x kan verhogen ten opzichte van een ultramoderne GPU, allemaal binnen hetzelfde vermogensbereik.

De bezorgdheid over het milieu is ook iets waar mensen zich druk over maken, en we bieden een zeer reële oplossing om het energieverbruik aanzienlijk te verminderen, rechtstreeks bij een van de belangrijkste bronnen: datacenters.

Als je achterover leunt en nadenkt over hoe dit schaalt... iemand moet hier een oplossing aandragen, of het nu wij zijn of iemand anders. De bandbreedte in chipverpakkingen is grofweg evenredig met de wortel van het gebied en het stroomverbruik in chipverpakkingen is over het algemeen evenredig met het gebied. Dit heeft geleid tot allerlei verwrongen manieren waarop we systemen proberen te creëren en te verpakken.

Verpakking is een van de dingen die echt revolutionair zijn geweest voor AI in het algemeen. Aanvankelijk ging het om de kosten en de mogelijkheid om chiplets van verschillende technologieknooppunten te combineren, en vooral om de snelheid van geheugentoegang en bandbreedte, omdat je kon integreren met DRAM-chips. Maar nu stop je er steeds meer chips in!

Door gebruik te maken van de analoge rekenbenadering wordt het energieverbruik voor berekeningen teruggebracht tot de vierkantswortel van de oppervlakte in plaats van evenredig aan de oppervlakte. Dus nu gaat de manier waarop uw computer- en stroomverbruik wordt geschaald op dezelfde manier; jij brengt ze in balans.

We zijn van mening dat we tot nu toe de enige aanpak voor analoge in-memory computing hebben ontwikkeld die daadwerkelijk kan worden geschaald naar voldoende hoge rekendichtheden om deze schaalwetten in het spel te brengen.

Hoe kunnen klanten vandaag de dag met Neurophos in contact komen? 
We creëren een ontwikkelingspartnerprogramma en bieden een softwaremodel van onze hardware waarmee mensen PyTorch-code rechtstreeks kunnen laden en compileren. Dat biedt doorvoer- en latentiestatistieken en hoeveel exemplaren per seconde enz. aan de klant. Het levert ons ook gegevens over eventuele knelpunten voor de doorvoer in het systeem, zodat we ervoor kunnen zorgen dat we het algehele systeem ontwerpen op een manier die er echt toe doet voor de werklast van klanten.

Aan welke nieuwe functies/technologie werkt u?
Academici hebben er lange tijd van gedroomd over wat ze zouden kunnen doen als ze een metasurface hadden zoals we die bij Neurophos aan het bouwen zijn, en er zijn veel theoretische artikelen beschikbaar... maar niemand heeft er ooit een gebouwd. Wij zijn de eersten die het doen. In mijn gedachten zijn de meeste interessante toepassingen eigenlijk voor dynamische oppervlakken, niet voor statische oppervlakken, en er is ander werk gaande bij Metacept, Duke en bij zusterbedrijven zoals Lumotive waar ik, en ik denk dat de wereld, behoorlijk enthousiast over zal zijn .

Waarom bent u lid geworden van de SC Incubator en wat zijn de doelstellingen van Neurophos in de samenwerking met hun organisatie in de komende 24 maanden?

Silicon Catalyst is een prestigieuze accelerator geworden voor halfgeleiderstartups, met een hoge toelatingslat. Wij zijn blij om hen als partner te hebben. Hardware-startups hebben een groot nadeel ten opzichte van software-startups vanwege hun hogere demo-/prototypekosten en engineeringcyclustijd, en dit geldt zelfs nog meer voor halfgeleiderstartups waar de EDA-tools en maskerkosten en de enorme omvang van de engineeringteams onbetaalbaar kunnen zijn. duur voor een zaadstadiumbedrijf. Silicon Catalyst heeft een behoorlijk ongelooflijk ecosysteem van partners gevormd die aanzienlijke hulp bieden bij het verlagen van hun ontwikkelingskosten en het versnellen van hun time-to-market.

Lees ook:

Een openhartig gesprek met Sean Redmond over ChipStart in Groot-Brittannië

Interview met CEO: Jay Dawani van Lemurian Labs

Zeven siliciumkatalysatorbedrijven zullen exposeren op CES, het krachtigste technologie-evenement ter wereld

Deel dit bericht via:

spot_img

Laatste intelligentie

spot_img