Zephyrnet-Logo

CEO-Interview: Patrick T. Bowen von Neurophos – Semiwiki

Datum:

Patrick T. Bowen Neurophos

Patrick ist ein Unternehmer mit einem Hintergrund in Physik und Metamaterialien. Patrick legt die Vision für die Zukunft der Neurophos-Architektur fest und leitet sein Team in Forschung und Entwicklung, insbesondere im Metamaterialdesign. Er hat einen Master-Abschluss in Mikro-Nano-Systemen von der ETH Zürich und einen Doktortitel in Elektrotechnik von der Duke University bei Prof. David Smith. Nach seinem Abschluss gründete Patrick gemeinsam mit Prof. Smith Metacept; Metacept ist das weltweit führende Zentrum und Beratungsunternehmen für die Kommerzialisierung von Metamaterialien.

Erzählen Sie uns von Neurophos. Welche Probleme lösen Sie?
Wir sagen, dass wir existieren, um die Rechenleistung des menschlichen Gehirns auf künstliche Intelligenz zu übertragen. Bereits 2009 wurde festgestellt, dass GPUs Katzen im Internet viel besser erkennen können als CPUs, aber GPUs sind nicht die Antwort auf die Zukunft der KI-Workloads. So wie GPUs für neuronale Netze besser waren als CPUs, könnte es Architekturen geben, die um Größenordnungen besser sind als GPUs. Neurophos ist nach GPUs der nächste Schritt für die KI.

KI-Modelle für große Sprachen waren im Allgemeinen begrenzt, weil wir nicht über genügend Rechenleistung verfügten, um ihr Potenzial voll auszuschöpfen. Die Leute haben sich in erster Linie auf die Schulungsseite konzentriert, einfach weil man etwas Nützliches trainieren musste, bevor man überhaupt daran denken konnte, es einzusetzen. Diese Bemühungen haben die unglaubliche Leistungsfähigkeit großer KI-Modelle deutlich gemacht, und dies ist der Beweis dafür, dass sich die Menschen zunehmend darauf konzentrieren, wie KI in großem Maßstab eingesetzt werden kann. Die Leistungsfähigkeit dieser KI-Modelle bedeutet, dass wir Millionen von Benutzern haben, die sie täglich nutzen werden. Wie viel Energie kostet es pro Nutzer? Wie viel kostet die Berechnung pro Inferenz? Wenn es pro Inferenz nicht günstig genug ist, kann das für Unternehmen, die KI einsetzen möchten, sehr einschränkend sein.

Auch die Energieeffizienz ist ein großes Problem, das es zu lösen gilt. Wenn Sie einen Server haben, der beispielsweise 6 Kilowatt verbraucht, und 100-mal schneller arbeiten möchten, aber nichts an der grundsätzlichen Energieeffizienz ändern möchten, wird aus diesem 6-Kilowatt-Server plötzlich ein 600-Kilowatt-Server. Irgendwann stößt man gegen eine Wand; Sie verbrauchen einfach zu viel Strom und können die Wärme nicht schnell genug aus den Chips ableiten. Und darüber hinaus gibt es natürlich noch Fragen des Klimawandels. Wie viel Energie verbraucht KI? Wie viel zusätzliche Energie verschwenden wir, wenn wir nur versuchen, Rechenzentren kühl zu halten? Also muss zuerst jemand das Energieeffizienzproblem lösen, und dann kann man schnell genug auf die Anforderungen der Anwendungen reagieren.

Schon fast so lange, wie es KI gibt, wird vorgeschlagen, optische Datenverarbeitung für KI zu nutzen. Es gibt viele Ideen, an denen wir heute arbeiten, die auch alte Ideen aus den 80er Jahren sind. Beispielsweise lassen sich die ursprünglichen Gleichungen für den berühmten „Metamaterial-Unsichtbarkeitsmantel“ und andere Dinge wie den negativen Brechungsindex auf russische Physiker in den 60er und 80er Jahren zurückführen. Auch wenn es irgendwie gedacht war, wurde es von David Smith und Sir John Pendry wirklich neu erfunden.

Ebenso sind systolische Arrays, die normalerweise mit „Tensorprozessor“ gemeint sind, eine alte Idee aus den späten 70er Jahren. Quantencomputing ist eine alte Idee aus den 80er Jahren, die wir heute wieder aufleben lassen. Auch die optische Verarbeitung ist eine alte Idee aus den 80er-Jahren, allerdings fehlte uns damals die Technik, sie umzusetzen. Mit Neurophos haben wir also den optischen Transistor neu erfunden und von Grund auf die zugrunde liegende Hardware entwickelt, die für die Umsetzung der ausgefallenen optischen Computerideen von vor langer Zeit erforderlich ist.

Was wird Kunden dazu veranlassen, von der Verwendung einer GPU von Nvidia auf Ihre Technologie umzusteigen?
Das Wichtigste, was meiner Meinung nach den meisten Kunden am Herzen liegt, ist also die Kennzahl „Dollar pro Inferenz“, denn das ist das, was ihr Geschäftsmodell wirklich ausmacht oder zerstört. Wir begegnen dieser Kennzahl mit einer Lösung, die die Rechengeschwindigkeit im Vergleich zu einer hochmodernen GPU tatsächlich um das Hundertfache steigern kann, und das alles innerhalb der gleichen Leistungsgrenze.

Auch die Sorge um die Umwelt liegt den Menschen am Herzen, und wir bieten eine sehr reale Lösung, um den Energieverbrauch direkt an einer seiner wichtigsten Quellen deutlich zu senken: den Rechenzentren.

Wenn Sie sich zurücklehnen und darüber nachdenken, wie sich das auswirkt, muss hier jemand eine Lösung liefern, sei es wir oder jemand anderes. Die Bandbreite beim Chip-Packaging ist ungefähr proportional zur Quadratwurzel der Fläche und der Stromverbrauch beim Chip-Packaging ist im Allgemeinen proportional zur Fläche. Dies hat zu allen möglichen verzerrten Methoden geführt, mit denen wir versuchen, Systeme zu erstellen und zu verpacken.

Verpackung ist eines der Dinge, die für die KI im Allgemeinen wirklich revolutionär waren. Zunächst ging es um Kosten und die Möglichkeit, Chiplets verschiedener Technologieknoten zu kombinieren, und vor allem um Speicherzugriffsgeschwindigkeit und Bandbreite, da man DRAM-Chips integrieren konnte. Aber jetzt steckst du einfach immer mehr Chips hinein!

Durch die Verwendung des analogen Berechnungsansatzes wird der Stromverbrauch für die Berechnung auf die Quadratwurzel der Fläche reduziert und nicht proportional zur Fläche. Nun verläuft die Art und Weise, wie Ihr Rechen- und Stromverbrauch skaliert, auf die gleiche Weise; Du bringst sie ins Gleichgewicht.

Wir glauben, dass wir bisher den einzigen Ansatz für analoge In-Memory-Berechnungen entwickelt haben, der tatsächlich auf ausreichend hohe Rechendichten skaliert werden kann, um diese Skalierungsgesetze ins Spiel zu bringen.

Wie können Kunden heute mit Neurophos interagieren? 
Wir erstellen ein Entwicklungspartnerprogramm und stellen ein Softwaremodell unserer Hardware bereit, mit dem Benutzer PyTorch-Code direkt laden und kompilieren können. Dadurch werden dem Kunden Durchsatz- und Latenzmetriken sowie die Anzahl der Instanzen pro Sekunde usw. bereitgestellt. Es liefert uns auch Daten zu etwaigen Durchsatzengpässen im System, sodass wir sicherstellen können, dass wir das Gesamtsystem so gestalten, dass es für die Arbeitslasten der Kunden wirklich wichtig ist.

An welchen neuen Funktionen/Technologien arbeiten Sie?
Akademiker haben schon lange davon geträumt, was sie tun könnten, wenn sie eine Metaoberfläche hätten, wie wir sie bei Neurophos bauen, und es gibt viele theoretische Arbeiten da draußen … aber niemand hat jemals tatsächlich eine gebaut. Wir sind die Ersten, die das machen. Meiner Meinung nach beziehen sich die meisten interessanten Anwendungen eigentlich auf dynamische Oberflächen, nicht auf statische, und bei Metacept, Duke und bei Schwesterunternehmen wie Lumotive laufen noch andere Arbeiten, auf die ich und die ganze Welt ziemlich gespannt sein werden .

Warum sind Sie dem SC Incubator beigetreten und was sind die Ziele der Neurophos bei der Zusammenarbeit mit ihrer Organisation in den nächsten 24 Monaten?

Silicon Catalyst hat sich zu einem prestigeträchtigen Beschleuniger für Halbleiter-Start-ups mit hohen Zulassungsanforderungen entwickelt. Wir freuen uns, sie als Partner zu haben. Hardware-Startups haben im Vergleich zu Software-Startups einen großen Nachteil, da sie höhere Demo-/Prototypenkosten und eine höhere Entwicklungszykluszeit haben. Dies gilt umso mehr für Halbleiter-Startups, bei denen die Kosten für EDA-Tools und -Masken sowie die schiere Größe der Entwicklungsteams unerschwinglich sein können teuer für ein Seed-Stage-Unternehmen. Silicon Catalyst hat ein ziemlich unglaubliches Ökosystem von Partnern gebildet, die maßgeblich dazu beitragen, ihre Entwicklungskosten zu senken und ihre Markteinführungszeit zu verkürzen.

Lesen Sie auch:

Ein offenes Gespräch mit Sean Redmond über ChipStart in Großbritannien

CEO-Interview: Jay Dawani von Lemurian Labs

Sieben Siliziumkatalysator-Unternehmen stellen auf der CES aus, dem bedeutendsten Technologie-Event der Welt

Teile diesen Beitrag über:

spot_img

Neueste Intelligenz

spot_img