Λογότυπο Zephyrnet

2024 Outlook με τον Da Chuang της Expedera – Semiwiki

Ημερομηνία:

Ντα Τσουάνγκ 2

Η Expedera παρέχει προσαρμόσιμη IP ημιαγωγών νευρωνικών μηχανών που βελτιώνει δραματικά την απόδοση, την ισχύ και την καθυστέρηση, ενώ μειώνει το κόστος και την πολυπλοκότητα στις εφαρμογές συμπερασμάτων τεχνητής νοημοσύνης αιχμής. Ο Da είναι συνιδρυτής και Διευθύνων Σύμβουλος της Expedera. Προηγουμένως, ήταν συνιδρυτής και COO της Memoir Systems, μιας εκκίνησης βελτιστοποιημένης IP μνήμης, που οδήγησε σε μια επιτυχημένη εξαγορά από τη Cisco. Στη Cisco, ηγήθηκε των ASIC του Datacenter Switch για προϊόντα Nexus 3/9K, MDS, CSPG. Το Da φέρνει περισσότερα από 25 χρόνια εμπειρίας ASIC σε Cisco, Nvidia και Abrizio. Είναι κάτοχος BS EECS από το UC Berkeley, MS/PhD EE από το Stanford. Με έδρα τη Σάντα Κλάρα της Καλιφόρνια, η εταιρεία διαθέτει κέντρα ανάπτυξης μηχανικής και γραφεία υποστήριξης πελατών στο Ηνωμένο Βασίλειο, την Κίνα, την Ιαπωνία, την Ταϊβάν και τη Σιγκαπούρη.

Πείτε μας λίγα λόγια για εσάς και την εταιρεία σας.

Το όνομά μου είναι Da Chuang και είμαι ο συνιδρυτής και Διευθύνων Σύμβουλος της Expedera. Ιδρύθηκε το 2018, η Expedera έχει χτίσει τη φήμη μας παρέχοντας την κορυφαία προσαρμόσιμη IP NPU για εφαρμογές εξαγωγής συμπερασμάτων άκρων από κόμβους άκρων και smartphone έως αυτοκίνητα. Το Origin NPU μας, τώρα στα 4 τουthαρχιτεκτονική παραγωγής, υποστηρίζει έως και 128 TOPS σε έναν μόνο πυρήνα, ενώ παρέχει κορυφαία στον κλάδο επεξεργασία και απόδοση ισχύος για το ευρύτερο φάσμα νευρωνικών δικτύων, συμπεριλαμβανομένων των RNN, CNN, LSTM, DNN και LLM.

-Ποιο ήταν το πιο συναρπαστικό υψηλό σημείο του 2023 για την εταιρεία σας;

>> Το 2023 ήταν μια χρονιά τεράστιας ανάπτυξης για την Expedera. Προσθέσαμε δύο νέες φυσικές τοποθεσίες στην εταιρεία μας, το Bath (Ηνωμένο Βασίλειο) και τη Σιγκαπούρη. Και τα δύο αυτά γραφεία επικεντρώνονται στη μελλοντική Ε&Α, αναπτύσσοντας αρχιτεκτονικές τεχνητής νοημοσύνης επόμενης γενιάς, καθώς και άλλα πράγματα για τα οποία θα ακούτε τους επόμενους μήνες και τα επόμενα χρόνια. Αν και αυτό είναι πολύ συναρπαστικό για εμάς, ίσως το πιο σημαντικό υψηλό σημείο για την Expedera το 2023 ήταν η ανάπτυξη πελατών και ανάπτυξης. Ξεκινήσαμε τη χρονιά με την είδηση ​​ότι η IP μας είχε αποσταλεί σε περισσότερες από 10 εκατομμύρια καταναλωτικές συσκευές, που είναι ένας αξιοσημείωτος αριθμός για οποιαδήποτε εκκίνηση της Semiconductor IP. Καθ' όλη τη διάρκεια του έτους, συνεχίσαμε να επεκτείνουμε την πελατειακή μας βάση, η οποία περιλαμβάνει πλέον παγκοσμίως ΟΕΜ smartphone Tier 1, chipset συσκευών καταναλωτών και κατασκευαστές τσιπ αυτοκινήτων. Η λύση NPU μας αναγνωρίζεται παγκοσμίως ως η καλύτερη στην αγορά και οι πελάτες έρχονται σε εμάς όταν θέλουν τον απόλυτο καλύτερο κινητήρα AI για τα προϊόντα τους.

-Ποια ήταν η μεγαλύτερη πρόκληση που αντιμετώπισε η εταιρεία σας το 2023;

>>Η μεγαλύτερη πρόκληση το 2023, μαζί με τη μεγαλύτερη ευκαιρία, ήταν η εμφάνιση των Μεγάλων Γλωσσικών Μοντέλων (LLM) και της Σταθερής Διάδοσης (SD) στον χώρο τεχνητής νοημοσύνης αιχμής. Τα LLM/SD αντιπροσωπεύουν μια αλλαγή παραδείγματος στην τεχνητή νοημοσύνη – απαιτούν πιο εξειδικευμένη επεξεργασία και περισσότερη ιπποδύναμη επεξεργασίας από τα τυπικά δίκτυα CNN / RNN που ανέπτυξαν οι περισσότεροι πελάτες το 2022 και πριν. Ο τεράστιος αριθμός των εφαρμογών που βασίζονται σε LLM/SD που εφαρμόζουν οι πελάτες μας ήταν απίστευτος. Ωστόσο, η κύρια πρόκληση των LLM και SD στην άκρη ήταν να επιτρέψουν σε αυτά τα δίκτυα να λειτουργούν εντός του φακέλου ισχύος και απόδοσης μιας συσκευής αιχμής που τροφοδοτείται από μπαταρία.

-Πώς είναι η δουλειά της εταιρείας σας για την αντιμετώπιση αυτής της μεγαλύτερης πρόκλησης;

>> Οι πελάτες μας θέλουν να διαθέτουν προϊόντα που είναι διαφοροποιημένα με τεχνητή νοημοσύνη. προϊόντα που προσφέρουν πραγματική αξία στον καταναλωτή με μια φανταστική εμπειρία χρήστη. Ωστόσο, σημαντικές επιτυχίες στη διάρκεια ζωής της μπαταρίας δεν γίνονται αποδεκτές ως μέρος της εμπειρίας χρήστη. Καθώς ενσωματώσαμε την υποστήριξη LLM και SD στο πλέον διαθέσιμο 4th αρχιτεκτονικής γενιάς, η έμφαση στο σχεδιασμό μας εστιάστηκε στην παροχή της πιο αποδοτικής μνήμης, της υψηλότερης χρήσης και της χαμηλότερης καθυστέρησης IP NPU που θα μπορούσαμε ενδεχομένως να δημιουργήσουμε. Εξετάσαμε τις υποκείμενες λειτουργίες αυτών των νέων τύπων δικτύου. κινήσεις δεδομένων, διαδόσεις, εξαρτήσεις, κ.λπ.… για να κατανοήσουμε τον σωστό τρόπο για να εξελίξουμε τις αρχιτεκτονικές μας τόσο του υλικού όσο και του λογισμικού μας ώστε να ανταποκρίνονται καλύτερα στις μελλοντικές ανάγκες. Ως παράδειγμα του πώς είχαμε εξελιχθεί, το 4 μαςth Η αρχιτεκτονική γενιάς διαθέτει νέους πολλαπλασιασμούς μητρών και διανυσματικά μπλοκ βελτιστοποιημένα για LLM και SD, διατηρώντας παράλληλα τις κορυφαίες στην αγορά αποτελεσματικότητες επεξεργασίας σε παραδοσιακά δίκτυα τύπου RNN και CNN.

-Ποια πιστεύετε ότι θα είναι η μεγαλύτερη περιοχή ανάπτυξης για το 2024 και γιατί;

>> Ένας από τους μεγαλύτερους τομείς ανάπτυξής μας είναι ότι το 2024 πρόκειται να υποστηρίξει μια αυξανόμενη ποικιλία αναπτύξεων τεχνητής νοημοσύνης στα αυτοκίνητα. Ενώ οι περισσότεροι πιθανότατα είναι εξοικειωμένοι με τη χρήση της τεχνητής νοημοσύνης στη στοίβα αυτόνομης οδήγησης για δίκτυα που βασίζονται σε οπτικά δίκτυα, υπάρχουν πολύ περισσότερες ευκαιρίες και χρήσεις που εμφανίζονται. Βεβαίως, βλέπουμε τη χρήση του LLM στα αυτοκίνητα να εκτοξεύεται, όπως και σε πολλές άλλες αγορές. Ωστόσο, βλέπουμε επίσης αυξημένη χρήση της τεχνητής νοημοσύνης σε άλλες πτυχές του αυτοκινήτου - προσοχή οδηγού, ανίχνευση επιβατών πίσω καθισμάτων, infotainment, προγνωστική συντήρηση, εξατομίκευση και πολλά άλλα. Όλα αυτά στοχεύουν στο να παρέχουν στον καταναλωτή την καλύτερη δυνατή εμπειρία χρήστη, ένας από τους βασικούς λόγους για την εφαρμογή της τεχνητής νοημοσύνης. Ωστόσο, οι ανάγκες επεξεργασίας AI για όλες αυτές τις χρήσεις ποικίλλουν δραματικά, όχι μόνο ως προς τις πραγματικές δυνατότητες απόδοσης αλλά και στους τύπους νευρωνικών δικτύων που παρουσιάζει η περίπτωση χρήσης.

-Πώς είναι η δουλειά της εταιρείας σας για την αντιμετώπιση αυτής της ανάπτυξης;

>> Μαζί με την προαναφερθείσα υποστήριξη LLM και SD, το Expedera's 4th Η αρχιτεκτονική γενιάς είναι επίσης εύκολα προσαρμόσιμη. Όταν η Expedera συμμετέχει σε μια νέα σχεδίαση με έναν πελάτη, επιδιώκουμε να κατανοήσουμε όλες τις συνθήκες εφαρμογής (στόχους απόδοσης, απαιτούμενη υποστήριξη δικτύου, περιορισμοί περιοχής και ισχύος, μελλοντικές ανάγκες και άλλα) ώστε να μπορούμε να προσαρμόσουμε καλύτερα την IP μας – ουσιαστικά , δώστε στον πελάτη αυτό ακριβώς που θέλει χωρίς να χρειάζεται να κάνει θυσίες για πράγματα που δεν κάνει. Εάν ο πελάτης επιθυμεί έναν κεντρικό κινητήρα υψηλών επιδόσεων που προσφέρει μια σειρά από διαφορετικές χρήσεις και υποστήριξη για μια ποικιλία δικτύων, μπορούμε να το υποστηρίξουμε. Εάν ο πελάτης θέλει να αναπτύξει αποκεντρωμένους κινητήρες που χειρίζονται μόνο συγκεκριμένες εργασίες και δίκτυα, μπορούμε να το υποστηρίξουμε επίσης – ή οπουδήποτε στο ενδιάμεσο. Και όλα αυτά προέρχονται από την ίδια αρχιτεκτονική IP, χωρίς κυρώσεις από το time-to-market.

-Ποια συνέδρια παρακολούθησες το 2023 και πώς ήταν η κίνηση;

>>Η Expedera εκθέτει σε μια στοχευμένη ομάδα συνεδρίων που επικεντρώνονται στην τεχνητή νοημοσύνη αιχμής, συμπεριλαμβανομένων, ενδεικτικά, του Embedded Vision Summit και του AI Hardware & AI Summit, καθώς και μεγαλύτερων εκδηλώσεων όπως το CES. Η επισκεψιμότητα σε αυτές τις εκδηλώσεις έμοιαζε στο ίδιο επίπεδο με το 2022, δηλαδή αξιοσέβαστη. Η τεχνητή νοημοσύνη είναι προφανώς ένα πολύ καυτό θέμα στον κόσμο της τεχνολογίας σήμερα, και κάθε εταιρεία αναζητά τρόπους ενσωμάτωσης της τεχνητής νοημοσύνης στα προϊόντα, τις ροές εργασίας και τη διαδικασία σχεδιασμού της. Αντίστοιχα, έχουμε δει μια ολοένα αυξανόμενη ποικιλία παρευρισκομένων σε αυτές τις εκδηλώσεις, οι οποίοι έρχονται με διαφορετικές ανάγκες και προσδοκίες.

-Θα παρακολουθήσετε συνέδρια το 2024; Ίδια ή περισσότερα;

>>Το 2024 πιθανότατα θα δούμε μια μικρή επέκταση των σχεδίων συνεδρίων μας, ειδικά εκείνων που επικεντρώνονται στην τεχνολογία. Ως μέρος του οικοσυστήματος ημιαγωγών, η Expedera δεν έχει την πολυτέλεια να υπάρχει στο κενό. Έχουμε μιλήσει σε προηγούμενες εκδηλώσεις για τις στοίβες υλικού και λογισμικού μας, καθώς και για υλοποιήσεις όπως το NPU πάντα ανίχνευσης με επίκεντρο την ασφάλεια για smartphone. Φέτος, θα αφιερώσουμε πολύ χρόνο για να αναλύσουμε λεπτομερείς εφαρμογές αιχμής των LLM, συμπεριλαμβανομένων των προσεχών συνεδρίων αργότερα αυτή την άνοιξη. Ανυπομονούμε να συναντήσουμε πολλούς από εσάς εκεί!

Διαβάστε επίσης:

Η Expedera προτείνει το Stable Diffusion ως σημείο αναφοράς για το Edge Hardware για AI

WEBINAR: Μια Ιδανική Μηχανή Νευρωνικής Επεξεργασίας για Αναπτύξεις με Πάντα Ανίχνευση

Συμπεράσματα AI βελτιστοποιημένης περιοχής για εφαρμογές ευαίσθητες στο κόστος

Μοιραστείτε αυτήν την ανάρτηση μέσω:

spot_img

Τελευταία Νοημοσύνη

spot_img