2024 Outlook עם Da Chuang Of Expedera - Semiwiki

דה צ'ואנג 2

Expedera מספקת IP של מוליכים למחצה של מנוע עצבי הניתן להתאמה אישית שמשפרת באופן דרמטי את הביצועים, ההספק והשהייה תוך הפחתת עלויות ומורכבות ביישומי הסקת AI קצה. דא הוא מייסד שותף ומנכ"ל Expedera. בעבר, הוא היה מייסד שותף ו-COO של Memoir Systems, סטארט-אפ אופטימלי של זיכרון IP, שהוביל לרכישה מוצלחת על ידי Cisco. ב-Cisco, הוא הוביל את ASICs של Datacenter Switch עבור מוצרי Nexus 3/9K, MDS, CSPG. Da מביאה עם יותר מ-25 שנות ניסיון ב-ASIC ב-Cisco, Nvidia ו-Abrizio. הוא בעל תואר ראשון ב-EECS מאוניברסיטת ברקלי, MS/PhD EE מסטנפורד. מטה החברה בסנטה קלרה, קליפורניה, לחברה מרכזי פיתוח הנדסי ומשרדי תמיכת לקוחות בבריטניה, סין, יפן, טייוואן וסינגפור.

ספר לנו קצת על עצמך ועל החברה שלך.

שמי Da Chuang, ואני המייסד והמנכ"ל של Expedera. Expedera, שנוסדה בשנת 2018, בנתה את המוניטין שלנו לספק את ה-NPU IP המוביל להתאמה אישית עבור יישומי הסקת קצה מצמתי קצה וסמארטפונים ועד רכב. NPU המקור שלנו, כעת ב-4 שלו^thארכיטקטורת הדור, תומך בעד 128 TOPS בליבה אחת תוך מתן יעילות עיבוד והספק מובילים בתעשייה עבור המגוון הרחב ביותר של רשתות עצביות כולל RNN, CNN, LSTM, DNN ו-LLMs.

-מה היה נקודת השיא המרגשת ביותר של 2023 עבור החברה שלך?

>>2023 הייתה שנה של צמיחה אדירה עבור אקסדרה. הוספנו שני מיקומים פיזיים חדשים לחברה שלנו, באת' (בריטניה) וסינגפור. שני המשרדים הללו מתמקדים במו"פ עתידי, בפיתוח ארכיטקטורות AI מהדור הבא, ועוד דברים נוספים שתשמעו עליהם בחודשים ובשנים הקרובות. למרות שזה מאוד מרגש עבורנו, אולי נקודת השיא המשמעותית ביותר עבור Expedera בשנת 2023 הייתה צמיחת הלקוחות והפריסה שלנו. התחלנו את השנה עם החדשות שה-IP שלנו נשלח בלמעלה מ-10 מיליון מכשירים צרכניים, וזה מספר בולט עבור כל סטארט-אפ של Semiconductor IP. במהלך השנה, המשכנו להרחיב את בסיס הלקוחות שלנו, שכולל כעת יצרני OEM של סמארטפונים מסוג Tier 1 ברחבי העולם, ערכות שבבים למכשירי צריכה ויצרניות שבבי רכב. פתרון ה-NPU שלנו מוכר בעולם כטוב ביותר בשוק, ולקוחות מגיעים אלינו כשהם רוצים את מנוע הבינה המלאכותית הטוב ביותר עבור המוצרים שלהם.

-מה היה האתגר הגדול ביותר שעמדה בפני החברה שלך בשנת 2023?

>>האתגר הגדול ביותר בשנת 2023, יחד עם ההזדמנות הגדולה ביותר, הייתה הופעתם של מודלים גדולים של שפה (LLMs) ו-Stable Diffusion (SD) במרחב ה-AI הקצה. LLMs/SD מייצגים שינוי פרדיגמה ב-AI - הם דורשים עיבוד מיוחד יותר ויותר כוח סוס עיבוד מאשר רשתות CNN / RNN טיפוסיות שרוב הלקוחות פרסו ב-2022 ואילך. המספר העצום של יישומים מבוססי LLM/SD שהלקוחות שלנו מיישמים היה מדהים לראות. עם זאת, האתגר העיקרי של LLMs ו-SD בקצה היה לאפשר לאותן רשתות לפעול בתוך מעטפת הכוח והביצועים של מכשיר קצה המופעל על ידי סוללה.

-איך העבודה של החברה שלך מתמודדת עם האתגר הגדול ביותר הזה?

>> הלקוחות שלנו רוצים להציג מוצרים מובחנים בינה מלאכותית; מוצרים שמביאים ערך אמיתי לצרכן עם חווית משתמש פנטסטית. עם זאת, פגיעה משמעותית בחיי הסוללה אינה מתקבלת כחלק מחוויית המשתמש. כאשר שילבנו תמיכה ב-LLM ו-SD ב-4 שלנו הזמינים כעת^th דור הארכיטקטורה, הדגש העיצובי שלנו התמקד באספקת ה-NPU היעיל ביותר בזיכרון, הניצול הגבוה ביותר, ההשהיה הנמוכה ביותר שנוכל לבנות. בדקנו את הפעולות הבסיסיות של סוגי הרשתות החדשים הללו; תנועות נתונים, התפשטות, תלות וכו'... כדי להבין את הדרך הנכונה לפתח את ארכיטקטורת החומרה והתוכנה שלנו כדי להתאים בצורה הטובה ביותר לצרכים העתידיים. כדוגמה לאופן שבו התפתחנו, ה-4 שלנו^th ארכיטקטורת הדור כוללת כפל מטריצות ובלוקים וקטוריים חדשים המותאמים עבור LLMs ו-SD, תוך שמירה על יעילות העיבוד המובילה בשוק ברשתות מסורתיות בסגנון RNN ו-CNN.

-מה לדעתך יהיה אזור הצמיחה הגדול ביותר לשנת 2024, ולמה?

>> אחד מתחומי הצמיחה הגדולים ביותר שלנו הוא ש-2024 עומדת לתמוך במגוון הולך וגדל של פריסות בינה מלאכותית במכוניות. בעוד שסביר להניח שרובם מכירים את השימוש ב-AI בערימת הנהיגה האוטונומית עבור רשתות מבוססות חזותיות, יש הרבה יותר הזדמנויות ושימושים שצצים. אין ספק, אנו רואים את השימוש ב-LLM במכוניות מרקיע שחקים, כמו שווקים רבים אחרים. עם זאת, אנו רואים שימוש מוגבר ב-AI גם בהיבטים אחרים של המכונית - תשומת לב של הנהג, זיהוי נוסעים במושב האחורי, מידע-בידור, תחזוקה חזויה, התאמה אישית ועוד רבים אחרים. כל אלה מכוונים לספק לצרכן את חווית המשתמש הטובה ביותר האפשרית, אחת הסיבות המרכזיות להטמעת AI. עם זאת, צרכי עיבוד הבינה המלאכותית של כל השימושים הללו משתנים באופן דרמטי, לא רק ביכולות הביצועים בפועל אלא גם בסוגי הרשתות העצביות שהמקרה של השימוש מציג.

-איך העבודה של החברה שלך מתמודדת עם הצמיחה הזו?

>> יחד עם התמיכה ב-LLM ו-SD שהוזכרו לעיל, ה-4 של Expedera^th גם ארכיטקטורת הדור ניתנת להתאמה אישית. כאשר Expedera עוסקת בעיצוב חדש עם לקוח, אנו מבקשים להבין את כל תנאי היישום (יעדי ביצועים, תמיכה ברשת הנדרשת, מגבלות שטח והספק, צרכים עתידיים ואחרים) כך שנוכל להתאים את ה-IP שלנו בצורה הטובה ביותר - בעצם , לתת ללקוח בדיוק את מה שהוא רוצה מבלי להקריב על דברים שהוא לא. אם הלקוח מעוניין במנוע מרוכז, בעל ביצועים גבוהים המעניק מספר שימושים ותמיכה במגוון רשתות, נוכל לתמוך בכך. אם הלקוח רוצה לפרוס מנועים מבוזרים המטפלים רק במשימות ורשתות ספציפיות, אנחנו יכולים לתמוך גם בזה - או בכל מקום באמצע. וכל זה מאותה ארכיטקטורת IP, נעשה ללא קנסות של זמן לשוק.

-באיזה כנסים השתתפת ב-2023 ואיך הייתה התנועה?

>>Expedera מציגה בקבוצה ממוקדת של כנסים המתמקדים ב-Edge AI, כולל אך לא רק את Embedded Vision Summit ו-AI Hardware & AI Summit, כמו גם אירועים גדולים יותר כמו CES. התנועה באירועים הללו נראתה בשוויון לשנת 2022, כלומר מכובדת. AI הוא ללא ספק נושא חם מאוד בעולם הטכנולוגיה כיום, וכל חברה בוחנת דרכים לשלב בינה מלאכותית במוצרים, בתהליכי העבודה ובתהליך העיצוב שלה. בהתאם לכך, ראינו מגוון הולך וגדל של משתתפים באירועים אלו, כולם מגיעים עם צרכים וציפיות שונות.

-האם תשתתף בכנסים ב-2024? אותו דבר או יותר?

>>2024 כנראה תראה הרחבה קלה של תוכניות הכנס שלנו, במיוחד אלה המתמקדות בטכנולוגיה. כחלק מהמערכת האקולוגית של מוליכים למחצה, Expedera לא יכולה להרשות לעצמה להתקיים בחלל ריק. דיברנו באירועים קודמים על ערימות החומרה והתוכנה שלנו, כמו גם על יישומים כמו ה-NPU הממוקד באבטחה שלנו לסמארטפונים. השנה, אנו משקיעים הרבה מזמננו בפירוט יישומי קצה של LLMs, כולל בכנסים הקרובים בהמשך האביב. נשמח לפגוש שם רבים מכם!