Logo Zephyrnet

Trí thông minh dữ liệu tạo

AI

Phỏng vấn CEO: Patrick T. Bowen của Neurophos – Semiwiki

Được xuất bản lại bởi Plato
Được xuất bản lại bởi Plato

Ngày:

Lượt xem: 155

Patrick T. Bowen Neurophos

Patrick là một doanh nhân có nền tảng về vật lý và siêu vật liệu. Patrick đặt ra tầm nhìn cho tương lai của kiến ​​trúc Neurophos và chỉ đạo nhóm của mình nghiên cứu và phát triển, đặc biệt là trong thiết kế siêu vật liệu. Ông có bằng Thạc sĩ về hệ thống Micro-Nano của ETH Zurich và Tiến sĩ Kỹ thuật Điện của Đại học Duke, dưới sự hướng dẫn của Giáo sư David Smith. Sau khi tốt nghiệp, Patrick đồng sáng lập Metacept với Giáo sư Smith; Metacept là công ty tư vấn và trung tâm thương mại hóa siêu vật liệu hàng đầu thế giới.

Hãy cho chúng tôi biết về Neurophos. Bạn đang giải quyết vấn đề gì?
Chúng tôi nói rằng chúng tôi tồn tại để mang sức mạnh tính toán của bộ não con người vào trí tuệ nhân tạo. Trở lại năm 2009, người ta phát hiện ra rằng GPU có khả năng nhận dạng mèo trên Internet tốt hơn nhiều so với CPU, nhưng GPU không phải là câu trả lời cho tương lai của khối lượng công việc AI. Cũng giống như GPU tốt hơn CPU trong mạng lưới thần kinh, có thể có những kiến ​​trúc tốt hơn GPU theo cấp độ lớn. Neurophos là thứ tiếp theo dành cho AI sau GPU.

Các mô hình ngôn ngữ lớn AI nói chung đã bị hạn chế vì chúng ta chưa có đủ sức mạnh tính toán để phát huy hết tiềm năng của chúng. Mọi người chủ yếu tập trung vào khía cạnh đào tạo của nó, chỉ vì bạn phải đào tạo thứ gì đó hữu ích trước khi bạn có thể nghĩ đến việc triển khai nó. Những nỗ lực đó đã làm nổi bật sức mạnh đáng kinh ngạc của các mô hình AI lớn và với bằng chứng đó, mọi người đang bắt đầu tập trung vào cách triển khai AI trên quy mô lớn. Sức mạnh của những mô hình AI đó có nghĩa là chúng ta có hàng triệu người dùng sẽ sử dụng chúng mỗi ngày. Tiêu tốn bao nhiêu năng lượng cho mỗi người dùng? Chi phí tính toán cho mỗi suy luận là bao nhiêu? Nếu chi phí cho mỗi suy luận không đủ rẻ thì đó có thể là một điều rất hạn chế đối với các doanh nghiệp muốn triển khai AI.

Hiệu quả sử dụng năng lượng cũng là một vấn đề lớn cần giải quyết. Nếu bạn có một máy chủ tiêu thụ 6 kiloWatt và bạn muốn tăng tốc nhanh hơn 100 lần nhưng không làm gì với hiệu suất năng lượng cơ bản, thì máy chủ 6 kiloWatt đó đột nhiên trở thành máy chủ 600 kiloWatt. Tại một thời điểm nào đó bạn va vào tường; đơn giản là bạn đang đốt quá nhiều năng lượng và không thể hút nhiệt ra khỏi chip đủ nhanh. Và tất nhiên còn có những vấn đề về biến đổi khí hậu được đặt lên hàng đầu. AI đang tiêu thụ bao nhiêu năng lượng? Chúng ta đang lãng phí thêm bao nhiêu năng lượng chỉ để cố gắng giữ cho trung tâm dữ liệu luôn mát mẻ? Vì vậy, trước tiên ai đó cần giải quyết vấn đề tiết kiệm năng lượng và sau đó bạn có thể tiến hành đủ nhanh để đáp ứng nhu cầu của ứng dụng.

Mọi người đã đề xuất sử dụng điện toán quang học cho AI trong khoảng thời gian gần như AI đã tồn tại. Có rất nhiều ý tưởng mà chúng tôi thực hiện ngày nay cũng là những ý tưởng cũ từ những năm 80. Ví dụ, các phương trình ban đầu cho “áo choàng tàng hình siêu vật liệu” nổi tiếng và những thứ khác như chiết suất âm, có thể được truy nguyên từ các nhà vật lý người Nga trong thập niên 60 và 80. Mặc dù nó chỉ được nghĩ đến nhưng nó thực sự đã được David Smith và Sir John Pendry phát minh lại.

Tương tự, mảng tâm thu, thường là ý của mọi người khi nói “bộ xử lý tensor”, là một ý tưởng cũ từ cuối những năm 70. Điện toán lượng tử là một ý tưởng cũ từ những năm 80 mà ngày nay chúng ta đã hồi sinh. Xử lý quang học cũng là một ý tưởng đã cũ từ những năm 80 nhưng lúc đó chúng ta chưa có công nghệ để thực hiện nó. Vì vậy, với Neurophos, chúng tôi quay lại phát minh lại bóng bán dẫn quang học, tạo ra phần cứng cơ bản từ đầu cần thiết để triển khai các ý tưởng điện toán quang học lạ mắt từ lâu.

Điều gì sẽ khiến khách hàng chuyển từ sử dụng GPU của Nvidia sang sử dụng công nghệ của bạn?
Vì vậy, điều số một mà tôi nghĩ hầu hết khách hàng thực sự quan tâm là số đô la trên mỗi số liệu suy luận, bởi vì đó là thứ thực sự tạo nên hoặc phá vỡ mô hình kinh doanh của họ. Chúng tôi đang giải quyết số liệu đó bằng một giải pháp thực sự có thể tăng tốc độ tính toán lên 100 lần so với GPU hiện đại, tất cả đều nằm trong cùng một đường bao sức mạnh.

Mối quan tâm về môi trường cũng là điều mà mọi người quan tâm và chúng tôi đang cung cấp một giải pháp rất thực tế để giảm thiểu đáng kể mức tiêu thụ năng lượng trực tiếp tại một trong những nguồn quan trọng nhất của nó: trung tâm dữ liệu.

Nếu bạn ngồi lại và suy nghĩ về quy mô của vấn đề này… ai đó phải đưa ra giải pháp ở đây, cho dù đó là chúng tôi hay ai khác. Băng thông trong bao bì chip gần như tỷ lệ thuận với căn bậc hai của diện tích và mức tiêu thụ điện năng trong bao bì chip thường tỷ lệ thuận với diện tích. Điều này đã dẫn đến đủ loại cách thức sai lầm mà chúng tôi đang cố gắng tạo ra và đóng gói các hệ thống.

Bao bì là một trong những thứ thực sự mang tính cách mạng đối với AI nói chung. Ban đầu, vấn đề là về chi phí và khả năng kết hợp các chiplet từ các nút công nghệ khác nhau và trên hết là về tốc độ truy cập bộ nhớ và băng thông vì bạn có thể tích hợp với chip DRAM. Nhưng bây giờ bạn đang đặt ngày càng nhiều chip vào đó!

Việc sử dụng phương pháp điện toán tương tự sẽ khôi phục mức tiêu thụ điện năng để tính toán xuống căn bậc hai của diện tích thay vì tỷ lệ với diện tích. Vì vậy, bây giờ cách thức tính toán và mức tiêu thụ năng lượng của bạn cũng giống như vậy; bạn đang đưa chúng vào trạng thái cân bằng.

Chúng tôi tin rằng cho đến nay, chúng tôi đã phát triển phương pháp tiếp cận duy nhất cho điện toán trong bộ nhớ tương tự có thể thực sự mở rộng đến mật độ điện toán đủ cao để áp dụng các quy luật mở rộng này.

Làm thế nào khách hàng có thể tương tác với Neurophos ngay hôm nay? 
Chúng tôi đang tạo một chương trình đối tác phát triển và cung cấp mô hình phần mềm cho phần cứng của chúng tôi cho phép mọi người tải trực tiếp mã PyTorch và biên dịch mã đó. Điều đó cung cấp các số liệu về thông lượng và độ trễ cũng như số lượng phiên bản mỗi giây, v.v. cho khách hàng. Nó cũng cung cấp lại dữ liệu cho chúng tôi về bất kỳ điểm nghẽn nào về thông lượng trong hệ thống, vì vậy, chúng tôi có thể đảm bảo rằng chúng tôi đang xây dựng hệ thống tổng thể theo cách thực sự quan trọng đối với khối lượng công việc của khách hàng.

Bạn đang nghiên cứu những tính năng/công nghệ mới nào?
Các học giả từ lâu đã mơ về những gì họ có thể làm nếu họ có một siêu bề mặt như chúng tôi đang xây dựng tại Neurophos, và có rất nhiều tài liệu lý thuyết ở đó… nhưng chưa có ai thực sự chế tạo được một tài liệu đó. Chúng tôi là những người đầu tiên làm điều đó. Trong suy nghĩ của tôi, hầu hết các ứng dụng thú vị đều thực sự dành cho các bề mặt động chứ không phải tĩnh và có những công việc khác đang diễn ra tại Metacept, Duke và tại các công ty chị em như Lumotive mà tôi và tôi nghĩ thế giới sẽ khá hào hứng. .

Tại sao bạn tham gia Vườn ươm SC và mục tiêu của Neurophos khi làm việc với tổ chức của họ trong 24 tháng tới là gì?

Silicon Catalyst đã trở thành một công cụ tăng tốc uy tín cho các công ty khởi nghiệp về bán dẫn với tiêu chuẩn tuyển sinh cao. Chúng tôi rất vui mừng khi có họ là đối tác. Các công ty khởi nghiệp phần cứng gặp bất lợi lớn so với các công ty khởi nghiệp phần mềm vì chi phí demo/nguyên mẫu và thời gian chu kỳ kỹ thuật cao hơn, và điều này thậm chí còn đúng hơn trong các công ty khởi nghiệp bán dẫn, nơi các công cụ EDA và chi phí che giấu cũng như quy mô tuyệt đối của các nhóm kỹ thuật có thể rất cao. đắt tiền đối với một công ty ở giai đoạn hạt giống. Silicon Catalyst đã hình thành một hệ sinh thái đối tác khá đáng kinh ngạc, mang lại sự trợ giúp đáng kể trong việc giảm chi phí phát triển và đẩy nhanh thời gian đưa sản phẩm ra thị trường.

Cũng đọc:

Trò chuyện thẳng thắn với Sean Redmond về ChipStart ở Vương quốc Anh

Phỏng vấn CEO: Jay Dawani của Lemurian Labs

Bảy công ty chất xúc tác silicon sẽ trưng bày tại CES, sự kiện công nghệ mạnh mẽ nhất thế giới

Chia sẻ bài đăng này qua:

tại chỗ_img

Tin tức mới nhất

tại chỗ_img

Bản quyền @ 2024 Plato Technologies Inc.