Intel Labs đã tiết lộ chiếc máy tính thần kinh lớn nhất của mình vào thứ Tư, một hệ thống 1.15 tỷ nơ-ron, được cho là gần giống với bộ não của một con cú.

Nhưng đừng lo, Intel vẫn chưa tạo lại Fallout Robobrain. Thay vì một mạng lưới các nơ-ron hữu cơ và các khớp thần kinh, Hala Point của Intel mô phỏng tất cả chúng bằng silicon.

Ở mức công suất khoảng 20 W, bộ não của chúng ta hoạt động hiệu quả một cách đáng kinh ngạc trong việc xử lý lượng lớn thông tin truyền đến từ mỗi giác quan tại bất kỳ thời điểm nào. Lĩnh vực mô phỏng thần kinh mà Intel và IBM đã dành vài năm qua để khám phá, nhằm mục đích mô phỏng mạng lưới nơ-ron và khớp thần kinh của não để xây dựng các máy tính có khả năng xử lý thông tin hiệu quả hơn các máy gia tốc truyền thống.

Hiệu quả như thế nào? Theo Intel, hệ thống mới nhất của họ, một hộp 6U có kích thước gần bằng lò vi sóng tiêu thụ 2,600 W, có thể đạt được hiệu suất mạng thần kinh sâu lên tới 15 TOPS/W ở độ chính xác 8 bit. Để so sánh điều đó, hệ thống mạnh nhất của Nvidia, GB200 NVL72 dựa trên Blackwell, vẫn chưa được xuất xưởng, quản lý chỉ 6 TOPS/W ở INT8, trong khi hệ thống DGX H100 hiện tại của nó có thể quản lý khoảng 3.1 TOPS/W.

Các nhà nghiên cứu tại Phòng thí nghiệm quốc gia Sandia nhận máy tính biến đổi thần kinh Hala Point trị giá 1.15 tỷ nơ-ron thần kinh của Intel - bấm vào để phóng to

Hiệu suất này đạt được bằng cách sử dụng 1,152 bộ xử lý Loihi 2 của Intel, được kết hợp với nhau trong lưới ba chiều để tạo ra tổng số 1.15 tỷ nơ-ron, 128 tỷ khớp thần kinh, 140,544 lõi xử lý và 2,300 lõi x86 nhúng xử lý các tính toán phụ trợ cần thiết để giữ cho mọi thứ diễn ra suôn sẻ.

Nói rõ hơn, đó không phải là lõi x86 điển hình. “Chúng là những lõi x86 nhỏ, rất đơn giản. Chúng không giống như các lõi hay bộ xử lý Atom mới nhất của chúng tôi,” Mike Davies, giám đốc bộ phận điện toán mô phỏng thần kinh tại Intel, nói. Đăng ký.

Nếu Loihi 2 rung chuông thì đó là do chip đã bị hỏng gõ xung quanh đã được một thời gian ra mắt vào năm 2021 với tư cách là một trong những con chip đầu tiên được sản xuất bằng công nghệ xử lý 7nm của Intel.

Mặc dù đã cũ nhưng Intel cho biết các hệ thống dựa trên Loihi có khả năng giải quyết một số vấn đề suy luận và tối ưu hóa AI nhanh hơn tới 50 lần so với kiến ​​trúc CPU và GPU thông thường trong khi tiêu thụ ít điện năng hơn 100 lần. Những con số đó dường như đã đạt được [PDF] bằng cách ghép một chip Loihi 2 vào Jetson Orin Nano nhỏ bé của Nvidia và CPU Core i9 i9-7920X.

Đừng vứt bỏ GPU của bạn

Mặc dù điều đó nghe có vẻ ấn tượng nhưng Davies thừa nhận rằng các máy gia tốc thần kinh của nó vẫn chưa sẵn sàng thay thế GPU cho mọi khối lượng công việc. Ông nói: “Đây không phải là một công cụ tăng tốc AI có mục đích chung.

Đối với một ứng dụng được cho là phổ biến nhất của AI, các ứng dụng hỗ trợ mô hình ngôn ngữ lớn (LLM) như ChatGPT, sẽ không chạy trên Hala Point, ít nhất là chưa.

“Chúng tôi không lập bản đồ bất kỳ LLM nào tới Hala Point vào thời điểm này. Chúng tôi không biết làm thế nào để làm điều đó. Thành thật mà nói, lĩnh vực nghiên cứu hình thái thần kinh không có phiên bản hình thái thần kinh của máy biến áp,” Davies nói và lưu ý rằng có một số nghiên cứu thú vị về cách có thể đạt được điều đó.

Phải nói rằng, nhóm của Davies đã thành công khi vận hành các mạng lưới thần kinh sâu truyền thống, một bộ phận nhận cảm nhiều lớp, trên Hala Point với một số lưu ý.

Ông nói: “Nếu bạn có thể phân tán hoạt động mạng và độ dẫn điện trong mạng đó, thì đó là lúc bạn có thể đạt được những lợi ích thực sự rất lớn”. “Điều đó có nghĩa là nó phải xử lý tín hiệu đầu vào liên tục… luồng video hoặc luồng âm thanh, thứ gì đó có mối tương quan giữa mẫu này với mẫu khác.”

Phòng thí nghiệm Intel đã chứng minh tiềm năng xử lý video và âm thanh của Loihi 2 trong một bài báo công bố [PDF] cuối năm ngoái. Trong quá trình thử nghiệm, họ phát hiện ra rằng con chip này đã đạt được mức tăng đáng kể về hiệu quả sử dụng năng lượng, độ trễ và thông lượng để xử lý tín hiệu, đôi khi vượt quá ba bậc độ lớn so với các kiến ​​trúc thông thường. Tuy nhiên, lợi ích lớn nhất đã phải trả giá bằng độ chính xác thấp hơn.

Khả năng xử lý dữ liệu thời gian thực ở mức năng lượng và độ trễ thấp đã khiến công nghệ này trở nên hấp dẫn đối với các ứng dụng như xe tự hành, máy bay không người lái và robot.

Một trường hợp sử dụng khác hứa hẹn là các vấn đề tối ưu hóa tổ hợp, chẳng hạn như lập kế hoạch tuyến đường cho một phương tiện giao hàng phải di chuyển trong trung tâm thành phố đông đúc.

Những khối lượng công việc này cực kỳ phức tạp để giải quyết vì những thay đổi nhỏ như tốc độ xe, tai nạn và việc đóng làn đường phải được tính toán nhanh chóng. Kiến trúc điện toán thông thường không phù hợp lắm với loại phức tạp theo cấp số nhân này, đó là lý do tại sao chúng ta thấy rất nhiều nhà cung cấp điện toán lượng tử nhắm mục tiêu vấn đề tối ưu hóa.

Tuy nhiên, Davies lập luận rằng nền tảng điện toán mô phỏng thần kinh của Intel “hoàn thiện hơn nhiều so với các giải pháp nghiên cứu thử nghiệm thay thế khác”.

Phòng để phát triển

Theo Davies, vẫn còn rất nhiều khoảng trống cần được mở khóa. “Tôi rất buồn khi phải nói rằng cho đến ngày nay nó vẫn chưa được khai thác triệt để vì những hạn chế về phần mềm,” ông nói về chip Loihi 2.

Xác định các tắc nghẽn phần cứng và tối ưu hóa phần mềm là một phần lý do khiến Phòng thí nghiệm Intel triển khai nguyên mẫu tại Sandia.

Davies cho biết: “Hiểu được những hạn chế, đặc biệt là ở cấp độ phần cứng, là một phần rất quan trọng để đưa các hệ thống này ra thị trường”. “Chúng tôi có thể khắc phục các sự cố phần cứng, chúng tôi có thể cải thiện nó, nhưng chúng tôi cần biết hướng nào để tối ưu hóa.”

Đây không phải là lần đầu tiên các quan chức Sandia chạm tay vào công nghệ biến đổi thần kinh của Intel. Trong một bài báo công bố vào đầu năm 2022, các nhà nghiên cứu nhận thấy công nghệ này có tiềm năng cho HPC và AI. Tuy nhiên, những thí nghiệm đó đã sử dụng chip Loihi thế hệ đầu tiên của Intel, có số lượng nơ-ron tương đương khoảng 128,000/1 (XNUMX so với XNUMX triệu) so với chip kế nhiệm. ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/