โลโก้เซเฟอร์เน็ต

DoE นำสมองล่าสุดของ Intel มาไว้ในกล่องเดียว

วันที่:

Intel Labs เปิดเผยคอมพิวเตอร์ neuromorphic ที่ใหญ่ที่สุดในวันพุธซึ่งมีระบบประสาท 1.15 พันล้านเซลล์ ซึ่งกล่าวกันว่ามีความคล้ายคลึงกับสมองของนกฮูก

แต่ไม่ต้องกังวล Intel ยังไม่ได้สร้าง Fallout's ขึ้นมาใหม่ โรโบเบรน- แทนที่จะเป็นเครือข่ายของเซลล์ประสาทและไซแนปส์อินทรีย์ Hala Point ของ Intel จะจำลองสิ่งเหล่านั้นทั้งหมดในรูปแบบซิลิคอน

ด้วยกำลังประมาณ 20 วัตต์ สมองของเราจึงมีประสิทธิภาพอย่างน่าประหลาดใจในการประมวลผลข้อมูลปริมาณมากที่ไหลเข้ามาจากประสาทสัมผัสแต่ละอย่างในช่วงเวลาใดก็ตาม สาขานิวโรมอร์ฟิกส์ซึ่ง Intel และ IBM ใช้เวลาไม่กี่ปีที่ผ่านมาสำรวจ มีจุดมุ่งหมายเพื่อจำลองเครือข่ายเซลล์ประสาทและไซแนปส์ของสมองเพื่อสร้างคอมพิวเตอร์ที่สามารถประมวลผลข้อมูลได้อย่างมีประสิทธิภาพมากกว่าเครื่องเร่งความเร็วแบบเดิม

มีประสิทธิภาพแค่ไหน? ตามข้อมูลของ Intel ระบบล่าสุด กล่อง 6U ที่มีขนาดประมาณไมโครเวฟซึ่งกินไฟ 2,600 วัตต์ มีรายงานว่าสามารถบรรลุประสิทธิภาพโครงข่ายประสาทเทียมระดับลึกสูงถึง 15 TOPS/W ที่ความแม่นยำ 8 บิต ในมุมมองดังกล่าว ระบบที่ทรงพลังที่สุดของ Nvidia คือ GB200 NVL72 ที่ใช้ Blackwell ซึ่งยังไม่ได้จัดส่งด้วยซ้ำ จัดการ เพียง 6 TOPS/W ที่ INT8 ในขณะที่ระบบ DGX H100 ปัจจุบันสามารถจัดการได้ประมาณ 3.1 TOPS/W

นักวิจัยที่ Sandia National Labs รับมอบคอมพิวเตอร์นิวโรมอร์ฟิค Hala Point ของ Intel จำนวน 1.15 พันล้านเซลล์

นักวิจัยที่ Sandia National Labs รับมอบคอมพิวเตอร์ neuromorphic Hala Point ของ Intel จำนวน 1.15 พันล้านเซลล์ - คลิกเพื่อดูภาพขยาย

ประสิทธิภาพนี้ทำได้โดยใช้โปรเซสเซอร์ Loihi 1,152 ของ Intel 2 ตัว ซึ่งต่อเข้าด้วยกันเป็นตารางสามมิติสำหรับเซลล์ประสาททั้งหมด 1.15 พันล้านเซลล์, ไซแนปส์ 128 พันล้านคอร์, คอร์ประมวลผล 140,544 คอร์ และคอร์ x2,300 แบบฝัง 86 คอร์ ที่จัดการการคำนวณเสริมที่จำเป็น เก็บเรื่องเอาไว้

เพื่อความชัดเจน สิ่งเหล่านี้ไม่ใช่คอร์ x86 ทั่วไป “มันเป็นคอร์ x86 ขนาดเล็กที่เรียบง่ายมาก พวกมันไม่เหมือนกับคอร์ล่าสุดหรือโปรเซสเซอร์ Atom ของเรา” Mike Davies ผู้อำนวยการฝ่ายประมวลผล neuromorphic ของ Intel กล่าว ลงทะเบียน.

ถ้าโลอิฮิ 2 ดังกริ่ง นั่นเป็นเพราะชิปถูกแล้ว เคาะไปรอบ ๆ มาระยะหนึ่งแล้วที่เปิดตัวในปี 2021 โดยเป็นหนึ่งในชิปตัวแรกที่ผลิตโดยใช้เทคโนโลยีกระบวนการ 7 นาโนเมตรของ Intel

แม้จะอายุมากแล้ว Intel กล่าวว่าระบบที่ใช้ Loihi สามารถแก้ปัญหาการอนุมาน AI และปัญหาการปรับให้เหมาะสมได้เร็วกว่าสถาปัตยกรรม CPU และ GPU ทั่วไปถึง 50 เท่า ในขณะที่ใช้พลังงานน้อยกว่า 100 เท่า ตัวเลขเหล่านั้นดูเหมือนจะเป็นเช่นนั้น ประสบความสำเร็จ [PDF] โดยการเจาะชิป Loihi 2 ตัวเดียวเข้ากับ Jetson Orin Nano ขนาดเล็กของ Nvidia และ CPU Core i9 i9-7920X

อย่าเพิ่งทิ้ง GPU ของคุณ

แม้ว่าสิ่งนั้นอาจฟังดูน่าประทับใจ แต่ Davies ยอมรับว่าตัวเร่ง neuromorphic ยังไม่พร้อมที่จะเปลี่ยน GPU สำหรับทุกเวิร์กโหลด “นี่ไม่ใช่ตัวเร่ง AI วัตถุประสงค์ทั่วไป แต่อย่างใด” เขากล่าว

ประการแรก แอปพลิเคชันที่ได้รับความนิยมมากที่สุดของ AI คือโมเดลภาษาขนาดใหญ่ (LLM) ที่ขับเคลื่อนแอปอย่าง ChatGPT จะไม่ทำงานบน Hala Point อย่างน้อยก็ในตอนนี้

“เราไม่ได้ทำแผนที่ LLM ใดๆ กับ Hala Point ในเวลานี้ เราไม่รู้ว่าต้องทำอย่างไร ค่อนข้างตรงไปตรงมา สาขาการวิจัยเกี่ยวกับนิวโรมอร์ฟิกไม่มีหม้อแปลงเวอร์ชันนิวโรมอร์ฟิก” เดวีส์กล่าว พร้อมสังเกตว่ามีงานวิจัยที่น่าสนใจเกี่ยวกับวิธีการบรรลุเป้าหมายดังกล่าว

ต้องบอกว่าทีมงานของ Davies ประสบความสำเร็จในการใช้งานเครือข่าย deep neural แบบเดิมซึ่งเป็น perceptron หลายชั้นบน Hala Point โดยมีข้อแม้บางประการ

“หากคุณสามารถกระจายกิจกรรมเครือข่ายและการนำไฟฟ้าในเครือข่ายนั้นได้ เมื่อนั้นคุณจะสามารถบรรลุผลกำไรมหาศาล” เขากล่าว “ความหมายก็คือ จะต้องประมวลผลสัญญาณอินพุตต่อเนื่อง … สตรีมวิดีโอหรือสตรีมเสียง ซึ่งเป็นสิ่งที่มีความสัมพันธ์กันจากตัวอย่างหนึ่งไปยังอีกตัวอย่างหนึ่งไปยังอีกตัวอย่างหนึ่ง”

Intel Labs แสดงให้เห็นถึงศักยภาพของ Loihi 2 ในการประมวลผลภาพและเสียงในรายงาน การตีพิมพ์ [PDF] เมื่อปลายปีที่แล้ว ในการทดสอบ พวกเขาพบว่าชิปได้รับประสิทธิภาพด้านพลังงาน เวลาแฝง และปริมาณการประมวลผลสัญญาณที่เพิ่มขึ้นอย่างมาก ซึ่งบางครั้งก็เกินขนาดสามเท่าเมื่อเปรียบเทียบกับสถาปัตยกรรมทั่วไป อย่างไรก็ตาม การได้กำไรมากที่สุดนั้นต้องแลกมาด้วยความแม่นยำที่ลดลง

ความสามารถในการประมวลผลข้อมูลแบบเรียลไทม์ที่ใช้พลังงานและเวลาแฝงต่ำทำให้เทคโนโลยีนี้น่าสนใจสำหรับการใช้งานต่างๆ เช่น ยานพาหนะขับเคลื่อนอัตโนมัติ โดรน และหุ่นยนต์

กรณีการใช้งานอีกประการหนึ่งที่เห็นได้ชัดเจนคือปัญหาการเพิ่มประสิทธิภาพแบบผสมผสาน เช่น การวางแผนเส้นทางสำหรับรถส่งสินค้า ซึ่งต้องนำทางในใจกลางเมืองที่พลุกพล่าน

ปริมาณงานเหล่านี้ซับซ้อนอย่างไม่น่าเชื่อในการแก้ไข เนื่องจากต้องคำนึงถึงการเปลี่ยนแปลงเล็กๆ น้อยๆ เช่น ความเร็วของรถ อุบัติเหตุ และการปิดเลนในทันที สถาปัตยกรรมการประมวลผลแบบทั่วไปไม่เหมาะกับความซับซ้อนแบบเอ็กซ์โปเนนเชียลประเภทนี้ ซึ่งเป็นเหตุผลว่าทำไมเราจึงเห็นผู้จำหน่ายคอมพิวเตอร์ควอนตัมจำนวนมาก กำหนดเป้​​าหมาย ปัญหาการเพิ่มประสิทธิภาพ

อย่างไรก็ตาม เดวีส์ให้เหตุผลว่าแพลตฟอร์มคอมพิวเตอร์แบบนิวโรมอร์ฟิกของ Intel นั้น “มีความเป็นผู้ใหญ่มากกว่าทางเลือกการวิจัยเชิงทดลองอื่นๆ มาก”

ห้องปลูก

จากข้อมูลของ Davies ยังมีพื้นที่ว่างอีกมากให้ปลดล็อค “ผมเสียใจที่ต้องบอกว่าจนถึงทุกวันนี้มันยังไม่ถูกใช้ประโยชน์อย่างเต็มที่ด้วยซ้ำ เนื่องจากข้อจำกัดของซอฟต์แวร์” เขากล่าวเกี่ยวกับชิป Loihi 2

การระบุปัญหาคอขวดของฮาร์ดแวร์และการเพิ่มประสิทธิภาพซอฟต์แวร์เป็นส่วนหนึ่งของเหตุผลที่ Intel Labs ได้ปรับใช้ต้นแบบที่ Sandia

“การทำความเข้าใจข้อจำกัด โดยเฉพาะอย่างยิ่งในระดับฮาร์ดแวร์ เป็นส่วนสำคัญมากในการนำระบบเหล่านี้ออกไป” เดวีส์กล่าว “เราสามารถแก้ไขปัญหาฮาร์ดแวร์ได้ เราสามารถปรับปรุงได้ แต่เราจำเป็นต้องรู้ว่าทิศทางใดที่ควรเพิ่มประสิทธิภาพ”

นี่ไม่ใช่ครั้งแรกที่ Sandia boffins ได้สัมผัสกับเทคโนโลยี neuromorphic ของ Intel ในกระดาษ การตีพิมพ์ ในช่วงต้นปี 2022 นักวิจัยพบว่าเทคโนโลยีนี้มีศักยภาพสำหรับ HPC และ AI อย่างไรก็ตาม การทดลองเหล่านั้นใช้ชิป Loihi รุ่นแรกของ Intel ซึ่งมีเซลล์ประสาทประมาณหนึ่งในแปด (128,000 เทียบกับ 1 ล้าน) ของตัวตายตัวแทน

จุด_img

ข่าวกรองล่าสุด

จุด_img