Việc chạy các mô hình AI ở rìa thay vì trên đám mây mang lại những lợi thế đáng kể cho các ứng dụng IoT. Thiết kế Edge-AI có thể đơn giản hơn, xử lý dữ liệu an toàn hơn và trải nghiệm người dùng tổng thể tốt hơn. Hơn nữa, xử lý AI biên có lợi hơn cho các ứng dụng như phân tích video yêu cầu xử lý lượng lớn dữ liệu có độ trễ thấp trong thời gian thực.

OEM AI

Thách thức đối với các nhà sản xuất thiết bị gốc AI (OEM) biên – cho dù họ đang thiết kế thiết bị điện tử tiêu dùng, thiết bị doanh nghiệp hay ứng dụng công nghiệp – là phát triển các thiết bị có kích thước nhỏ, chi phí thấp với độ trễ thấp, hiệu suất cao và điện năng thấp. Những hạn chế cố hữu của công nghệ kỹ thuật số do bộ nhớ bị hạn chế về băng thông và tốc độ xung nhịp cao đã buộc các OEM phải đánh đổi để hạn chế tiềm năng của AI, kể cả ngày nay. Một cách tiếp cận mới – tính toán tương tự kết hợp với bộ nhớ flash – hứa hẹn sẽ giúp các công ty triển khai rộng rãi các ứng dụng AI biên mạnh mẽ với giá cả phải chăng.

Flash Memory

Công nghệ bộ nhớ flash đã thúc đẩy ngành công nghiệp điện tử phát triển nhờ mật độ đáng kinh ngạc và kích thước cực nhỏ so với ổ đĩa cứng cũng như khả năng lưu giữ thông tin mà không cần cấp nguồn. Tất cả chúng ta đều có thể cảm ơn bộ nhớ flash vì đã cho phép chúng ta lưu ảnh, tải xuống ứng dụng và làm nhiều việc khác trên điện thoại thông minh, máy tính xách tay và các thiết bị khác mà chúng ta sử dụng hàng ngày. Tuy nhiên, bộ nhớ flash cũng có một số nhược điểm. Tốc độ chậm và tiêu thụ điện năng cao so với các công nghệ bộ nhớ khác đã hạn chế việc sử dụng nó để lưu trữ lâu dài.

Tính toán tương tự

Điện toán tương tự là một công nghệ đã cho thấy nhiều hứa hẹn nhưng trước đây đã gặp phải một số thách thức khi triển khai. Một trong những trở ngại lớn nhất của điện toán analog là kích thước của nó. Theo truyền thống, chip analog có kích thước quá lớn và tốn kém, chưa kể rất khó phát triển. Điện toán analog đã được nghiên cứu trong nhiều thập kỷ khi các công ty cố gắng tìm ra cách tận dụng tốc độ tính toán nhanh và hiệu quả sử dụng năng lượng của analog (hiệu quả hơn nhiều so với các hệ thống kỹ thuật số) cho các yêu cầu điện toán ngày nay.

Kết hợp Flash và Analog

Bằng cách kết hợp bộ nhớ flash và điện toán tương tự, bạn sẽ nhận được số tiền lớn hơn nhiều so với từng phần riêng lẻ. Sự kết hợp này cho phép mật độ đáng kinh ngạc – giảm chi phí xuống 20 lần và tạo điều kiện cho các thiết kế bộ xử lý có dạng chip đơn, nhỏ gọn – cùng với mức tiêu thụ điện năng cực thấp hiệu quả gấp 10 lần so với kỹ thuật số và hiệu suất cao nghề với sức mạnh tính toán 700 USD hệ thống GPU. Các công ty có thể tận dụng bộ xử lý AI với bộ nhớ điện toán tương tự để triển khai dễ dàng và tiết kiệm chi phí AI trên nhiều ứng dụng IoT.

Tất nhiên, tính toán tương tự cần phải tồn tại trong thế giới kỹ thuật số. Hệ thống AI kết nối với các cảm biến và bộ xử lý kỹ thuật số. Điều này có nghĩa là bộ xử lý điện toán analog có thể yêu cầu hàng chục nghìn bộ chuyển đổi tương tự sang số (ADC) và kỹ thuật số sang tương tự (DAC). Để lắp vừa vào một con chip, ADC cần phải cực kỳ nhỏ và cần được thiết kế sao cho tiết kiệm điện năng.

Tận dụng sức mạnh tính toán tương tự kết hợp với bộ nhớ flash, các OEM có thể suy nghĩ lại những gì có thể làm được với AI. Chỉ cần tưởng tượng những cải tiến thú vị mà chúng ta sẽ thấy mà không có những hạn chế hiện có về sức mạnh, chi phí và hiệu suất của các ứng dụng AI biên. Từ trang trại đến nhà máy, từ trung tâm dữ liệu đến vận tải và hơn thế nữa, khả năng AI biên được hỗ trợ bởi công nghệ tính toán trong bộ nhớ tương tự là vô tận.

Coinsmart. Đặt cạnh Bitcoin-Börse ở Europa
Nguồn: https://www.iotforall.com/unlocking-the-full-potential-of-edge-ai-with-a-groundbreak-new-technology-approach