Nvidia tuần này đã trình bày chi tiết về mối quan hệ hợp tác với Bưu điện Hoa Kỳ để chuyển đổi các hoạt động gửi thư của dịch vụ này bằng AI. Theo Nvidia, nó học máy tài nguyên và công cụ đã cho phép Dịch vụ Bưu điện xử lý hơn 20 terabyte hình ảnh mỗi ngày từ hơn 1,000 máy xử lý thư sử dụng 195 máy chủ biên.

Vào năm 2019, Dịch vụ Bưu chính có yêu cầu xác định và theo dõi các mục trong hơn 100 triệu thư gửi hàng ngày. Các nhà khoa học dữ liệu tại tổ chức nghĩ rằng họ có thể mở rộng hệ thống phân tích hình ảnh được phát triển nội bộ thành một thứ gì đó rộng lớn hơn, với các máy chủ AI tiên tiến được đặt ở vị trí chiến lược tại các trung tâm xử lý của Bưu điện. Hy vọng là hệ thống sẽ cho phép Dịch vụ Bưu chính phân tích hàng tỷ hình ảnh của thư và chia sẻ thông tin chi tiết nhanh chóng qua mạng.

Tuyển dụng nửa tá kiến ​​trúc sư tại Nvidia và các công ty khác, Bưu điện đã có được các mô hình học sâu cần thiết sau ba tuần chạy nước rút. Công việc này là nguồn gốc của Chương trình cơ sở hạ tầng điện toán biên, một hệ thống AI biên phân tán đang chạy trên nền tảng NVIDIA EGX tại Dịch vụ Bưu điện ngày nay.

Phần mềm mã nguồn mở của Nvidia, Triton Inference Server, hoạt động như một loại người đưa thư kỹ thuật số giữa các máy chủ biên, cung cấp các mô hình AI cần thiết theo yêu cầu. Theo phân tích của Bưu điện, một nhiệm vụ thị giác máy tính cần hai tuần trên mạng máy chủ có 800 bộ xử lý giờ đây có thể được hoàn thành trong 20 phút trên bốn GPU NVIDIA V100 Tensor Core ở một trong các máy chủ biên, HPE Apollo 6500s .

Mô hình phục vụ

Triton tự động hóa việc phân phối các mô hình AI tới các hệ thống Bưu điện khác nhau có thể có các cấu hình GPU và CPU duy nhất hỗ trợ các khung học sâu. Một ứng dụng chỉ kiểm tra các mục thư yêu cầu phối hợp công việc của hơn nửa tá mô hình học sâu, mỗi mô hình kiểm tra các tính năng cụ thể.

Ảnh trên: Máy ảnh gắn trên máy phân loại ghi lại địa chỉ, mã vạch và các dữ liệu khác, chẳng hạn như ký hiệu vật liệu nguy hiểm.

Tín dụng hình ảnh: Bưu điện Hoa Kỳ

Nvidia cho biết các bộ phận trên khắp Dịch vụ Bưu chính, từ phân tích doanh nghiệp đến tài chính và tiếp thị, đã đưa ra ý tưởng cho khoảng 30 ứng dụng cho ECIP. Người ta sẽ xác định xem một gói hàng có vận chuyển đúng bưu phí về kích thước, trọng lượng và điểm đến của nó hay không. Một người khác sẽ giải mã mã vạch, ngay cả khi có hư hỏng.

Kế hoạch là thiết lập và chạy một số ứng dụng hỗ trợ AI mới trong năm nay. Nvidia và Dịch vụ Bưu điện cho biết mô hình mã vạch có thể có trên ECIP ngay sau mùa hè này.

OCR thế hệ tiếp theo

Tìm kiếm những cải tiến hơn nữa đối với quy trình xử lý thư của mình, Dịch vụ Bưu chính đưa ra yêu cầu về ứng dụng tiếp theo có thể là ECIP — một ứng dụng sử dụng nhận dạng ký tự quang học (OCR). Trước đây, cơ quan này phải mua phần cứng và phần mềm mới đắt tiền hoặc sử dụng dịch vụ đám mây công cộng, vốn chiếm nhiều băng thông và có chi phí đáng kể. Lần này, dựa vào chuyên môn của Nvidia, công ty đã triển khai một hệ thống OCR dựa trên AI trong một vùng chứa trên ECIP do Kubernetes quản lý và Triton phục vụ.

Trong những tuần đầu của đại dịch, các nhà khai thác đã triển khai các thùng chứa để chạy các hệ thống đầu tiên khi các hệ thống khác đang được chuyển giao, cập nhật chúng khi toàn bộ mạng được cài đặt. Nvidia đã được trao hợp đồng vào tháng 2019 năm XNUMX, bắt đầu triển khai các hệ thống vào tháng XNUMX năm ngoái và hoàn thành hầu hết phần cứng vào tháng XNUMX.

Ảnh trên: Thuật toán AI được phát triển trên máy chủ NVIDIA DGX tại cơ sở Kỹ thuật Dịch vụ Bưu chính Hoa Kỳ.

Tín dụng hình ảnh: Nvidia

Các giải pháp mới có thể giúp Bưu điện cải thiện các tiêu chuẩn chuyển phát đã giảm trong năm qua. Vào giữa tháng 62, trong kỳ nghỉ lễ vừa qua, cơ quan này đã gửi đúng hạn 84% thư hạng nhất — mức thấp nhất trong nhiều năm. Tỷ lệ tăng trở lại 6% vào tuần ngày 96 tháng XNUMX nhưng vẫn thấp hơn mục tiêu của cơ quan là khoảng XNUMX%.

Dịch vụ Bưu điện đã đổ lỗi cho đại dịch và thời gian cao điểm kỷ lục là nguyên nhân dẫn đến phần lớn hiệu suất dịch vụ kém.

“Các mô hình chúng tôi đã triển khai cho đến nay giúp quản lý thư và Dịch vụ Bưu điện — nó giúp chúng tôi duy trì sứ mệnh của mình,” Todd Schimmel — người quản lý giám sát các hệ thống Dịch vụ Bưu điện, bao gồm cả ECIP — cho biết trong một thông cáo báo chí. “Trước đây, tám hoặc 10 người phải mất vài ngày để theo dõi các mặt hàng, bây giờ chỉ cần một hoặc hai người trong vài giờ. Điều này mang lại lợi ích cho chúng tôi và khách hàng của chúng tôi, cho chúng tôi biết vị trí của một bưu kiện cụ thể — đó không phải là viên đạn bạc, nhưng nó sẽ lấp đầy khoảng trống và tăng hiệu suất của chúng tôi… Chúng tôi đang ở giai đoạn đầu của hành trình với AI tiên tiến .”

Coinsmart. Đặt cạnh Bitcoin-Börse ở Europa
Nguồn: https://venturebeat.com/2021/05/06/how-ai-is-helping-nvidia-improve-us-postal-service-delivery/