AI 트렌드 편집자 John P. Desmond
N비디아 6 월 XNUMX 일에는 AI를 사용하여 메일 서비스 속도를 높이기 위해 XNUMX 년 이상 진행중인 US Postal Service와의 파트너십에 대해 자세히 설명했으며, 며칠에서 몇 시간이 걸리는 현재 처리 시간 작업을 줄이는 것을 목표로했습니다.
이 프로젝트는 전국 195 개의 Post Services 사이트에 에지 서버를 배치하고 있으며, 20 개의 메일 처리 기계에서 하루에 1,000TB의 이미지를 검토합니다. N비디아 블로그.
“연방 정부는 지난 몇 년 동안 우리 국가의 전략적 필수 요소이자 중요한 자금 우선 순위로서 인공 지능의 중요성에 대해 이야기 해 왔습니다. 백악관, 국회 의사당, 펜타곤에서 이야기되었습니다. 수십억 달러의 자금을 지원 받았으며 개념 증명과 파일럿으로 가득 차 있습니다.”라고 연방 부회장 Anthony Robbins가 말했습니다. NVIDIA,와의 인터뷰에서 Nextgov. “그리고 이것은 몇 안되는 기업 중 하나입니다.-연방 정부 전체에 영감을 줄 수있는 인공 지능 배포의 광범위한 예입니다.”
블로그 게시물에 따르면이 프로젝트는 우편 팀이 개발중인 이미지 분석 시스템을 훨씬 더 큰 것으로 확장하려는 아이디어를 가진 Ryan Simpson 당시 USPS AI 설계자에 의해 시작되었습니다. (Simpson은 USPS에서 12 년 이상 근무했으며 NVIDIA 그는 시스템이 각 센터에서 생성 한 수십억 개의 이미지를 분석하고 네트워크를 통해 빠르게 공유 할 수있는 몇 개의 데이터 포인트로 표현 된 통찰력을 얻을 수 있다고 믿었습니다.
XNUMX 주간의 스프린트에서 Simpson은 NVIDIA 그리고 다른 사람들은 필요한 딥 러닝 모델을 설계합니다. 이 작업은 USPS에있는 Nvidia의 EGX 플랫폼에서 실행되는 분산 에지 AI 시스템 인 ECIP (Edge Computing Infrastructure Program) 내에서 수행되었습니다. EGX 플랫폼을 사용하면 데이터 센터에서 에지에 이르기까지 동일한 인프라에서 기존 및 최신 데이터 집약적 애플리케이션을 가속화하고 보호 할 수 있습니다.
USPS의 Letter Mail Technology 관리자 인 Todd Schimmel은“예전에는 품목을 추적하는 데 10 ~ XNUMX 명이 며칠이 걸렸지 만 이제는 한두 명이 몇 시간이 걸립니다. 그는 ECIP를 포함한 USPS 시스템을 감독합니다. NVIDIA 인증 Hewlett-Packard Enterprise의 에지 서버.
또 다른 분석에서는 800 개의 CPU가있는 서버 네트워크에서 20 주가 걸렸을 컴퓨터 비전 작업을 이제 HPE Apollo 100 서버 중 하나에있는 6500 개의 NVIDIA VXNUMX Tensor Core GPU에서 XNUMX 분 만에 완료 할 수 있습니다.
2019 년 OCR을 이용한 시스템 계약 체결
USPS는 이미징 워크 플로를 간소화하기 위해 광학 문자 인식 (OCR)을 사용하는 시스템에 대한 제안을 요청했습니다. “과거에는 OCR을위한 전체 인프라 인 새로운 하드웨어, 소프트웨어를 구입했을 것입니다. 또는 공용 클라우드 서비스를 사용하는 경우 이미지를 클라우드로 가져와야하는데, 이는 약 XNUMX 억 개의 이미지에 대해 이야기 할 때 많은 대역폭과 상당한 비용이 소요됩니다.”라고 Schimmel은 말했습니다.
오늘날 새로운 OCR 애플리케이션은 Kubernetes, 오픈 소스 컨테이너 오케스트레이션 시스템이 관리하는 ECIP의 컨테이너에서 딥 러닝 모델에 의존하고 NVIDIA 회사의 오픈 소스 추론 서비스 소프트웨어 인 Triton. Triton을 사용하면 팀이 TensorFlow 또는 같은 프레임 워크에서 훈련 된 AI 모델을 배포 할 수 있습니다. 파이 토치.
배포가 매우 간소화되었습니다.”라고 Schimmel은 말했습니다. "우리는 2019 년 2020 월 계약을 체결하고 XNUMX 년 XNUMX 월 시스템 배포를 시작했으며 XNUMX 월까지 대부분의 하드웨어를 완료했습니다. USPS는 이에 매우 만족했습니다."라고 그는 덧붙였습니다.
여러 모델이 작동하려면 USPS OCR 응용 프로그램과 통신해야합니다. 메일 항목 만 확인하는 앱은 각각 특정 기능을 확인하는 XNUMX 개 이상의 딥 러닝 모델 작업을 조정해야합니다. 운영자는 향후 더 많은 기능을 지원하는 더 많은 모델로 앱을 향상시킬 것으로 기대합니다.
Schimmel은“지금까지 배포 한 모델은 우편물과 USPS를 관리하는 데 도움이되며 우리의 임무를 유지하는 데 도움이됩니다.
하나의 모델, 예를 들면, 패키지의 크기, 무게에 맞는 배송비가 포함되어 있는지 자동으로 확인합니다., 및 목적지. 손상된 바코드를 자동으로 해독하는 또 다른 바코드는 이번 여름에 온라인으로 출시 될 수 있습니다.
“우리는 엣지 AI로 여정의 시작에 있습니다. 매일 우리 조직의 사람들은 기계 학습을 로봇 공학, 데이터 처리 및 이미지 처리의 새로운 측면에 적용하는 새로운 방법을 생각하고 있습니다.”라고 그는 말했습니다.
Accenture 연방 서비스, Dell Technologies, Hewlett-Packard Enterprise는 AI, Robbins를 통합 한 USPS OCR 시스템에 기여했습니다. NVIDIA 정해진. ML 모델 생성 및 교육을 위해 특별히 조정 된 하드웨어 및 소프트웨어가 포함 된 특수 컴퓨팅 캐비닛 또는 노드가 두 개의 데이터 센터에 설치되었습니다.
"연방 정부 전체에서 일어나야하는 AI 작업은 거대한 팀 스포츠입니다.”라고 Robbins는 말했습니다. Nextgov. "그리고 Postal Service의 기업 전체에 AI를 배포 한 결과 바로 그랬습니다."
새로운 솔루션은 USPS가 작년에 떨어 졌던 배달 표준을 개선하는 데 도움이 될 수 있습니다. 지난 휴가 시즌 인 62 월 중순에 에이전시는 XNUMX 급 우편물의 XNUMX % 만 제때 배달했습니다. VentureBeat . 이자율은 84 월 6 일 주까지 96 %로 반등했지만 기관의 목표 인 약 XNUMX %를 하회했습니다.
USPS는 열악한 서비스 성능의 대부분을 전염병과 기록적인 피크 기간을 비난했습니다.
소스 기사 및 정보 읽기 를 시청하여 이에 대해 더 많은 정보를 얻을 수 있습니다. 엔비디아 블로그에 Nextgov 과 in VentureBeat.
코인 스마트. 유로파 최고의 비트 코인-보르 스
출처 : https://www.aitrends.com/edge-computing/post-office-looks-to-gain-an-edge-with-edge-computing/
