웨비나: 상시 감지 배포를 위한 이상적인 신경 처리 엔진 - Semiwiki

상시 감지 카메라는 사용자가 스마트폰, 가전 제품 및 기타 소비자 장치와 상호 작용하는 비교적 새로운 방법입니다. 상시 청취 오디오 기반 Siri 및 Alexa와 마찬가지로 상시 감지 카메라는 매끄럽고 보다 자연스러운 사용자 경험을 제공합니다. 그러나 항상 감지하는 카메라 하위 시스템은 생성되는 데이터의 양과 복잡성으로 인해 특수 처리가 필요합니다.

옵션 1

그러나 사용자의 엄격한 성능, 대기 시간 및 개인 정보 보호 요구 사항을 충족하도록 상시 감지 하위 시스템을 어떻게 설계할 수 있습니까? 에너지 저장 밀도의 지속적인 개선에도 불구하고 차세대 장치는 항상 배터리에 대한 요구를 증가시킵니다. 소비자, 기업 및 정부가 더 낮은 전력 소비를 요구함에 따라 벽면 전원 장치도 정밀 조사에 직면합니다. 대기 시간도 중요한 요소입니다. 최상의 사용자 경험을 위해 장치는 사용자 입력에 즉시 반응해야 하며 상시 감지 시스템은 불필요한 대기 시간과 느린 이유를 추가하는 다른 프로세스와 경쟁할 수 없습니다. 개인 정보 보호 및 데이터 보안도 중요한 문제입니다. 상시 감지 시스템은 카메라에서 데이터를 저장하거나 노출하지 않고 안전하게 캡처하고 처리하도록 설계되어야 합니다.

그렇다면 전력, 대기 시간 및 프라이버시 친화적인 방법으로 상시 감지를 어떻게 활성화할 수 있을까요? 기존의 많은 애플리케이션 프로세서(AP)에는 내부에 NPU가 있지만 이러한 NPU는 상시 감지를 위한 이상적인 수단이 아닙니다. 일반적인 AP는 CPU, ISP, GPU/DSP 및 NPU를 포함한 이기종 컴퓨팅 코어의 혼합입니다. 각 프로세서는 특정 컴퓨팅 및 잠재적으로 큰 처리 부하를 위해 설계되었습니다. 예를 들어 일반적인 범용 NPU는 약 5 TOPS/W의 일반적인 전력 소비와 약 10%의 사용률로 4-40 TOPS의 성능을 제공할 수 있습니다. 그러나 최악의 경우 워크로드를 처리하려면 다소 과도하게 설계해야 하므로 비효율적입니다.

항상 감지하는 신경망은 최소한의 처리가 필요하도록 특별히 만들어졌으며 일반적으로 GOPS로 측정됩니다. GOPS는 TOPS의 XNUMX/XNUMX입니다. 기존 AP의 NPU는 상시 감지 AI 처리가 가능하지만 여러 가지 이유로 올바른 선택이 아닙니다. 첫째, 전력 소비가 상당할 것입니다. 이는 배터리 수명 감소로 직접 변환되기 때문에 상시 작동 기능의 스타터가 아닙니다. 둘째, AP 기반 NPU는 일반적으로 다른 작업으로 바쁘기 때문에 다른 프로세스는 대기 시간을 늘리고 사용자 경험에 부정적인 영향을 미칠 수 있습니다. 마지막으로 개인 정보 보호 문제는 애플리케이션 프로세서 사용을 본질적으로 방해합니다. 이는 상시 감지 카메라 데이터가 시스템의 나머지 부분과 격리되어야 하고 장치 내에 저장되거나 장치 외부로 전송되어서는 안 되기 때문입니다. 이는 해당 데이터의 노출을 제한하고 악의적인 당사자가 데이터를 훔칠 가능성을 줄이기 위해 필요합니다.

따라서 솔루션은 최소 영역, 전력 및 대기 시간으로 상시 감지 네트워크를 처리하도록 특별히 설계 및 구현된 전용 NPU입니다. LittleNPU.

옵션 2

이 웨비나에서, Expedera 및 SemiWiki는 전용 LittleNPU가 있는 항상 감지하는 전용 하위 시스템이 어떻게 놀라운 사용자 경험을 제공하면서 전력, 대기 시간 및 개인 정보 보호 요구 사항을 해결할 수 있는지 살펴봅니다.

여기 등록

에 의해 발표
Sharad Chole, Expedera 수석 과학자 겸 공동 설립자

이 이야기에 대해
항상 감지하는 카메라는 항상 듣고 있는 Siri 또는 Google 음성 비서와 마찬가지로 스마트폰, 가전 제품 및 기타 소비자 장치에서 등장하고 있습니다. Always-on 기술은 사용자의 시선에 따라 장치의 자동 잠금 및 잠금 해제 또는 디스플레이 조정과 같은 기능을 허용하여 보다 자연스럽고 원활한 사용자 경험을 가능하게 합니다. 그러나 카메라 데이터에는 전문적인 인공 지능(AI) 처리가 필요한 품질, 풍부함 및 개인 정보 보호 문제가 있습니다. 그러나 기존 시스템 프로세서는 상시 감지 애플리케이션에 적합하지 않습니다.

NPU(신경망 처리 장치) 설계에 세심한 주의를 기울이지 않으면 상시 감지 하위 시스템이 과도한 전력을 소비하거나 과도한 대기 시간이 발생하거나 사용자의 개인 정보가 위험에 처해 사용자 경험이 만족스럽지 않게 됩니다. 상시 감지 데이터를 성능, 대기 시간 및 프라이버시 친화적인 방식으로 처리하기 위해 OEM은 전문화된 "LittleNPU" AI 프로세서로 전환하고 있습니다. 이 웨비나에서는 상시 감지 아키텍처를 살펴보고 사용 사례에 대해 논의하며 OEM, 칩 제조업체 및 시스템 설계자가 상시 작동 카메라 하위 시스템에서 NPU를 성공적으로 평가, 지정 및 배포할 수 있는 방법에 대한 팁을 제공합니다. .

익스페데라 소개
Expedera는 AI 추론 애플리케이션의 비용과 복잡성을 줄이면서 성능, 전력 및 대기 시간을 크게 개선할 수 있는 확장 가능한 신경 엔진 반도체 IP를 제공합니다. 제XNUMX자 실리콘 인증을 받은 Expedera의 솔루션은 우수한 성능을 제공하며 에지 노드와 스마트폰에서 자동차 및 데이터 센터에 이르기까지 광범위한 애플리케이션으로 확장 가능합니다. Expedera의 Origin™ 딥 러닝 가속기 제품은 쉽게 통합되고 쉽게 확장 가능하며 애플리케이션 요구 사항에 맞게 사용자 지정할 수 있습니다. 이 회사는 캘리포니아주 산타클라라에 본사를 두고 있습니다. 방문하다 expedera.com