Mercedes' Drive Pilot 및 Tesla의 FSD와 같은 최신 첨단 운전자 지원 시스템(ADAS)은 SAE 레벨 3 자율 주행을 수행하며, 차량에서 요구하는 경우 운전자는 제어권을 되찾을 준비가 되어 있습니다. 완전하고 무조건적인 자율성인 레벨 5에 도달한다는 것은 기존 기술이나 기존 접근 방식으로는 해결할 수 없는 새로운 차원의 도전에 직면한다는 의미입니다. 실리콘 관점에서 성능, 메모리 사용량, 상호 연결, 칩 면적 및 전력 소비를 확장하려면 SoC가 필요합니다. 새로운 백서에서 신경망 처리 IP 회사 Expedera는 레벨 5 자율 주행 솔루션을 위한 매우 효율적인 이기종 SoC를 구상하여 실현 가능한 솔루션에서 전력 소비를 줄이면서 AI 운영을 증가시킵니다.
TOPS는 여행의 시작일 뿐입니다
인공지능(AI) 기술은 자율주행 논의의 핵심이다. 센서, 처리 및 제어 요소는 차량의 모든 움직임을 신중하게 조정해야 합니다. 그러나 불타는 질문이 있습니다. 레벨 5에 도달하는 데 얼마나 많은 AI 처리가 필요합니까?
5명에게 물으면 3가지 다른 대답이 돌아옵니다. 일반적으로 공통점이 있습니다. 큰 숫자입니다. 최근까지 대화는 TOPS 또는 초당 수조 회의 작업이었습니다. 일부 관찰자는 레벨 4에서 초당 1~XNUMX개의 POPS(페타 작업)가 필요하다고 말합니다. 올해 초 한 SoC 공급업체가 XNUMX POPS 성능을 갖춘 자율 주행 애플리케이션용 칩을 발표한 이후로 별 문제가 아닌 것처럼 들릴 수도 있습니다. 그들은 이것을 "바퀴 달린 AI 데이터 센터"라고 설명합니다. 그러나 그들의 전력 소비가 얼마인지 물었을 때, 그들은 덜 솔직합니다. 트랜지스터 수 또는 다이 크기도 마찬가지입니다. 아마도 엄청날 것입니다.
이는 데이터 센터의 문제가 아니라 자동차에 있는 문제입니다. 자율 주행 전자 장치에 들어가는 XNUMX와트의 전력과 무게는 전기 자동차 범위를 줄이고 더 큰 다이 크기는 웨이퍼 및 패키지 비용을 증가시킵니다. 더 크고 복잡한 칩 풋프린트는 종종 더 높은 온칩 대기 시간을 의미합니다. 다른 개선 없이 AI 추론 TOPS를 확장하는 것은 곧 벽에 부딪힐 것입니다.
자율 주행 처리 파이프라인 워크로드
더 많은 TOPS를 보유한다고 해서 컴퓨팅 워크로드에 대한 유용한 정보가 표시되지 않는다는 것은 아닙니다. 어떤 센서 페이로드가 더 나은 정보를 제공하는지, 어떤 AI 모델이 자율 주행 소프트웨어 스택에서 가장 잘 수행되는지, 그리고 궁극적으로 어떤 형태를 취하는지 등 알려지지 않은 것이 많습니다. Expedera의 백서는 개념도에서 시작하여 답을 찾는 처리 파이프라인을 심층적으로 살펴봅니다.
센서 패키지의 변화가 앞서 있습니다. 카메라 전용 시스템과 이 시스템이 안전을 보장하는 데 필요한 모든 시나리오를 감지할 수 있는지 여부에 대한 논쟁이 있습니다. 다양한 유형과 더 높은 해상도의 더 많은 센서가 나타나 처리 요구 사항을 높일 것입니다. 결과적으로 더 집중적인 AI 모델이 필요할 것이며 Expedera가 고객 대화를 기반으로 한 흥미로운 관찰에 따르면 자율 주행 처리 파이프라인에는 XNUMX개, XNUMX개 또는 그 이상의 AI 모델이 동시에 작동할 수 있습니다.
Expedera는 백서에서 이러한 각 단계를 확장하여 컴퓨팅 집약적 작업이 있는 위치를 살펴봅니다. 이 자율 주행 워크로드를 처리하기 위해 AI 운영이 XNUMX~XNUMX배 증가할 것으로 예상합니다. 동시에 실현 가능한 구현을 위해서는 전력 소비(열 설계 전력 또는 TDP로 측정)가 한 차원 더 낮아야 합니다. Expedera에 따르면 이러한 결합된 효과는 차량에서 AI 추론을 위한 도구로 사용될 때 GPU를 먼지에 빠뜨립니다.
매우 효율적인 규모에 대한 이기종 AI 추론
보다 효율적인 AI 추론에서 GPU를 대체할 수 있는 것은 무엇입니까? Expedera는 기존 NPU 하드웨어의 한계를 극복한 후 매우 효율적인 이기종 SoC의 일부인 신경망 처리 장치(NPU)를 식별합니다. 확장은 대기 시간을 늘리고 결정성을 낮춥니다. 하드웨어 사용률은 낮고 30~40%에 불과하며 구동 영역과 전력 소비가 증가합니다. 다중 모델 실행은 스케줄링 및 메모리 사용에 문제가 있습니다. 그리고 워크로드에 맞게 TOPS를 파티셔닝하는 것은 맞춤형 SoC 아키텍처에서 선택한 범위 내에서 불가능할 수 있습니다.
Expedera는 고객과의 매우 효율적인 이기종 SoC 토론에서 다음과 같은 몇 가지 주제를 확인합니다.
- 작업이 예측 가능하게 시작 및 종료되고 모델 및 워크로드에 맞게 작업을 재정렬할 수 있는 간단한 런타임을 사용하여 Fire-and-Forget 작업 일정을 잡는 것이 중요합니다.
- 독립적이고 격리된 AI 추론 엔진은 필수이며, 여기서 사용 가능한 TOPS는 구성 가능한 처리 조각으로 분할되어 작업 그룹에 전용됩니다.
- 고해상도, 장거리 센서는 신경망에서 더 많은 중간 데이터를 생성하여 DDR 메모리를 초과 할당할 수 있습니다.
- 낮은 성능 수준의 SoC에서 잘 작동했던 IP 블록은 확장할 때 실현할 수 없는 것으로 판명되어 너무 많은 영역을 차지하거나 너무 많은 전력을 사용하거나 둘 다 차지합니다.
Expedera의 공동 설계 하드웨어 및 소프트웨어 신경망 처리 솔루션은 경쟁 제품보다 약 2.7배 더 나은 새로운 수준의 TOPS 면적 밀도를 달성하고 하드웨어 활용도를 최대 90%까지 높입니다. 또한 OEM은 SoC를 차별화하고 다양한 AI 모델을 탐색할 수 있으므로 모델이 레벨 5로 변경 및 성장하는 과정에서 영향의 위험을 피할 수 있습니다.
여기에서 다운로드할 수 있는 Expedera 백서 자체에 대한 솔루션 및 레벨 5 자율 주행을 위한 초효율 이기종 SoC에 대한 논의에 대한 자세한 내용을 저장할 것입니다.
다음을 통해이 게시물 공유 :