제퍼넷 로고

한 번 훈련하면 거의 모든 곳에서 실행: Qualcomm의 휴대폰, PC 칩에 AI 도입

시간

Qualcomm은 개발자가 실리콘 포트폴리오 전반에 걸쳐 AI 응용 프로그램을 구축하고 최적화하기를 원할 경우 Snapdragon 거대 기업이 소프트웨어 스택 부서에서 경쟁업체가 준비한 것보다 더 간단하고 이상적으로는 더 나은 경험을 제공해야 한다는 것을 알고 있습니다.

그래서 수요일에 팹리스 칩 디자이너가 퀄컴 AI 스택, 무엇보다도 개발자가 한 장치 유형(예: 스마트폰)용으로 개발한 AI 모델을 가져와 다른 장치에 쉽게 적용할 수 있도록 하는 것을 목표로 합니다. PC처럼. 이 스택은 노트북, 휴대전화, 자동차 엔터테인먼트 등 Qualcomm의 시스템 온칩으로 구동되는 장치에만 해당됩니다.

Qualcomm은 많은 Android 휴대폰을 지원하는 모바일 Arm 기반 Snapdragon 칩으로 가장 잘 알려져 있지만 이 칩 하우스는 개인용 컴퓨터, 사물 인터넷 및 자동차와 같은 다른 시장으로 성장하기를 희망하고 있습니다. 이 확장은 Qualcomm이 다음과 같은 회사와 경쟁하고 있음을 의미합니다. Apple, 인텔, 엔비디아, AMD, 그리고 다른 사람들은 훨씬 더 큰 전장에서.

이들 모두가 AI가 자동차와 IoT 장치에서 PC와 스마트폰에 이르기까지 모든 분야의 핵심적인 미래 워크로드라는 데 동의한다는 점을 감안할 때 Qualcomm은 회사의 모든 기존 도구, 프레임워크, 런타임 및 기타 도구를 통합하는 통합 소프트웨어 스택으로 두각을 나타내기를 희망하고 있습니다. 프로세서 제품군에서 AI 애플리케이션을 개발하기 위한 소프트웨어 종류.

Qualcomm은 이 모든 것이 전화 및 PC에서 자동차 및 데이터 센터에 이르기까지 모든 분야의 AI 개발을 포괄할 것이라고 생각합니다. 클릭하면 확대됩니다.

기자들과의 브리핑에서 Qualcomm의 임원 Ziad Asghar는 회사의 AI 소프트웨어 노력의 통합이 핵심 칩 기술을 채택하고 맞춤화를 통해 이를 다양한 시장에 적용하는 방법과 일치한다고 말했습니다.

Qualcomm Technologies의 제품 관리 부사장인 Asghar는 "이제 한 영역에 대한 투자가 실제로 모든 다른 영역으로 매우 강력하게 전파될 수 있기 때문에 투자는 우리에게 매우 긍정적인 이점이 됩니다."라고 말했습니다.

툴킷 열기

Qualcomm AI Stack을 통해 회사는 이제 여러 시장 영역에 대해 하나의 기술 세트를 사용하는 이러한 이점을 소프트웨어 측면의 개발자 및 장치 제조업체에게 제공하기를 희망하고 있습니다.

한 유형의 Qualcomm 칩에서 다른 유형으로 AI 응용 프로그램을 적용하는 데 필요한 작업의 양을 줄임으로써 이 사업은 값비싼 엔지니어링 리소스에 드는 비용을 회사에 절약할 수 있다고 약속합니다.

Asghar는 "우리는 OEM 기반이 [비반복 엔지니어링] 측면에서 실제로 더 많은 비용을 지출하지 않고도 상당한 범위에서 그렇게 할 수 있는 능력을 제공하고 있습니다."라고 말했습니다.

Asghar에 따르면 Qualcomm AI Stack을 경쟁 소프트웨어 스택과 차별화하는 것은 Qualcomm AI Model Efficiency Toolkit입니다. 가장 중요한 기능 중 하나는 클라우드에서 훈련된 전력 소모가 많은 AI 모델을 32비트 부동 소수점 정밀도에서 8비트 정수 형식으로 압축하여 저전력 장치에서 잘 실행할 수 있다는 것입니다.

"이렇게 하면 이와 같은 시나리오에서 많은 경우 전력 소비가 최대 XNUMX배 향상되는 전력 소비 측면에서 엄청난 이점을 가져올 수 있습니다."라고 그는 말했습니다.

Qualcomm은 또한 개발자가 더 높은 정확도, 더 낮은 대기 시간 또는 더 낮은 전력과 같은 다양한 제약 조건을 사용하여 AI 모델을 최적화할 수 있도록 하는 Neural Architecture Search 도구를 활용하고 있습니다. 이를 통해 개발자는 "더 낮은 지연 시간을 제공할 수 있는 모델 또는 더 낮은 전력에서 동일한 작업을 수행할 수 있는 모델 또는 훨씬 더 높은 정확도를 얻을 수 있습니다."라고 Asghar는 말했습니다.

Qualcomm AI 스택의 기본 소프트웨어 중 많은 부분이 새로운 것은 아니지만 Asghar는 이러한 요소의 통합을 개발자와 장치 제조업체를 위한 "도약"이라고 불렀으며 미래에 도메인별 소프트웨어 개발 키트의 기반이 될 것이라고 말했습니다. 시장이 형성됩니다.

"우리가 구상하는 것은 이제 모든 다양한 비즈니스 라인에 걸쳐 통합된 매우 견고한 기반을 바탕으로 고객이 뭉치는 곳에서 새로운 버티컬이 등장함에 따라 이러한 도메인별 SDK를 더 많이 작성할 수 있다는 것입니다." 그는 말했다. ®

spot_img

최신 인텔리전스

spot_img