Meta는 더 나은 추천을 위해 GenAI 칩에 초점을 맞췄습니다

메타는 소개 AI 작업 전용 독점 칩의 최신 버전입니다. 내부적으로 개발된 MTIA(Meta Training and Inference Accelerator) v2 칩은 이전 버전인 v1 칩보다 두 배의 처리 능력과 메모리 대역폭을 제공합니다.

이 칩은 AI 애플리케이션을 지원하기 위해 Meta의 데이터 센터 전체에 구현될 것이며, 특히 플랫폼에서 사용자 참여를 높이는 딥 러닝 추천 시스템을 향상시킬 것입니다.

Meta는 이러한 새로운 칩이 Facebook 및 Instagram과 같은 플랫폼 광고에 필수적인 간단하고 복잡한 순위 및 추천 알고리즘을 모두 관리하는 데 능숙하다는 점을 강조했습니다. Meta는 하드웨어와 소프트웨어 구성 요소를 모두 관리함으로써 효율성 측면에서 표준 상용 GPU를 능가할 수 있다고 주장합니다.

Meta의 관련 게시물은 "우리는 이 프로그램을 통해 보다 집약적인 AI 워크로드를 위해 더 많은 컴퓨팅 성능에 전념하고 투자할 수 있게 되면서 이미 긍정적인 결과를 보고 있습니다."라고 밝혔습니다.

Meta는 지난 3월 회사 고유의 컴퓨팅 요구 사항에 맞게 특별히 제작된 최초의 독점 칩을 출시했습니다. Meta가 AI 개발에 집중함에 따라 전문 하드웨어에 대한 필요성도 커졌습니다. 이 회사는 최근 Llama XNUMX와 같은 고급 AI 모델 교육에 활용하는 AI 인프라를 선보였습니다. 엔비디아 구성 요소.

Meta는 더 나은 추천을 위해 GenAI 칩에 초점을 맞췄습니다. — MTIA 칩은 추가 개발이 예정되어 있으며 Meta는 생성 AI 작업을 지원하기 위해 하드웨어를 강화할 계획입니다.이미지 크레딧)

Omdia 조사에 따르면 Meta는 지난해 Nvidia의 주요 고객 중 하나였으며 AI 모델 훈련을 위해 상당한 양의 H100 GPU를 인수했습니다. Meta는 맞춤형 실리콘 이니셔티브가 기존 시스템 내에서 이미 사용 중인 Nvidia 하드웨어를 교체하는 것이 아니라 보완하도록 설계되었음을 밝혔습니다.

Meta는 "맞춤형 실리콘에 대한 야망을 충족한다는 것은 컴퓨팅 실리콘뿐만 아니라 메모리 대역폭, 네트워킹 및 용량은 물론 기타 차세대 하드웨어 시스템에도 투자하는 것을 의미합니다."라고 말했습니다.

MTIA 칩은 추가 개발이 예정되어 있으며 Meta는 생성 AI 작업을 지원하기 위해 하드웨어를 강화할 계획입니다. MTIA v2의 도입은 맞춤형 칩 기술에 대한 Meta의 가장 최근 진출을 나타내며, 주요 기술 회사가 자체 하드웨어 솔루션을 제작하는 광범위한 업계 추세를 반영합니다.

“현재 GenAI 워크로드 지원을 포함하여 MTIA의 범위 확장을 목표로 하는 여러 프로그램이 진행 중입니다. 그리고 우리는 이 여정의 시작에 불과합니다.”

-메타

예를 들어, 지난주 Google Cloud는 Google Cloud Next 2024 이벤트에서 첫 번째 Arm 기반 CPU를 출시했습니다. 마찬가지로 Microsoft는 Maia 및 Cobalt 자체 CPU를 개발했으며 Amazon은 생성 AI 애플리케이션을 촉진하기 위해 AWS에서 엔지니어링한 Graviton 및 Trainium 칩 제품군을 활용하고 있습니다.

주요 이미지 크레딧 : 로라 오켈/언스플래시