제퍼넷 로고

LLM 지원 AI 가속기 설계 자동화(Georgia Tech)

시간

Georgia Institute of Technology의 연구원들은 "GPT4AIGChip: 대규모 언어 모델을 통한 차세대 AI 가속기 설계 자동화를 향하여"라는 제목의 기술 논문을 발표했습니다.

요약 :

“인공 지능(AI)의 놀라운 기능과 복잡한 특성으로 인해 전문 AI 가속기에 대한 필요성이 극적으로 높아졌습니다. 그럼에도 불구하고 다양한 AI 워크로드를 위한 이러한 가속기를 설계하는 것은 여전히 ​​노동 집약적이며 시간 집약적입니다. 기존 설계 탐색 및 자동화 도구는 광범위한 인간 개입의 필요성을 부분적으로 완화할 수 있지만 여전히 상당한 하드웨어 전문 지식을 요구하므로 비전문가에게 장벽이 되고 AI 가속기 개발을 방해합니다. 인간의 언어 지시에 따라 고품질 콘텐츠를 생성하는 대규모 언어 모델(LLM)의 놀라운 잠재력에 동기를 부여받아 우리는 LLM을 활용하여 AI 가속기 설계를 자동화할 수 있는 가능성을 조사하기 위해 이 작업을 시작했습니다. 이러한 노력을 통해 우리는 도메인별 언어 대신 인간의 자연어를 활용하여 AI 가속기 설계를 민주화하기 위한 프레임워크인 GPT4AIGChip을 개발합니다. 특히, 우리는 먼저 AI 가속기 설계에 대한 LLM의 한계와 역량에 대한 심층 조사를 수행하여 현재 위치에 대한 이해를 돕고 LLM 기반 자동화된 AI 가속기 설계에 대한 통찰력을 얻습니다. 또한 위의 통찰력에서 영감을 얻어 LLM이 고품질 AI 가속기 설계를 생성하도록 안내하는 상황 내 학습을 활용하는 자동화된 데모 증강 프롬프트 생성 파이프라인을 특징으로 하는 GPT4AIGChip이라는 프레임워크를 개발합니다. 우리가 아는 한, 이 작업은 LLM 기반 자동화 AI 가속기 생성을 위한 효과적인 파이프라인을 시연한 최초의 작업입니다. 따라서 우리는 우리의 통찰력과 프레임워크가 차세대 LLM 기반 설계 자동화 도구의 혁신을 위한 촉매제 역할을 할 수 있을 것으로 기대합니다.”

찾기 여기에 기술 문서가 있습니다. 2023년 XNUMX월 출판(사전 인쇄).

Fu, Yonggan, Yongan Zhang, Zhongzhi Yu, Sixu Li, Zhifan Ye, Chaojian Li, Cheng Wan 및 Yingyan Lin. “GPT4AIGChip: 대규모 언어 모델을 통한 차세대 AI 가속기 설계 자동화를 향하여.” arXiv 사전 인쇄 arXiv:2309.10730 (2023).

관련 독서
AI 워크로드에 대한 프로세서 트레이드오프
기술 발전과 수요 사이의 격차가 커지고 있으며 이를 메우는 것이 점점 더 어려워지고 있습니다.
전문화 대. 프로세서의 일반화
고성능과 저전력으로 엣지에서 대량 맞춤화를 달성하려면 무엇이 필요합니까?

spot_img

최신 인텔리전스

spot_img