제퍼넷 로고

Grok-1 챗봇 코드가 공개되었습니다.

시간

약속대로 Elon Musk는 xAI 챗봇 Grok-1의 모델을 출시했습니다.

출시 Apache 2.0 라이센스에 따라 이제 기본 모델 가중치와 네트워크 아키텍처를 사용할 수 있습니다. 이 모델에는 314억 개의 매개변수가 있으며 이를 실행하려면 충분한 GPU 메모리를 갖춘 하드웨어가 필요합니다. 자연어 대화와 같은 애플리케이션에 맞게 미세 조정되었으며 2023년 XNUMX월에 종료된 사전 학습 단계의 원시 기본 모델 체크포인트를 나타냅니다.

비평가들은 벤치마크에서 상대적으로 부진한 성능을 지적했습니다. Grok은 대형 모델이지만 일부 엔지니어가 본 것보다 성능이 좋지 않습니다. “다른 모델에 비해 열악한 점을 생각하면 미세 조정이 얼마나 중요한지 정말 강조합니다. 매개변수 수가 훨씬 적은 모델은 많은 지표에서 모델보다 성능이 뛰어납니다.”라고 말했습니다. 포스터 어젯밤 Hacker News 포럼에서요.

더 작다는 것을 알 수 있을 것입니다. 한랭 한 북서풍 예를 들어 Grok-1과 성능이 동일합니다.

그 크기를 넣으려면 관점, 314억 개의 매개변수에서도 마지막 계산에서 4조 1.76억 개의 매개변수를 보유한 OpenAI의 GPT-XNUMX를 따라잡을 수 있는 수준입니다.

특히, 컷오프 시점이 있는 데이터에 대해 훈련된 기존 LLM과 달리 Grok은 X.com을 통해 모든 사람의 Xeets의 실시간 데이터 코퍼스에 액세스할 수 있습니다. 이는 앞으로 몇 가지 흥미로운 실험을 하게 될 것입니다. 댓글 작성자는 다음과 같이 언급했습니다. "트위터 트윗 데이터 자체는 매우 독특하고 설계상 짧기 때문에 LLM 교육에 도움이 되지 않습니다."

그록 머스크의 소셜 미디어 플랫폼인 X 사용자들에게는 친숙할 것이며, 구독자들은 챗봇에 질문을 하고 답변을 받을 수 있었습니다. xAI에 따르면, Grok은 The Hitchhiker's Guide to the Galaxy를 모델로 했습니다. "거의 모든 것에 답하기 위한 것이며, 훨씬 더 어려운 것은 어떤 질문을 해야 할지 제안하는 것입니다."

사용자가 귀가 접힌 사본을 훑어보면 은하수를 여행하는 히치하이커를 위한 가이드 라디오 스크립트, Fit the Tenth에는 다음과 같은 정의가 숨어 있습니다. 모든 문제에 대해 유용하거나 유익한 정보를 제공하지만 부정확한 경우에는 최소한 확실하게 부정확.

"큰 불일치가 있는 경우 항상 현실이 잘못되었습니다."

이번 출시는 OpenAI의 GPT-4 모델 출시 XNUMX주년에 이루어지며, 머스크가 이전 AI 친구들과 법적 다툼을 벌였던 배경은 여전히 ​​남아 있습니다. 이번 달 초에는 머스크, 오픈AI 고소, 이름에도 불구하고 회사에 대해 거의 공개되지 않았다고 주장합니다. 오픈AI 응답 머스크가 자신의 계획을 완전히 알고 있었고 이를 테슬라에 통합하기를 원했다고 주장하면서 수많은 이메일을 공개했습니다.

OpenOcean의 총괄 파트너인 Patrik Backman은 Grok-1 출시에 대해 다음과 같이 말했습니다. “Elon Musk는 자신의 원칙을 실행에 옮기고 있습니다. 이익 중심의 조직으로 변모했다는 이유로 OpenAI를 고소한다면 동일한 이상을 고수할 준비가 되어 있어야 합니다.”

~하지 않았다. xAI가 출시한 것도 주목할 만합니다. Grok-1 가중치는 시중에 나와 있지만 훈련에 사용되는 데이터는 동일한 라이센스 하에서 사용할 수 없으므로 AI 전문가 Gary Marcus는 경구: “부분적으로 OpenAI.”

오픈소스 생성 AI 도구는 논란의 여지가 있는 것으로 입증되었습니다. 일부 개발자는 기술을 사용 가능하게 하면 남용될 위험이 있다고 걱정하고 다른 개발자는 투명성의 고유한 이점을 지적합니다.

메타 공유 - 일종의 – 작년에 Llama 2 모델이 출시되었고 다른 회사들도 그 뒤를 따랐습니다. 반면 OpenAI는 확실히 그렇지 않습니다.

Grok-1 뒤에 있는 무게를 개방함으로써 머스크는 OpenAI라는 독점 세계의 반대편 진영에 깃발을 꽂으려고 시도하고 있습니다.

머스크가 만지는 모든 것과 마찬가지로 궁극적인 성능은 어느 쪽이든 갈 수 있습니다. ®

spot_img

최신 인텔리전스

spot_img