의뢰받은 생성적 AI는 데이터에서 실행되며, 많은 조직에서는 GenAI를 고유한 독점 데이터와 결합할 때 가장 가치가 있다는 것을 알게 되었습니다. 그러나 거기에는 수수께끼가 있습니다. 조직이 비즈니스를 과도한 위험에 빠뜨리지 않고 어떻게 보물 창고를 활용할 수 있습니까?

많은 조직에서는 자체 독점 데이터와 함께 생성 AI를 언제, 어떻게 사용할지에 대한 구체적인 지침을 통해 이러한 문제를 해결했습니다. 다른 조직에서는 IP 유출이나 민감한 데이터 노출에 대한 우려로 사용을 전면적으로 금지했습니다.

하지만 데이터 센터나 워크스테이션의 방화벽 뒤에 이미 존재하는 쉬운 방법이 있다고 말하면 어떻게 될까요? 그리고 좋은 소식은 몇 달에 걸친 조달 주기나 최소 실행 가능 제품에 대한 실질적인 배포가 필요하지 않다는 것입니다. 확신이 없나요? 방법을 보여드리겠습니다.

1단계: 시험용으로 기존 하드웨어의 용도 변경

생성 AI로 수행하는 작업에 따라 파일럿 단계의 모든 하드웨어에서 워크로드를 실행할 수 있습니다. 어떻게? 이러한 모델에는 사실상 데이터 과학의 2단계가 있습니다. 첫 번째와 두 번째인 추론 및 검색 증강 생성(RAG)은 비교적 적당한 하드웨어 구성에서 수행할 수 있는 반면, 마지막 두 가지인 미세 조정/재훈련 및 새 모델 생성은 결과를 확인하기 위해 광범위한 인프라가 필요합니다. 게다가 모델의 크기는 다양할 수 있으며 모든 것이 "대형 언어 모델"일 필요는 없습니다. 결과적으로 매우 좁은 사용 사례를 목표로 하는 도메인별 및 기업별 "소형 언어 모델"을 통해 많은 조직이 성공을 거두는 것을 볼 수 있습니다. 즉, 서버의 용도를 변경하거나, 모델을 배포할 수 있는 워크스테이션을 찾거나, 모험심이 강하다면 LLaMA XNUMX를 노트북에 다운로드하여 가지고 놀 수도 있습니다. 이러한 수준의 실험을 지원하는 것은 실제로 그리 어렵지 않습니다.

2단계: 오픈소스 활용

아마도 GenAI만큼 가능성의 최첨단에 있는 오픈 소스 커뮤니티는 없을 것입니다. 우리는 적성과 적용성 측면에서 지구상에서 가장 큰 상용 배포에 필적하는 상대적으로 작은 모델을 보고 있습니다. 시작을 방해하는 유일한 것은 다운로드 속도입니다. 귀하가 원하는 대로 사용할 수 있는 수많은 오픈 소스 프로젝트가 있으므로 배포판을 선택하세요 그리고 가십시오. 다운로드하고 설치하면 GenAI의 첫 번째 단계인 추론이 효과적으로 활성화됩니다. 이론적으로는 실험이 여기서 멈출 수 있지만, 조금만 더 노력하면 진정한 마법을 풀 수 있다면 어떨까요?

3단계: 사용 사례 식별

이 단계를 건너뛰고 싶을 수도 있지만 권장하지는 않습니다. 해결하려는 사용 사례를 식별하세요. 다음 단계는 데이터 수집이며, 데이터로 보강하는 사전 훈련된 오픈 소스 LLM을 통해 올바른 결과를 제공하기 위해 올바른 데이터를 확보해야 합니다. 파일럿 사용자가 누구인지 파악하고 그들에게 중요한 것이 무엇인지 물어보십시오. 예를 들어 지원을 원하는 현재 프로젝트와 파일럿에 도움이 될 기존 데이터가 무엇인지 물어보십시오.

4단계: 검색 증강 생성(RAG) 활성화

모델에 데이터를 추가하는 것이 매우 어렵다고 생각할 수도 있습니다. 이는 일반적으로 데이터 과학자가 필요하다고 생각하는 일입니다. 하지만 추측해 보세요. 개발자가 있는 모든 조직은 검색 증강 생성(RAG)을 활성화할 수 있습니다. 실제로 많은 사용 사례에서는 이것이 생성 AI 모델에 데이터를 추가하기 위해 수행해야 할 전부일 수 있습니다. 어떻게 작동하나요? 효과적으로 RAG 문서, 이미지, 비디오와 같은 구조화되지 않은 데이터를 가져와서 인코딩하고 색인화하여 사용할 수 있도록 도와줍니다. 우리 이것을 직접 조종했습니다 LangChain과 같은 오픈 소스 기술을 사용하여 GenAI 모델이 XNUMX시간 이내에 데이터를 분석할 수 있는 벡터 데이터베이스를 생성합니다. 그 결과 완벽하게 작동하는 챗봇이 탄생했고, 이는 기록적인 시간 내에 이 개념을 입증했습니다.

GenAI 다이어그램 – 확대하려면 클릭하세요.

출처: 델 테크놀로지스

끝으로

GenAI의 고유한 요구 사항과 기능은 고유한 PoC 경험을 제공하며 즉각적인 가치를 제공하고 조직에 그 가치를 입증하기 위해 신속하게 시험할 수 있는 경험을 제공합니다. 이를 자체 환경에서 시험해 보면 퍼블릭 클라우드에서는 복제할 수 없는 보안 및 비용 효율성 측면에서 많은 이점을 얻을 수 있습니다.

퍼블릭 클라우드는 많은 면에서 훌륭하지만 PoC에 대한 비용은 즉시 지불하게 되며 신속한 엔지니어링 경험이 없는 사용자는 예산을 소진하기가 매우 쉽습니다. 또한 퍼블릭 클라우드는 민감한 독점 데이터에 대해 동일한 보호 장치를 제공하지 않습니다. 이로 인해 실제로 내부 사용자는 생성 AI 도구를 사용할 때마다 자신이 입력하는 데이터가 해당 특정 시스템에서 사용할 수 있는 "안전한" 데이터인지 여부를 깊이 생각하게 되므로 이동 속도가 느려질 수 있습니다. 반직관적으로 이는 데이터센터가 퍼블릭 클라우드에 비해 비정상적으로 높은 민첩성과 낮은 초기 비용을 제공하는 몇 안 되는 사례 중 하나입니다.

그러니 잠시 시간을 내어 PoC를 진행해 보세요. 다음 단계가 준비되면 기꺼이 도와드리겠습니다.

여기에서 자세히 알아볼 수 있습니다. Dell 생성적 AI 솔루션.

Dell Technologies에서 제공합니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2023/10/09/the_generative_ai_easy_button/