Zephyrnet-logo

Generatieve AI: moeten we door LLM aangedreven platforms bouwen of kopen?

Datum:

Mankracht, budget en tijd!!

AI-technologie is van onschatbare waarde geweest voor bedrijven in alle sectoren. Het afgelopen jaar is AI nog effectiever geworden.

Volgens het verkennen van onderwerpen, meer dan 250 miljoen bedrijven over de hele wereld gebruiken AI. Een van de manieren waarop ze hiervan profiteren is met generatieve AI-technologie.

Bij het aangaan de generatieve AI-reisHet zorgvuldig beoordelen van middelen, expertise, budget en tijdlijnen is van cruciaal belang. Het bouwen van een intern model vereist diepgaande kennis, hoge kosten en langdurige ontwikkeling, waardoor organisaties gedwongen worden een cruciale keuze te maken: zwaar investeren in op maat gemaakte creatie of gebruikmaken van de snelheid en toegankelijkheid van kant-en-klare oplossingen.

Voordat ik deze blog schreef, heb ik contact opgenomen met Ragoth Sundararajan, Vice President van Advanced Analytics & generatieve AI bij IndiumSoftware. Terwijl ik mijn ideeën uitlegde, bedacht ik het onderzoek, en dit is wat hij mij vroeg: een reeks vragen.

“Als we 'bouwen versus kopen' vragen, moeten we het uitgangspunt duidelijk specificeren. Welk deel van de Gen AI-modellen overwegen we? De gigantische, vooraf getrainde modellen zoals GPT of Llama zijn bijvoorbeeld voor de meeste mensen geen optie, omdat de kosten onbetaalbaar zijn. Daar moeten we ‘kopen’ als de toegang tot dergelijke modellen niet gratis is. Als je het hebt over 'bouwen', bedoel je dan maatwerk of verfijning bovenop een vooraf opgeleide LLM?'

Hij heeft gelijk als hij zegt dat de ‘build vs. buy’-vraag bij generatieve AI zorgvuldig moet worden geformuleerd. Als het gaat om gigantische, vooraf getrainde modellen zoals GPT-3 of Llama, is bouwen voor de meesten eenvoudigweg niet haalbaar vanwege de enorme kosten en expertise die hiervoor nodig zijn. In deze gevallen is het kopen of gebruiken van vooraf getrainde modellen via API's de enige haalbare optie. Het gesprek wordt echter genuanceerder als we kijken naar maatwerk en verfijning bovenop deze vooraf getrainde modellen.

Hier is een meer technische analyse!

Gen AI technische specificaties

  • Fundamentele modelselectie: De keuze voor een vooraf getraind model hangt sterk af van uw specifieke behoeften en middelen. GPT-3 en Jurassic-1 Jumbo zijn krachtig maar duur, terwijl kleinere modellen zoals BLOOM en EleutherAI's WuDao 2.0 meer betaalbare alternatieven bieden met behoorlijke prestaties.
  • Betekenis van RAG (Retrieval-Augmented Generation): RAG integreert ophaaltechnieken in het generatieproces, waardoor modellen toegang krijgen tot relevante informatie uit externe databases en deze kunnen benutten. Dit kan de feitelijke nauwkeurigheid en taakspecifieke prestaties aanzienlijk verbeteren. Stel je jouw AI voor als een detective, die door een enorme bibliotheek met tekst en code zoekt naar aanwijzingen. RAG stelt het in staat om precies dat te doen, door fragmenten uit deze bibliotheek te verweven tot zijn eigen creatieve tapijt. Deze aanpak is perfect als u wilt dat uw AI feitelijk accuraat is en gebaseerd is op gegevens uit de echte wereld.
  • Implementatiecomplexiteiten: Het verfijnen en aanpassen van vooraf getrainde modellen brengt technische uitdagingen met zich mee. Je hebt expertise nodig op het gebied van deep learning-frameworks zoals TensorFlow of PyTorch, toegang tot krachtige GPU's of TPU's en mogelijk aanzienlijke gegevensbronnen voor afstemming.
  • Productioniseren en LMOps: Het verplaatsen van een verfijnd model naar productie vereist een robuuste infrastructuur, monitoring en operationele processen. Dit omvat versiebeheer, beveiligingsmaatregelen en continu prestatiemonitoring (LMops) om de stabiliteit en betrouwbaarheid van het model te garanderen.
  • Snelle techniek: Beschouw aanwijzingen als het gefluister in het oor van uw AI, dat zijn creatieve reis begeleidt. Deze aanpak omvat het opstellen van de perfecte reeks instructies, zoals een kaart die leidt naar de creatieve schat die u zoekt. Het is een delicate kunst, maar als je het onder de knie hebt, ontgrendelt het een wereld aan mogelijkheden, waardoor je de verbeelding van je AI nauwkeurig kunt sturen.

Bouw versus koop in verschillende contexten

  • Op maat gemaakte, vooraf getrainde modellen bouwen: Alleen haalbaar voor grote organisaties met diepe zakken en expertise. Biedt maximale controle en maatwerk, maar brengt hoge kosten met zich mee.
  • Het verfijnen van vooraf getrainde modellen: Meer toegankelijke optie voor kleinere teams en startups. Vereist technische expertise, maar biedt een goede balans tussen prestaties en kosten. Deze klassieke aanpak is als het toevoegen van een persoonlijk tintje aan een kant-en-klaar pak. U past de interne parameters van het model aan, zoals het aanpassen van de kraag of de revers, om aan uw specifieke behoeften te voldoen. Het is een krachtig en veelzijdig hulpmiddel, maar vereist een diep begrip van de innerlijke werking van het model.
  • Gebruik van vooraf getrainde modellen via API's: Gemakkelijkste en snelste optie, maar beperkte aanpassing en controle. De kosten kunnen variëren afhankelijk van het gebruik.

Uiteindelijk hangt de beslissing om te bouwen versus te kopen af ​​van uw specifieke behoeften, middelen en technische mogelijkheden. Als u sterk op maat gemaakte modellen nodig heeft voor kritieke taken, kan bouwen ondanks de uitdagingen gerechtvaardigd zijn. In de meeste gevallen biedt het verfijnen van vooraf getrainde modellen of het benutten van API-toegang echter een meer praktische en kosteneffectieve aanpak. Ondanks deze hindernissen onderstreept het potentieel voor op maat gemaakte oplossingen en eigen technologie de aantrekkingskracht van het aangaan van deze transformatieve reis.

VOORDELEN NADELEN
Maatwerk en controle Technische expertise vereist
Integratie flexibiliteit Onderhoud en upgrades
Intellectueel eigendom Hoge kosten
Schaalbaarheid Vertraging van de time-to-market

Een generatief AI-platform kopen

Kiezen voor een kant-en-klaar platform biedt snelle implementatie en directe toegang tot een reeks functionaliteiten, waardoor de time-to-market wordt geminimaliseerd en de ROI wordt versneld. Bovendien verlicht het de last van de ontwikkeling van infrastructuur en het inhuren van gespecialiseerde medewerkers, waardoor bedrijven middelen elders kunnen inzetten. De zekerheid van voortdurende ondersteuning, onderhoud en gegevensbeveiliging door gerenommeerde leveranciers onderstreept nog eens de aantrekkingskracht van deze aanpak. Beperkingen op het gebied van maatwerk en de afhankelijkheid van de leverancier voor updates en verbeteringen brengen echter potentiële nadelen met zich mee, naast de kostenimplicaties van abonnementskosten op de lange termijn.

Uiteindelijk hangt de beslissing af van een zorgvuldige balans tussen behoeften, middelen en risicotolerantie. Terwijl kant-en-klare oplossingen snelheid en gemak bieden, bieden op maat gemaakte modellen meer flexibiliteit en controle over op maat gemaakte workflows. Bedrijven moeten hun prioriteiten zorgvuldig beoordelen, rekening houdend met schaalbaarheid, duurzaamheid op de lange termijn en afstemming op budgettaire beperkingen. Door de voor- en nadelen van elke aanpak grondig af te wegen, kunnen organisaties een weloverwogen beslissing nemen die het beste past bij hun unieke omstandigheden en doelstellingen.

VOORDELEN NADELEN
Snelle implementatie en kant-en-klare functionaliteit Beperkte maatwerk
Verminderde ontwikkelingsinspanning Afhankelijkheid van leverancier
Ondersteuning, onderhoud en betrouwbaarheid Kosten
Gegevens- en privacybeveiliging Risico op leverancierslock-in

Aanvullende overwegingen

  • Hybride aanpak: Je kunt elementen van beide benaderingen combineren door een aangepast model te bouwen bovenop een vooraf gebouwd platform. Dit kan u het beste van twee werelden bieden: flexibiliteit en snelheid.
  • Open source-modellen: Overweeg het gebruik van open-source LLM's als bouwstenen voor uw oplossing op maat. Dit kan een kosteneffectieve manier zijn om aan de slag te gaan met generatieve AI.
  • Werk samen met LLM-experts: Zoek expertise bij gespecialiseerde LLM-adviesbureaus om uw reis te begeleiden en u te helpen de beste beslissing voor uw organisatie te nemen.

Maar het is niet alleen maar zonneschijn en regenbogen: strategische besluitvorming

Maatwerk versus live gaan

  • Organisaties die op zoek zijn naar volledige controle en maatwerk kunnen neigen naar bouwen.
  • Degenen die prioriteit geven aan snelle implementatie, kostenefficiëntie en eenvoudiger implementatie, geven misschien de voorkeur aan kopen.

Expertise en toewijzing van middelen:

  • Bouwen vereist een toegewijd team met gespecialiseerde vaardigheden, waardoor middelen kunnen worden afgeleid van kerncompetenties.
  • Door te kopen kunnen organisaties de expertise van AI-specialisten benutten zonder te investeren in een intern team.

Risicobeperking:

  • Organisaties die moeite hebben gehad met interne ontwikkeling of met onzekerheden te maken hebben, kunnen een meer praktische en risicobeperkende oplossing kopen.

Schaalbaarheid en toekomstbestendigheid:

  • Kopen biedt schaalbaarheid met een pay-as-you-go-aanpak, waardoor organisaties effectief kunnen omgaan met de toenemende gebruikerseisen.

De juiste balans vinden

Het navigeren door het ‘bouwen versus kopen’-raadsel voor generatieve AI-tools hangt af van een delicaat evenwicht tussen strategische doelstellingen, beperkte middelen en implementatietijdlijnen. Bouwen levert ongeëvenaard maatwerk op, wat omvangrijke investeringen in kennis en infrastructuur vergt. Omgekeerd biedt het kopen van kant-en-klare oplossingen een snelle implementatie en naadloze ondersteuning, waardoor snellere toegang tot de allernieuwste technologie mogelijk wordt. Hoewel inkoop vaak de voorkeur geniet van organisaties die op zoek zijn naar een snelle adoptie en een efficiënte toewijzing van middelen, betekent dit wel dat ze enige controle over maatwerk moeten opgeven. Uiteindelijk komt de optimale keuze voort uit een nauwgezette beoordeling van specifieke behoeften, capaciteiten en langetermijnvisie.

Beveiliging, leveranciers en uw pad naar GenAI-succes!

Beveiligings- en privacyoverwegingen

Ongeacht het gekozen pad zijn robuuste beveiligingsmaatregelen en naleving van de regelgeving op het gebied van gegevensbescherming van het grootste belang. Het bouwen van een generatief AI-platform vereist dat organisaties deze maatregelen onafhankelijk implementeren, terwijl gerenommeerde leveranciers prioriteit geven aan gegevens- en privacybeveiliging in kant-en-klare oplossingen.

Het belang van het kiezen van de juiste leverancier

Het succes van een aangekocht generatief AI-platform hangt af van het selecteren van een betrouwbare leverancier met een bewezen staat van dienst. Voortdurende ondersteuning, updates en afstemming op technologische trends zijn cruciale factoren. Rigoureus onderzoek is nodig om een ​​bedrijf te identificeren dat aan de huidige behoeften voldoet en een langdurige relatie kan onderhouden.

Het aanpakken van unieke vereisten

Hoewel kant-en-klare oplossingen kant-en-klare functionaliteit bieden, moeten organisaties met unieke of gespecialiseerde behoeften de aanpassingsbeperkingen zorgvuldig evalueren. Bouwen kan een aantrekkelijkere optie worden als een oplossing niet voldoende aansluit bij specifieke eisen.

Gezien het tempo van de technologische vooruitgang moeten organisaties oplossingen kiezen die in lijn blijven met de evoluerende trends. Het kopen van een generatieve AI-platformdienst kan continue updates bieden, waardoor de architectuur up-to-date blijft.

Laatste gedachten: een strategische benadering van generatieve AI

Navigeren door het raadsel ‘bouwen versus kopen’ generatieve AI vergt een genuanceerde aanpak. Hoewel vooraf gebouwde LLM-platforms een snelle implementatie en voortdurende ondersteuning bieden, voldoet hun beperkte aanpassing mogelijk niet aan uw specifieke behoeften. Het opbouwen van uw eigen LLM, met zijn ongeëvenaarde controle en potentieel op het gebied van intellectueel eigendom, vereist aanzienlijke middelen en expertise. Voor gigantische, vooraf getrainde modellen zoals GPT of LaMDA is kopen vaak de enige realistische optie vanwege hun onbetaalbare kosten. Uiteindelijk hangt de beslissing af van uw specifieke doelen: geeft u prioriteit aan verfijning en maatwerk bovenop een bestaande LLM, of snelle toegang tot kant-en-klare functionaliteit? Kies verstandig, rekening houdend met uw middelen, risicotolerantie en het steeds evoluerende landschap van generatieve AI. Vergeet niet dat jouw pad niet alleen over technologie gaat; het gaat over het bouwen van een toekomst die wordt aangedreven door de magie van AI.

spot_img

Laatste intelligentie

spot_img