Het implementeren van generatieve AI kan een kip-en-ei-raadsel lijken. In een recente IBM Institute for Business Value Uit het onderzoek blijkt dat 64% van de CEO's zegt dat ze apps moeten moderniseren vaardigheden ze zouden generatieve AI kunnen gebruiken. Maar tegelijkertijd heeft generatieve AI de kracht om dat te doen transformeer het proces van applicatiemodernisering door middel van code reverse engineering, codegeneratie, codeconversie van de ene taal naar de andere, het definiëren van de moderniseringsworkflow en andere geautomatiseerde processen. Hier leest u hoe CTO's en CIO's hun technologie- en datadomeinen kunnen evalueren, de kansen kunnen beoordelen en een pad voorwaarts kunnen uitstippelen.

CIO's en CTO's moeten:

• Evalueer het niveau van hun organisatie hybride cloud-beheersing als basisstrategie voor een effectieve implementatie van generatieve AI
• Beoordeel de organisatorische obstakels en de kosten van implementatie en van het handhaven van de status quo
• Weeg de kosten en de voordelen van het gebruik van grote modellen voor algemeen gebruik versus het afstemmen van kleinere modellen
• Beoordeel factoren en kosten die verband houden met de beschikbaarheid van gegevens, governance, beveiliging en duurzaamheid
• Werk samen met HR om mensen centraal te stellen in uw generatieve AI-strategie

De hybride cloud versnelt de adoptie van generatieve AI

De afgelopen tien jaar heeft IBM een hybride cloudstrategie bepleit om schaalbare AI-gedreven innovatie, productiviteit en efficiëntie te ondersteunen. Vanuit ons perspectief is het debat over architectuur voorbij. Organisaties die de hybride cloud onder de knie hebben, zijn goed gepositioneerd om deze te implementeren generatieve AI in de hele organisatie. Dankzij de hybride cloud kunnen ze profiteren van krachtige open-source grote taalmodellen (LLM's), openbare gegevens en computerbronnen gebruiken om hun eigen modellen te trainen en hun modellen veilig te verfijnen, terwijl ze hun eigen inzichten privé houden. Naast het toevoegen van enorme waarde aan de klant- en werknemerservaring, HR- en klantenservicefuncties, geeft generatieve AI op de hybride cloud CIO's en CTO's uitzonderlijke flexibiliteit om IT-activiteiten te automatiseren en applicaties te moderniseren, waardoor hun technische schulden mogelijk worden geëlimineerd en een werkelijk continue modernisering mogelijk wordt gemaakt.

De zakelijke context

Zelfs voor CIO's en CTO's die zich hebben gecommitteerd aan de hybride cloud, organisatorische obstakels voor modernisering blijven. Ten eerste moeten technologieleiders de volledige financiële impact van de modernisering inschatten (versus de kosten van de modernisering). niet moderniseren) in de hele organisatie. Ze moeten modernisering bepleiten als een zakelijk initiatief en niet als een IT-project. Leiders moeten ook de expertisekloof aanpakken door voorrang te geven aan talentontwikkeling en culturele steun te krijgen voor modernisering als een strategische, toekomstbestendige bedrijfsinvestering in plaats van een operationeel technologiespel.

Vervolgens moeten leiders inzicht krijgen in de bedrijfswaarde die generatieve AI kan toevoegen aan de modernisering, om te begrijpen waar ze moeten investeren. Uit de ervaring van onze IBM Consulting-teams blijkt dat organisaties die net aan hun moderniseringstraject zijn begonnen, perspectief nodig hebben op de ‘kunst van het mogelijke’ als het gaat om het begrijpen van de voordelen en waarde van AI-gestuurde automatisering. Organisaties die verder gevorderd zijn op hun reis, zijn op zoek naar duidelijkheid over gebruiksscenario's in hun branche en hulp bij het omgaan met unieke kansen.

Prioriteit geven aan generatieve AI-use cases

Binnen IT-operaties omvatten generatieve AI-gebruiksscenario's het automatisch beoordelen van systemen om te voldoen aan doelstellingen op serviceniveau; het beheren, communiceren, verlenen van hulp en het oplossen van vragen en tickets; en detectie en beheer van gebeurtenissen en afwijkingen. Het kan de IT-automatisering verbeteren door runbooks te bouwen en uit te voeren en gebruikers te helpen bij de overstap naar nieuwe kennisbanken en software. Het kan ook helpen bij platformengineering, bijvoorbeeld door DevOps-pijplijnen en middleware-automatiseringsscripts te genereren.

Er kan nog veel meer worden gezegd over IT-operaties als basis voor modernisering. Hier geven we prioriteit aan de bespreking van vier workflows waarop generatieve AI kan worden toegepast.

• Transformatieplanning: Genatieve AI kan u helpen bij het definiëren van uw moderniseringsworkflow door middel van samenvattingen, het maken van plannen en het genereren van referentiearchitectuur zoals Terraform. 
• Code reverse engineering: Generatieve AI faciliteert reverse engineering door code te analyseren om bedrijfsregels en domeinmodellen te extraheren, aanbevelingen te genereren om applicaties van monolithische architectuur naar microservices te verplaatsen, en refactoring- en containerisatiemogelijkheden te identificeren en refactored code te genereren.
• Code generatie: Het genereren van code helpt IT-leiders uitdagingen te overwinnen die verband houden met de bandbreedte van ontwikkelaars en het optimaliseren van de vaardigheden van een beperkte talentenpool. Zeer repetitieve en handmatige taken kunnen worden afgehandeld door cloud-native codegeneratie, van korte fragmenten tot volledige functies. Er kan code worden gegenereerd voor UI-ontwerp, infrastructuur, containerplatformconfiguratie (zoals RedHat® OpenShift®) en serverloze frameworks (zoals Knative).
• Codeconversie: Codeconversie is essentieel voor het behouden en bijwerken van bedrijfskritische oudere applicaties. Generatieve AI maakt automatisering van dit proces mogelijk, bijvoorbeeld van COBOL tot Java, SOAP tot REST en andere talen en omgevingen.

CTO/CIO's moeten rekening houden met de quick wins van het gebruik van generatieve AI binnen deze functies. Zoek naar relatief discrete mogelijkheden met een laag risico om proof-of-concept-implementaties te verkennen. Begin klein, test en schaal.

Evaluatie van funderingsmodellen

Door vooraf de juiste basismodellen te selecteren, kunt u nauwkeurigere en efficiëntere resultaten voor uw onderneming behalen.

De architectuur van transformers geeft de voorkeur aan grootte: grotere modellen leveren betere resultaten op. Er is dus een race gaande in de generatieve AI om steeds grotere basismodellen te bouwen voor steeds bredere toepassingen. Maar hoewel de grootste modellen krachtig zijn, is een zwaar model met meerdere miljarden parameters misschien niet altijd de beste optie voor een onderneming. Een kleiner model dat voor een taak is verfijnd, presteert vaak beter dan een groot model dat niet voor die taak is verfijnd. Deze modellen kunnen met kleine aanpassingen bovenop algemene LLM's worden uitgevoerd als de onderliggende basis geschikt is voor zakelijk gebruik. Bijvoorbeeld de parameter 13 miljard van IBM Graniet funderingsmodellen, beschikbaar in de komende release van watsonx.ai, zijn veel kleiner dan de grootste LLM's (die honderden miljarden parameters bevatten), maar presteren goed op bedrijfsspecifieke taken zoals samenvatten, beantwoorden van vragen en classificatie, terwijl ze veel efficiënter zijn.

Fit-for-purpose basismodellen stellen organisaties ook in staat modernisering te automatiseren en te versnellen het genereren van codefragmenten en applicatiecomponenten, samen met het automatiseren van het testen van applicaties. Op basis van de codemodellen die in watsonx.ai zijn ingebouwd, IBM Watsonx-codeassistent kan ook worden gebruikt om bijvoorbeeld code te converteren van COBOL tot Java. Binnen watsonx Code Assistant kunnen ontwikkelaars van alle ervaringsniveaus verzoeken in duidelijke taal formuleren en door AI gegenereerde aanbevelingen krijgen, of code genereren op basis van bestaande broncode. watsonx.ai biedt ook toegang tot de StarCoder LLM, getraind op openlijk gelicentieerde gegevens van GitHub. Ontwikkelaars kunnen StarCoder gebruiken om het genereren van code te versnellen en de productiviteit voor applicatiemodernisering en IT-modernisering te verhogen.

Voorbij de grootte, wanneer het kiezen van een funderingsmodelmoeten CTO's ook rekening houden met de natuurlijke talen en programmeertalen die het model ondersteunt en met de hoeveelheid verfijning die het model nodig heeft.

Het creëren van een aangepast ROI-framework

Bij generatieve AI zijn de ROI-berekeningsmethoden nog niet volwassen of gestandaardiseerd, en vergelijkende benchmarks zijn ook niet vaak beschikbaar. Voor bedrijfsapplicaties vereisen fijnafstemming, snelle engineering en het uitvoeren van rekenintensieve workloads aanzienlijke investeringen.

Er zijn vier sleutelfactoren waarmee u rekening moet houden bij het selecteren en implementeren van een model, dat per domein, branche en gebruiksscenario zal verschillen. De eerste kostenfactor is de prijs- of licentiemethode. Dit wordt geëvalueerd op basis van het API-gebruik op publieke en beheerde clouds, en op basis van de hosting- en computerkosten op hybride en private clouds. De tweede kostenfactor is de ontwikkelingsinspanning, die hoger is op hybride en private clouds en nauw aansluit bij de derde factor, de beveiliging van bedrijfsgegevens. Houd ten slotte rekening met de potentiële gevolgen van IP- en veiligheidsrisico's, die beide worden verminderd naar de hybride en private kant van de schaal toe.

Beschikbaarheid van gegevens en governancefactoren zijn ook overwegingen bij het beoordelen van de ROI. Via het watsonx-platform boekt IBM aanzienlijke vooruitgang bij het leveren van basismodellen die zijn afgestemd op de behoeften van zakelijke gebruikers: de geschikte dataopslag die wordt geboden in watsonx.gegevens, gebouwd op een open lakehouse-architectuur, stelt ondernemingen in staat hun modellen te personaliseren, waar hun werklast zich ook bevindt. Het gereedschap binnen watsonx.governance zal organisaties ook helpen om op efficiënte wijze verantwoorde, transparante en verklaarbare workflows in het hele bedrijf te stimuleren.

Naarmate de mogelijkheden en het gebruik van generatieve AI toenemen, kan het een uitdaging zijn om cijfers aan de voordelenkant van de ROI-vergelijking te koppelen. Maar het is logisch dat CIO's en CTO's de vele manieren waarop organisaties bedrijfswaarde hebben gecreëerd uit traditionele AI als uitgangspunt, en om de potentiële waarde te extrapoleren uit hun generatieve AI-testcases en quick wins.

Denk aan duurzaamheidsdoelen

Of het nu onderdeel is van formele ESG-programma's of bedrijfsmissies, duurzaamheid is meer dan goede ethiek; het wordt steeds meer erkend als betere bedrijfsvoering. Bedrijven met toegewijde, effectieve duurzaamheidsinspanningen kan de bedrijfswaarde vergroten met een verbeterd aandeelhoudersrendement, omzetgroei en winstgevendheid. Het is dus verstandig dat CTO's duurzaamheid meenemen in hun generatieve AI-adoptiecalculus.

Het trainen, afstemmen en uitvoeren van AI-modellen kan een enorme ecologische voetafdruk achterlaten. Daarom helpt IBM generatieve AI op maat maken voor ondernemingen met basismodellen die betrouwbaar, draagbaar en energiezuinig zijn. Door kleinere modellen te maken en computerbronnen efficiënter te gebruiken, kunnen de kosten en de COXNUMX-uitstoot aanzienlijk worden verminderd. IBM Research ontwikkelt ook efficiëntere modeltrainingtechnologieën, zoals de LiGo-algoritme dat kleine modellen recyclet en in grotere modellen bouwt, waardoor tot 70% van de tijd, kosten en COXNUMX-uitstoot worden bespaard.

Leid met personeelszaken

Ten slotte is het effectief implementeren van generatieve AI afhankelijk van bekwame en enthousiaste mensen. HR-afdelingen moeten dus centraal staan ​​in de strategie van uw organisatie. Begin met het omscholen van de HR-professionals zelf, die waarschijnlijk al gebruik maken van AI-gestuurde wervingstools. Ontwikkel vervolgens een formeel managementinitiatief om te communiceren waar het testen en adopteren van generatieve AI gaande is en geef feedback.

Vraag een AI-strategiebriefing aan