Kunstig intelligens, spesielt generativ AI, fortsetter å love enorm produktivitetsforbedring til mange bransjer, inkludert bank og forsikring.

AI byr også på mange utfordringer, som manifestert i dens tendens til å hallusinere. En annen er potensialet for misbruk. Dette kan stamme fra ubevisste skjevheter i dataopplæringssett, som resulterer i diskriminerende utfall for fargede personer. Det kan også gjenspeile hvordan genAI-systemer er programmert, noe som fremgår av den nylige kjeftingen over "våkne" bilder av paver eller andre historiske skikkelser som fremstår som alt annet enn hvite menn.

I de mest ekstreme tilfellene kan kapitalforvaltere henvende seg til AI for forskning eller til og med handelsporteføljer. Hallusinasjoner kan ødelegge et firma; som kunne prøve å forklare en regulator hvorfor en bot forårsaket et flashkrasj.

AI vil neppe slippes løs på en så dramatisk måte, men den kan settes i gang på mer subtile måter. Det er det faktisk allerede.

Banker, forsikringsselskaper og fintechs bruker allerede AI-verktøy for å score kredittvurderinger eller garantere politikk. Bransjen risikerer å ikke kunne forklare en misfornøyd kunde hvorfor de for eksempel ble nektet lån.

Det mer verdslige problemet er når AI kan brukes. For eksempel kan programvare brukes til å analysere noens sosiale medier-utgang for å bedømme deres mentale tilstand, som kan brukes til å prise et finansielt produkt. Dette reiser mange spørsmål.

Bør bedrifter få lov til å vurdere slike data? Hvis ikke, hvilke erstatninger vil de utforske for å se en potensiell kunde? Hva er personvern, og hvordan håndheves det?

Reguler, vær så snill

Det naturlige svaret på slike spørsmål er å få inn regulatorene. Det er best å utvikle et nøytralt sett med regler for å begrense et firmas verste impulser. Det er også lettere å la regulatorene gjøre det tunge arbeidet – og beholde friheten til å trekke på skuldrene hvis de ikke gjør det.

Det kreves regulering, men er det nok? Kanskje, men bare hvis finansbransjen er fornøyd med å overlate innovasjonen til Big Tech og den nye rasen av AI-startups.

Når det kommer til AI, er realiteten at regulatorer aldri vil kunne holde tritt. Det er ikke en dårlig ting: Vi forventer at innovasjon kommer fra privat sektor. Men arten av AI gjør regulering vanskelig.

For det første er det få personer som jobber hos regulatorer som har dyp ekspertise innen maskinlæring og andre AI-verktøy, enn si genAI.

For det andre krever det å holde tritt i denne verden å kommandere enorme rekker av GPUer, grafikkbehandlingsenheter, ryggradsbrikkene som driver AI-applikasjoner og maskinvaren til datasentre som utgjør skyen.

AI-industrien inkluderer startups som OpenAI, Big Tech-aktører som Microsoft og Meta, brikkespesialister som Nvidia og skyleverandører som AWS. Disse gigantene har enestående enorme ressurser som samler opp de beste talentene – og kjøper datakraften til å kjøre AI-systemer.

Verken regulatorer eller virksomheter kan sette dagsorden så lenge dette er tilfelle.

Kjøpekraft

Reguleringsorganer kan prøve å sette regler – og det bør de, fordi de kan forme de grunnleggende normene – men de vil slite med å håndtere nyansene i hvordan man kan hindre banker og andre i å misbruke AI-systemer.

Det finnes imidlertid alternativer. Den ene er å se tilbake på hvordan regjeringer har bidratt til å støtte deres innovasjonsøkonomier i de første dagene. For eksempel skylder Silicon Valley mye av sin suksess til de massive innkjøpsprogrammene til NASA og det amerikanske militæret på 1950- og 1960-tallet.

Tilsvarende er det bare regjeringer som har potensial til å vasse inn i markedet for AI-infrastruktur og kjøpe GPUer for sine egne forskningsprogrammer som kan matche omfanget til Big Tech. Dette er en måte å sette standarder på, gjennom deltakelse og ledelse, i stedet for å prøve å henge med i det uendelige ved å skrive flere regler.

Hva med finansielle tjenester? Så langt er det ingen tegn på at regjeringer er forberedt på å spille denne rollen, noe som overlater andre bransjer til Big Techs nåde.

Lærdommen er lik: Wall Street må bli en så viktig kunde for Big Tech at den kan sette standarder for hvordan AI behandles.

Problemet er størrelsen. Ikke engang en JP Morgan har kraften til å matche en Microsoft på denne arenaen. Det kunne aldri rettferdiggjøre kostnadene.

Åpen kildekode AI

Men hva med industrien som gruppe? Finnes det en måte for Big Finance – i liga med de ledende fintechs rundt om i verden – å samle ressurser og bli en strategisk kunde?

Banker er ikke vant til å spille sammen. En slik tilnærming ville være helt fremmed.

På den annen side går bankene sakte opp til åpen kildekode for utvikling av programvare. De erkjenner at deling av kode for mange ikke-kjernefunksjoner – å være fellesskapsspillere i stedet for proprietære eiere – kan skape bedre kvalitet og mer robust programvare.

Fungerer åpen kildekode for genAI?

Svaret er uklart. Noen store teknologier på dette området har vært åpne med utviklingen, for eksempel Meta, som lar AI-startups laste ned og tilpasse noen av modellene sine.

Bransjestandarder for åpen kildekode krever at alle brukstilfeller er tillatt, men få genAI-oppstarter oppfyller faktisk disse kriteriene. De fleste, inkludert det absurd navngitte OpenAI, driver en stengt butikk.

Det er fordi genAI ikke er som andre kategorier av programvare. Kildekoden er bare én komponent. Like viktig er treningsdataene og hvordan disse dataene er kategorisert. I dag er det ingen konsensus i AI-industrien om hva "åpen kildekode" betyr.

Her er åpningen for finansinstitusjoner. Banker, børser og dataleverandører eier til sammen en kritisk masse av data, hvorav mye er spesifikke for kapitalmarkeder og finansielle tjenester. I teorien hvis det fantes en mekanisme for å aggregere denne informasjonen, kan det være grunnlag for å utvikle kode og standardene som følger med den.

Leverandører vil motstå enhver bevegelse som ødelegger virksomheten deres; banker og forsikringsselskaper er ikke opptatt av å samarbeide om noe som kan anses som kjernen. På den annen side kan det være områder innenfor finansielle tjenester som for de fleste aktører ikke er kjerne, og hvor en bransjeløsning kan være ønskelig. Digital identitet, compliance, rapportering og aspekter ved risikostyring kommer alle til tankene.

DigFin vet at dette er en veldig spekulativ forestilling, en som kanskje aldri rettferdiggjør den enorme innsatsen som vil kreves for å få det til. På den annen side, hvor viktig er det for finansnæringen å forme fremtiden sin i stedet for passivt å vente på at Silicon Valley skal gjøre det i stedet? Det er kanskje her vi kommer tilbake til ideen om regjeringen som en stor kunde av AI. For at regjeringen skal kunne handle i denne egenskapen, trenger den egne programmer. Regulering av finansielle tjenester i AI-tiden virker som et godt sted å begynne.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://www.digfingroup.com/influence-ai/