Hier is een eenvoudige test: vraag of hij of zij 100% de algoritmen begrijpt die hen helpen bij het kiezen van mogelijke investeringen.

Als ze reageren met 'Ja, natuurlijk', is de kans groot dat ze de waarheid uitrekken.

Als we eerlijk zijn tegen onszelf (en onze klanten), zullen financiële professionals toegeven dat we, hoewel we enthousiast zijn over nieuwe technologie, beperkt inzicht hebben in hoe geavanceerde algoritmen hun conclusies trekken. Dat irriteert ons - niemand geeft graag toe dat ze iets niet begrijpen.

Computerwetenschappers kunnen, vanwege al hun genialiteit bij het maken van algoritmen, ook niet altijd dingen voor ons ophelderen. Ze ontwerpen de modellen en verbeteren ze voortdurend met zogenaamde trainingsgegevens - informatie die bepaalt hoe algoritmen toekomstige gegevensinvoer analyseren. Maar daarna kan een model een eigen leven gaan leiden, met behulp van meerdere berekeningen om patronen te vinden die niet waarneembaar zijn voor het menselijk brein. We kunnen de nauwkeurigheid van het model meten; het algoritme vragen om vragen aan te pakken waarvan we de antwoorden al weten. Maar we kunnen machines niet vragen om, zoals je wiskundeleraar op de basisschool zou zeggen, 'hun werk te laten zien'.

Dit probleem is natuurlijk niet beperkt tot financiering. Het is van toepassing op bijna elke ruimte waar machine learning een revolutie teweegbrengt in het bedrijfsleven of, in sommige gevallen, in het spel. In 2016 zorgde een kunstmatig intelligent systeem voor conventionele wijsheid in de wereld van Go, een oud Chinees bordspel. AlphaGo versloeg de bekende Go-kampioen Lee Sedol in een serie van vijf wedstrijden. Het meest iconische moment van de serie? Toen AlphaGo zijn 37e zet maakte in het tweede spel, plaatste hij een steen op de vijfde rij vanaf de rand van het bord.

Commentatoren maakten zich zorgen over deze stap omdat het geen zin had; mensen hadden Go nog nooit zo gespeeld. We leren dat AlphaGo in staat was om genoeg verschillende manieren te zien waarop de game zich kon ontvouwen waar die zet een slimme zou kunnen blijken te zijn. Maar we weten niet 100% zeker hoe of waarom.

Toch kunnen we niet negeren dat modellen voor machine learning nauwkeurig en efficiënt zijn en analyses uitvoeren met meer snelheid en minder mankracht dan ooit voor mogelijk werd gehouden. En dan zijn er de inzichten die ze bieden die geen mens ooit zou kunnen hebben, van een ongekende winnende strategie in Go tot spannende ontwikkelingen in industrieën variërend van geneeskunde¹ naar landbouw². Zelfs als we niet de antwoorden hebben op het 'waarom', moeten we zorgvuldig vooruitgaan en beproefde tools gebruiken om onze beslissingen te informeren.

We kunnen ook anticiperen op een toekomst daar is meer transparantie in machine learning. Op het gebied van financiën helpen informatici, zoals we spreken, om onze 'waarom'-vragen te beantwoorden. State Street gebruikt machine learning om aan te bevelen welk onderzoek het meest relevant is voor de belangen van onze klanten. Onze ontwikkelaars hebben onlangs een sleutelfactor geïsoleerd die de besluitvorming van ons model beïnvloedt. Wanneer het de onderzoeksgeschiedenis van een klant beoordeelt, geeft het het meeste gewicht aan rapporten die tot interactie hebben geleid. Heeft de klant een bladwijzer gemaakt voor een rapport of het met anderen gedeeld? Als dat zo is, vindt ons algoritme vergelijkbaar onderzoek dat bovenaan de leeslijst van de klant staat.

Wij zijn van mening dat, naarmate de tijd verstrijkt, er meer van dit soort oplossingen zullen ontstaan, die echte vensters in de "geesten" van de machines zullen verschaffen. We zullen de meerdere iteraties en berekeningen die door de meest complexe algoritmen worden uitgevoerd misschien nooit helemaal begrijpen, maar we komen aardig in de buurt. Door dit te doen, kunnen we eindelijk meer 'waarom'-vragen beantwoorden ... zonder een enkele broekspijp in brand te steken.