In zijn nieuwe boek WTF? Wat is de toekomst en waarom is het aan ons, technologiegoeroe en media-uitgever Tim O'Reilly belicht de lessen die zijn geleerd uit datagedreven platform bedrijven en wat ze te zeggen hebben over de toekomst van het bedrijfsleven en de toekomst van de economie.
Tijdens een keynote talk op de recente Strata Data Conference, O'Reilly benadrukte vijf lessen uit zijn boek, inclusief dat platformbedrijven vertrouwen op algoritmische systemen die objectieve functies. Dat is goed en slecht. Objectieve functies doen precies wat mensen hen opdragen, wat kan leiden tot vooroordelen en ongelijkheid creëren. Maar naarmate mensen betere algoritmen leren bouwen, zou de objectiviteit van de software zich kunnen vertalen in een meer harmonieuze toekomst voor de mensheid. (O'Reilly's glas is in dit geval zeker halfvol.)
Platformbedrijven zoals Uber, Google, Amazon en Facebook vertrouwen op algoritmische systemen om mensen in realtime met elkaar te verbinden predictive analytics en sensorgegevens. Een deel van hun succes is dat ze meedogenloos de nieuwe en in het proces opnieuw gedefinieerde bedrijfsmodellen hebben nagestreefd.
Voorbeeld: taxibedrijven wijzen vaak op de mobiele apps van Uber en Lyft als de concurrerende differentiator, negerend hoe de platformbedrijven een cruciaal onderdeel van het oude bedrijfsmodel op zijn kop hebben gezet. Toen de vraag naar taxi's groot was, kon het aanbod niet schalen. Dankzij technologie en 'cognitieve augmentatie'-tools zoals Google Maps, schaalt het aanbod van Uber- en Lyft-chauffeurs precies mee met de vraag, en chauffeurs kunnen passagiers binnen enkele minuten vinden, aldus O'Reilly.
En het is niet zo dat taxibedrijven niet hebben geprobeerd te innoveren. "In 2005 hadden we zelfs taxi's aangesloten", zei hij. De livrei-industrie installeerde schermen op de achterbank van cabines, maar de schermen waren - en zijn nog steeds - om advertenties te tonen aan gevangen passagiers. Dit is een voorbeeld van nieuwe technologie die op een oud bedrijfsmodel is geplakt - geen voorbeeld van hoe technologie doordrenkt een bedrijfsmodel, zei O'Reilly.
Tim O'Reilly vertelt over zijn nieuwe boek WTF? Wat is de toekomst en waarom is het aan ons op de Strata Data Conference.
Algoritmische systemen zijn fout gegaan
Maar ondanks de groei die bedrijven doormaken, draagt technologie voor velen van ons nog steeds een stigma. O'Reilly heeft een theorie over waarom dat zo is: algoritmische systemen kunnen - en doen - zijwaarts gaan. Andere keynote-sprekers op Strata benadrukten dat feit ook. Sam Lavigne, kunstenaar en programmeur, sprak over de gevaren van voorspellende politietoepassingen die vertrouwen op historische (en misschien bevooroordeelde) gegevens om voorspellingen te doen over toekomstige misdaad. "Typische politiemethoden hebben de neiging om armoede te criminaliseren", zei hij. "En daarom zullen typische voorspellende politie-apps ook armoede criminaliseren."
Deze algoritmen doen precies wat we ze opdragen. Maar we begrijpen niet altijd wat we ze vertelden te doen. Tim O'Reillyoprichter, O'Reilly Media
Of kijk eens naar O'Reilly's voorbeeld van de rol die Facebook speelde bij de presidentsverkiezingen van 2016. Het sociale-mediabedrijf heeft algoritmische systemen die zijn geoptimaliseerd om gebruikers te betrekken bij inhoud, maar het begreep niet alle nuances van betrokkenheid of hoe mensen zouden kunnen proberen het systeem te ondermijnen, aldus O'Reilly. "Dus eindigden ze bij de laatste verkiezingen met hyperpartijdigheid", zei hij.
De algoritmen namen de vooroordelen van de gebruiker over, het leveren van inhoud die hun voorkeuren - en antipathieën weerspiegelde. Algoritmische systemen, zo betoogde hij, lijken een beetje op de geesten van de Arabische mythologie. “Deze algoritmen doen precies wat we ze opdragen. Maar we begrijpen niet altijd wat we ze vertelden te doen', zei hij.
Een deel van het probleem is dat ontwikkelaars niet weten hoe ze met algoritmen moeten praten en om de juiste wens moeten vragen, zei hij. Denk aan de financiële markten, die tegenwoordig enorme algoritmische systemen zijn met een hoofddoelfunctie om de winst te vergroten.
"Het idee was dat bedrijven hierdoor die winsten zouden kunnen delen met aandeelhouders die [ze] op een sociaal bewuste manier zouden gebruiken", zei hij. "Maar zo ging het niet." In plaats daarvan spelen financiers een spel met het systeem, waardoor inkomensongelijkheid ontstaat.
Maar algoritmische systemen hoef niet zo te werken. O'Reilly, bijvoorbeeld, blijft optimistisch en gelooft dat algoritmische systemen de mensheid een spiegel voorhouden en een drijvende kracht zullen worden in het creëren van een betere wereld. "Bias in op schaal genomen code wordt zichtbaar", zei hij. "Als we zien dat we tientallen jaren van vooringenomen politiewerk hebben gecodeerd in de gegevens die we voeden met onze voorspellende politie-algoritmen, corrigeren we niet alleen onze AI, niet alleen onze algoritmen - we kunnen onszelf zien."
Tijdens zijn presentatie op de Strata Data Conference belichtte Sam Lavigne het potentieel voor vooringenomenheid in voorspellende politietoepassingen.
Bedrijven kunnen niet stoppen met de eerste iteratie - schermen achterin taxi's waren niet de futu
met betrekking tot. Ze moeten op zoek gaan naar het nieuwe, leren van hun fouten en uitzoeken hoe ze hun echte doelen kunnen bereiken, zei O'Reilly.
“Dit wordt uiteindelijk een politiek proces. Maar het is fundamenteel nu, een proces voor ons allemaal in het bedrijfsleven om onze waarden te begrijpen en wat we coderen in de systemen die we bouwen, "zei hij. De operatieve vraag voor ons: "Wat is de wens die we de geest geven die we op het punt staan op de wereld los te laten?"
PlatoAi. Web3 opnieuw uitgevonden. Gegevensintelligentie versterkt.
