Eind 2023 bleek uit een onderzoek van het IBM® Institute for Business Value (IBV) dat respondenten van mening zijn dat regeringsleiders vaak het vertrouwen van het publiek in hen overschatten. Ze ontdekten ook dat, hoewel het publiek nog steeds op hun hoede is voor nieuwe technologieën zoals kunstmatige intelligentie (AI), de meeste mensen voorstander zijn van de adoptie van generatieve AI door de overheid.  

De IBV ondervroeg een diverse groep van meer dan 13,000 volwassenen in negen landen, waaronder de VS, Canada, Groot-Brittannië, Australië en Japan. Alle respondenten hadden op zijn minst een basiskennis van AI en generatieve AI.

Het onderzoek was bedoeld om inzicht te krijgen in individuele perspectieven op generatieve AI en het gebruik ervan door bedrijven en overheden, samen met hun verwachtingen en intenties bij het gebruik van deze technologie op het werk en in hun persoonlijke leven. Respondenten beantwoordden vragen over hun vertrouwen in overheden en hun opvattingen over overheden die generatieve AI adopteren en inzetten om overheidsdiensten te leveren.

Deze bevindingen onthullen de complexe aard van het publieke vertrouwen in instellingen en bieden belangrijke inzichten voor besluitvormers bij de overheid bij het adopteren van generatieve AI op mondiale schaal.

Een overschatting van het vertrouwen van het publiek: discrepanties in perceptie

Vertrouwen is een van de belangrijkste pijlers van publieke instellingen. Volgens Cristina Caballe Fuguet, Global Government Leader bij IBM Consulting, “is vertrouwen de kern van het vermogen van de overheid om haar taken effectief uit te voeren. Het vertrouwen van burgers in overheden, van lokale vertegenwoordigers tot de hoogste posten in de nationale overheid, hangt af van meerdere elementen, waaronder de levering van openbare diensten.”

Vertrouwen is essentieel omdat overheden het voortouw nemen bij kritieke kwesties als klimaatverandering, volksgezondheid en de veilige en ethische integratie van opkomende technologieën in samenlevingen. Het huidige digitale tijdperk vraagt ​​om meer integriteit, openheid, vertrouwen en veiligheid als belangrijke pijlers voor het opbouwen van vertrouwen.

Volgens een andere recente studie door de IBV, het IBM Institute for the Business of Government en de National Academy of Public Administration (NAPA), begrijpen de meeste regeringsleiders dat het opbouwen van vertrouwen focus en toewijding aan samenwerking, transparantie en competentie bij de uitvoering vereist. Uit het meest recente IBV-onderzoek blijkt echter dat het vertrouwen onder de kiezers in overheden afneemt.

Respondenten geven aan dat hun vertrouwen in federale en centrale overheden sinds het begin van de pandemie het meest is afgenomen, waarbij 39% van de respondenten aangeeft dat hun vertrouwen in de overheidsorganisaties van hun land zeer laag of extreem laag is, vergeleken met 29% vóór de pandemie .

Dit staat in schril contrast met de percepties van de ondervraagde regeringsleiders in hetzelfde onderzoek, omdat zij aangeven dat zij er vertrouwen in hebben dat zij sinds de COVID-19-pandemie vertrouwen in hun organisaties onder hun kiezers hebben opgebouwd en daadwerkelijk hebben laten groeien. Deze discrepantie in de perceptie van vertrouwen geeft aan dat regeringsleiders een manier moeten vinden om hun kiezers beter te begrijpen en hun opvattingen over hoe de instellingen in de publieke sector presteren te verzoenen met hoe zij door kiezers worden waargenomen.

Uit het onderzoek blijkt ook dat het opbouwen van vertrouwen in door AI aangedreven instrumenten en burgerdiensten een uitdaging zal zijn voor overheden. Bijna de helft van de respondenten geeft aan meer traditionele, door mensen ondersteunde diensten te vertrouwen, en slechts ongeveer 1 op de 5 geeft aan meer vertrouwen te hebben in door AI aangedreven diensten.

Open en transparante AI-implementatie is de sleutel tot vertrouwen

Dit jaar meer dan 60-landen en de EU (die bijna de helft van de wereldbevolking vertegenwoordigt) zal naar de stembus gaan om hun vertegenwoordigers te kiezen. Regeringsleiders worden geconfronteerd met talloze uitdagingen, waaronder het waarborgen dat technologieën vóór – en niet tegen – democratische principes, instellingen en samenlevingen werken. 

Volgens David Zaharchuck, onderzoeksdirecteur Thought Leadership van de IBV: “Het garanderen van de veilige en ethische integratie van AI in onze samenlevingen en de wereldeconomie zal een van de grootste uitdagingen en kansen zijn voor overheden in de komende kwart eeuw.”

De meeste ondervraagde personen geven aan dat ze zich zorgen maken over de mogelijke negatieve gevolgen van generatieve AI. Dit laat zien dat het grootste deel van het publiek nog steeds bezig is met deze technologie en hoe deze door organisaties op een vertrouwde en verantwoorde manier kan worden ontworpen en ingezet, met inachtneming van strikte veiligheids- en regelgevingsvereisten.

Uit het IBV-onderzoek blijkt dat mensen zich nog steeds zorgen maken over de acceptatie van deze opkomende technologie en de impact die deze kan hebben op kwesties als besluitvorming, privacy en gegevensbeveiliging of werkzekerheid.

Ondanks hun algemene gebrek aan vertrouwen in de overheid en in opkomende technologieën, zijn de meeste ondervraagde personen het eens met het gebruik van generatieve AI door de overheid voor klantenservice en zijn ze van mening dat de adoptie van generatieve AI door overheden passend is. Minder dan 30% van de ondervraagden is van mening dat het tempo van de adoptie in de publieke en private sector te hoog is. De meesten geloven dat het precies goed is, en sommigen vinden het zelfs te langzaam.

Als het gaat om specifieke gebruiksscenario's van generatieve AI, hebben de respondenten van de enquête gemengde meningen over het gebruik van generatieve AI voor verschillende burgerdiensten; Een meerderheid is het er echter mee eens dat regeringen generatieve AI gebruiken voor klantenservice, belasting- en juridische adviesdiensten en voor educatieve doeleinden.

Deze bevindingen laten zien dat burgers de waarde inzien van het gebruik van AI en generatieve AI door overheden. Vertrouwen is echter een probleem. Als burgers regeringen nu niet vertrouwen, zal dat zeker niet het geval zijn als regeringen fouten maken bij de adoptie van AI. Door generatieve AI op een open en transparante manier te implementeren, kunnen overheden tegelijkertijd vertrouwen en capaciteit opbouwen.

Casey Wreth, Global Government Industry Leader bij IBM Technology: “De toekomst van generatieve AI in de publieke sector is veelbelovend, maar de technologie brengt nieuwe complexiteiten en risico’s met zich mee die proactief moeten worden aangepakt. Regeringsleiders moeten AI-governance implementeren om risico’s te beheersen, hun nalevingsprogramma’s te ondersteunen en vooral het vertrouwen van het publiek te winnen in het bredere gebruik ervan.”

Geïntegreerd AI-beheer helpt betrouwbare AI te garanderen

“Aangezien de acceptatie van generatieve AI dit jaar blijft toenemen, is het van cruciaal belang dat burgers toegang hebben tot transparante en verklaarbare AI-workflows die licht werpen op de zwarte doos van wat er met behulp van AI wordt gegenereerd met tools als watsonx.governance™. Op deze manier kunnen overheden rentmeesters zijn van de verantwoorde implementatie van deze baanbrekende technologie”, zegt Wreth.

IBM watsonx™, een geïntegreerd AI-, data- en governanceplatform, belichaamt vijf fundamentele pijlers om betrouwbare AI te helpen garanderen: eerlijkheid, privacy, verklaarbaarheid, transparantie en robuustheid.

Dit platform biedt een naadloze, efficiënte en verantwoorde benadering van AI-ontwikkeling in verschillende omgevingen. Meer specifiek, de recente lancering van IBM watsonx.governance helpt teams uit de publieke sector deze gebieden te automatiseren en aan te pakken, waardoor ze de AI-activiteiten van hun organisatie kunnen sturen, beheren en monitoren.

In wezen opent deze tool de zwarte doos over waar en hoe elk AI-model de informatie voor zijn outputs krijgt, vergelijkbaar met de functie van een AI-model. voedingsetiket, waardoor de transparantie van de overheid wordt vergemakkelijkt. Deze tool faciliteert ook duidelijke processen, zodat organisaties proactief risico’s kunnen detecteren en beperken, terwijl ze hun complianceprogramma’s voor intern AI-beleid en industriestandaarden ondersteunen.  

Nu de publieke sector AI en automatisering blijft omarmen om problemen op te lossen en de efficiëntie te verbeteren, is het van cruciaal belang om het vertrouwen en de transparantie in elke AI-oplossing te behouden. Overheden moeten de volledige AI-levenscyclus effectief begrijpen en beheren, en leiders moeten gemakkelijk kunnen uitleggen welke gegevens zijn gebruikt om modellen te trainen en te verfijnen, en hoe de modellen tot hun resultaten kwamen. Het proactief adopteren van verantwoorde AI-praktijken is een kans voor ons allemaal om te verbeteren, en het is een kans voor overheden om op transparante wijze het voortouw te nemen bij het ten goede benutten van AI.  

'Breek de zwarte doos open' met AI-governance