Het creëren van een register van gelicentieerde AI-professionals om ethische normen te handhaven en het veiligstellen van klokkenluiderskanalen om slecht management aan te klagen zijn twee beleidsmaatregelen die een schandaal in postkantoorstijl kunnen voorkomen.

Dat zegt brancheorganisatie BCS – voorheen de British Computer Society – die van mening is dat licenties op basis van een onafhankelijk ethisch raamwerk de transparantie onder software-ingenieurs en hun bazen zouden bevorderen.

“We hebben een register van artsen die kunnen worden geschrapt”, zegt Rashik Parmar MBE, CEO van BCS. “AI-professionals spelen al een grote rol in onze levenskansen, dus waarom zouden zij niet ook een licentie moeten krijgen en geregistreerd moeten worden?”

Chief executives en andere managers in leiderschapsrollen, die vaak geen techneuten zijn, nemen belangrijke beslissingen over de technologieontwikkeling, en deze mensen moeten “verantwoordelijk worden gehouden voor het ethisch gebruik van AI”, voegde hij eraan toe.

“Als dit niet gebeurt, moeten de technologen vertrouwen hebben in de klokkenluiderskanalen die binnen organisaties beschikbaar zijn om hen op te roepen; bijvoorbeeld als hen wordt gevraagd AI te gebruiken op een manier die discriminerend is voor een minderheidsgroep.”

Dit zou kunnen zijn vooringenomenheid bij aanwervingsbeslissingen, of gerelateerd aan live bewakingscamera's met gezichtsherkenning die veelvuldig worden ingezet door politiekorpsen over de hele wereld.

Het belang van AI-ethiek werd versterkt door de Postkantoorschandaal, zegt de BCS-baas, “waar computergegenereerd bewijsmateriaal werd gebruikt door niet-IT-specialisten om onderpostmeesters te vervolgen, met tragische gevolgen.”

Voor iedereen die zich niet bewust is van het schandalige wangedrag van het postkantoor: het kocht in 1999 het door bugs geteisterde Horizon-boekhoudsysteem van ICL, een bedrijf dat vervolgens door Fujitsu werd gekocht. Honderden plaatselijke filiaalmanagers van het postkantoor werden vervolgens ten onrechte veroordeeld wegens fraude, waarbij Horizon de schuldige was.

De droevige saga, die tot de grootste gerechtelijke dwalingen in Groot-Brittannië wordt gerekend, verwoestte de levens van de lokale filiaalmanagers, waarbij velen failliet gingen en sommigen tot zelfmoord werden gedreven.

In een krant: “Leven met AI en opkomende technologieën: ethische uitdagingen aangaan met professionele standaard”, beveelt de Ethics Specialist Group van de BCS aan:

• Elke technoloog die in een AI-rol met hoge inzet werkt, moet een geregistreerde professional zijn die voldoet aan onafhankelijke normen op het gebied van ethische praktijk, verantwoordelijkheid en competentie.
• Overheid, industrie en beroepsorganisaties moeten deze normen samen ondersteunen en ontwikkelen om het vertrouwen van het publiek op te bouwen en de verwachting van goede praktijken te wekken.
• Britse organisaties zouden verplicht moeten worden om hun beleid inzake ethisch gebruik van AI in alle relevante systemen te publiceren – en die verwachtingen zouden zich moeten uitstrekken tot leiders die geen technische specialisten zijn, inclusief CEO’s en raden van bestuur.
• De Britse regering moet ernaar streven organisaties te ondersteunen bij het vaststellen van wereldwijd toonaangevende ethische normen.

Georgina Halford-Hall, CEO van WhistleblowersUK en voorzitter van Strategie & Beleid voor de All Party Parliamentary Group (APPG) voor Klokkenluiden, zei in een verklaring: “AI en de snelle vooruitgang die wordt geboekt in de technologiesector hebben klokkenluiders vatbaar gemaakt voor misbruik. pesten, intimidatie en slachtofferschap. Wij ondersteunen BCS volledig omdat het ernaar streeft een transparante cultuur rond ethische praktijken op te bouwen, die tech-professionals het vertrouwen geeft om uitdagingen aan te gaan wanneer niet aan deze normen wordt voldaan.” ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/02/15/bcs_ai_register_ethics/