Na maanden van innerlijke conflicten en tegenstand van het Congres en duizenden Google-werknemers heeft Google vandaag aangekondigd dat het zijn activiteiten op het gebied van AI-ethiek zal reorganiseren en deze in handen zal geven van vice-president Marian Croak, die leiding zal geven aan een nieuw verantwoordelijk AI-onderzoeks- en engineeringcentrum voor expertise. .

Een blog en een zes minuten durend video-interview met Croak die Google vandaag heeft vrijgegeven om het nieuws aan te kondigen, maken geen melding van het eerste Timnit Gebru, medeleider van het ethische AI-team, die Google eind 2020 abrupt ontsloeg, of Ethical AI-leider Margaret ‘Meg’ Mitchell, die volgens een Google-woordvoerder VentureBeat was onder intern onderzoek geplaatst vorige maand.

De release maakt ook geen melding van stappen die zijn genomen om tegemoet te komen aan de noodzaak om “vertrouwen weer opbouwen”opgeroepen door leden van het Ethical AI-team van Google. Meerdere leden van het Ethical AI-team zeiden dat ze via een gepubliceerd rapport over de verandering in leiderschap hoorden woensdagavond laat door Bloomberg.

"Marian is een zeer getalenteerde baanbrekende wetenschapper die ik had bewonderd en zelfs in vertrouwen had genomen. Het is ongelooflijk pijnlijk om te zien hoe zij legitimeert wat Jeff Dean en zijn ondergeschikten mij en mijn team hebben aangedaan", vertelde Gebru aan VentureBeat.

Meg Mitchell is nog steeds geschorst van haar bedrijfsaccount. De laatste e-mail die het Ethical AI-team kreeg van de onderzoeksleiding was ruim twee weken geleden.

We zitten in de steek en staan ​​te drogen. Dit zou u veel moeten vertellen over wat Google denkt over ethisch onderzoek.

— Dr. Alex Hanna (@alexhanna) 18 februari 2021

In de video bespreekt Croak zelfrijdende auto's en technieken voor de diagnose van ziekten als potentiële aandachtsgebieden in de toekomst, maar maakte geen melding van grote taalmodellen. Een recent stuk AI-onderzoek, waarin een breed scala aan experts werd aangehaald, concludeerde dat bedrijven dit leuk vinden Google en OpenAI hebben slechts een kwestie van maanden om normen vast te stellen over hoe de negatieve maatschappelijke impact van grote taalmodellen kan worden aangepakt.

In december werd Gebru ontslagen nadat ze een e-mail naar collega's had gestuurd waarin ze hen adviseerde niet langer deel te nemen aan het verzamelen van diversiteitsgegevens. In een artikel waaraan ze destijds werkte, werd kritiek geuit op grote taalmodellen, zoals het soort dat Google bekend staat om het produceren ervan, omdat ze schade berokkenen aan gemarginaliseerde gemeenschappen en mensen laten geloven dat modellen die zijn getraind met enorme corpora aan tekstgegevens echte vooruitgang in het taalbegrip vertegenwoordigen.

In de weken na haar ontslag riepen leden van het Ethical AI-team ook op tot de herplaatsing van Gebru in haar vorige rol. Ruim 2,000 Googlers en duizenden andere supporters ondertekenden een brief ter ondersteuning van Gebru en tegen wat de brief roept “ongekende onderzoekscensuur.” Congresleden die wetgeving hebben voorgesteld om algoritmen te reguleren, hebben in a. ook een aantal vragen gesteld over de Gebru-episode letter aan Google-topman Sundar Pichai. Eerder deze maand kwam het nieuws naar voren dat er twee software-ingenieurs zijn ontslag genomen uit protest over de manier waarop Google zwarte vrouwen als Gebru en voormalig recruiter April Curley behandelt.

In de huidige video en blogpost Over de verandering bij Google zei Croak dat mensen moeten begrijpen dat de gebieden van verantwoordelijke AI en ethiek nieuw zijn, en riep op tot een meer verzoenende toon in het gesprek over de manieren waarop AI mensen kan schaden. Google creëerde zijn AI-ethische principes in 2019, kort nadat duizenden werknemers zich verzetten tegen deelname aan Project Maven van het Amerikaanse leger.

“Er is dus veel onenigheid, er is veel conflict als het gaat om het standaardiseren van een normatieve definitie van deze principes en wiens definitie van eerlijkheid en veiligheid we gaan gebruiken, en dus is er momenteel behoorlijk veel conflict in de wereld. veld, en het kan soms polariserend zijn, en wat ik zou willen doen is mensen gewoon op een meer diplomatieke manier een gesprek laten voeren, zodat we dit veld echt vooruit kunnen helpen,' zei Croak.

Croak zei dat het nieuwe centrum intern zal werken aan het beoordelen van AI-systemen die worden ingezet of ontworpen, en vervolgens “samen zal werken met onze collega’s en PA’s en potentiële schade zal beperken.”

De Gebru-aflevering bij Google bracht sommige AI-onderzoekers ertoe te beloven dat ze de artikelen van Google Research niet zouden beoordelen totdat er verandering was aangebracht. Kort nadat Google Gebru had ontslagen, meldde Reuters dat het bedrijf zijn onderzoekers had gevraagd een positieve toon aan te slaan bij het behandelen van kwesties die gevoelige onderwerpen worden genoemd.

De benoeming van Croak in deze functie betekent de nieuwste controversiële ontwikkeling aan de top van de AI-ethiek bij Google Research en DeepMind, dat Google in 2014 heeft overgenomen. Wall Street Journal verslag ontdekte dat Mustafa Suleyman, medeoprichter van DeepMind, werd ontheven uit managementtaken voordat hij het bedrijf in 2019 verliet vanwege het pesten van collega's. Suleyman was ook hoofd ethiek bij DeepMind, waar hij kwesties als klimaatverandering en gezondheidszorg besprak. Maanden later huurde Google Suleyman in voor een adviserende rol op het gebied van beleid en regelgeving.

Hoe Google zich gedraagt ​​als het gaat om het verantwoord gebruik van AI en de verdediging tegen vormen van algoritmische onderdrukking is van enorm belang omdat de acceptatie van AI in het bedrijfsleven en de samenleving groeit, maar ook omdat Google een wereldleider is in het produceren van gepubliceerd AI-onderzoek. Uit een vorig najaar gepubliceerd onderzoek blijkt dat Big Tech-bedrijven de ethische financiering van AI op een dergelijke manier behandelen analoog aan de manier waarop Big Tobacco-bedrijven decennia geleden gezondheidsonderzoek gefinancierd.

VentureBeat heeft contact opgenomen met Google om te informeren naar stappen om de interne praktijken te hervormen, naar problemen die door Google-medewerkers zijn opgeworpen en naar een aantal andere vragen. Dit verhaal wordt bijgewerkt als we iets horen.

Meer van dat