Google hat das Management-Team, das seine Gruppe für ethische KI überwacht, Monate nachdem es einen seiner Star-Forscher verdrängt hatte, neu gemischt. Dies war ein kontroverser Schritt, der öffentliche Wut und interne Revolten auslöste.
Marian Croak, 66, eine Ingenieurin, die 1982 ihre Karriere bei Bell Labs begann und derzeit Vice President of Engineering in der Schokoladenfabrik ist, wird nun die neu gegründete Responsible AI-Fraktion des Webgiganten leiten. Sie wird für zehn Teams verantwortlich sein, von denen eines die ethische KI umfasst, und dem KI-Leiter von Google, Jeff Dean, Bericht erstatten.
"Dieses Feld, das Feld der verantwortungsvollen KI und Ethik, ist neu", sagte Dr. Croak - der zu den gehört Hall of Fame von Frauen in der Technologie International - in a Video-Interview heute.
"Die meisten Institutionen haben in den letzten fünf Jahren nur Prinzipien entwickelt, und sie sind sehr abstrakte Prinzipien auf hoher Ebene", sagte sie zu ihrem Interviewer, Googler-Kollegen Sepi Hejazi Moghadam.
„Es gibt viele Meinungsverschiedenheiten, viele Konflikte in Bezug auf den Versuch, normative Definitionen dieser Prinzipien zu standardisieren. Wessen Definition von Fairness oder Sicherheit werden wir verwenden? Derzeit gibt es auf dem Gebiet eine Menge Konflikte, die manchmal polarisierend sein können. Und ich möchte, dass die Leute das Gespräch vielleicht diplomatischer führen als jetzt, damit wir dieses Feld wirklich vorantreiben können. “
Große Arbeit zu erledigen
Croak übernimmt in einer turbulenten Zeit die Zügel. Im Wesentlichen arbeiten im Wesentlichen alle Google-Mitarbeiter während der Pandemie von zu Hause aus und müssen virtuell zusammenarbeiten. Sie muss sich auch mit den Folgen des plötzlichen Ausscheidens des Co-Leiters des Ethical AI-Teams, Timnit Gebru, auseinandersetzen.
Gebru, ein hochrangiger Akademiker in Ethik und künstlicher Intelligenz, war herausgedrückt des Internetgiganten Ende letzten Jahres unter umstrittenen Umständen. Sie sagte, sie sei verdrängt worden, weil sie eine lange E-Mail an das interne Mailinglisten-Geländer von Google Brain Women and Allies gesendet habe, weil das Unternehmen nicht mehr Frauen und Farbingenieure eingestellt habe. Google behauptet, dass die Geschichte mehr beinhaltet.
Der Labour-Wachhund beschuldigt Google, Mitarbeiter in gewerkschaftsfeindlichen Vorwürfen illegal entlassen zu haben - als der KI-Ethik-Guru Dr. Timnit Gebru vertrieben wird
Die Spannungen zwischen Gebru und dem Management nahmen zu, nachdem ihr gesagt wurde, sie solle ihren Namen von einem Artikel zurückziehen, den sie gemeinsam über die Gefahren und Risiken der Erstellung und Ausführung massiver Sprachverarbeitungsmodelle verfasst hatte - wie die, mit denen Google Übersetzungsdienste bereitstellt, und die mögen. In einem Memo an die Mitarbeiter behauptete Dean, das Papier sei nicht auf dem neuesten Stand und enthielt nicht genügend Verweise auf frühere Forschungsergebnisse.
Gebru erhielt anonym von anderen Googlern Feedback zu dem Papier und wollte wissen, wer was in der internen Überprüfung gesagt hatte. Sie sagte ihren Vorgesetzten, sie würde es vorziehen, nur dann bei Google zu bleiben, wenn bestimmte Bedingungen erfüllt seien, und beschloss, eine Arbeitspause einzulegen. Sie kehrte zurück und stellte fest, dass ihr Antrag als Rücktrittsschreiben angenommen worden war, nachdem das Management sich geweigert hatte, den vorgeschlagenen Bedingungen zuzustimmen.
Viele waren schockiert und entsetzt. Mitglieder ihres alten Teams und viele Forscher in der Community für maschinelles Lernen waren offen enttäuscht, dass Google einen seiner sternethischen KI-Forscher verloren hatte. Ein Online-Petition hat massive Unterstützung für Gebru erhalten.
Margaret Mitchell, die andere Co-Leiterin des Ethical AI-Teams, versuchte, den Sturz zu untersuchen, und fand sich wieder ausgesperrt ihres Unternehmensarbeitskontos.
Gebru ging zu Twitter, um ihre Frustrationen über Croaks neue Rolle auszudrücken.
Es ist, als wäre ich mitten in einem nie endenden Albtraum eines Gaslichtzuges, der niemals vorbei sein wird. Nur so kann ich beschreiben, wie ich mich gerade fühle. Ich habe die Worte nicht wirklich.
- Timnit Gebru (@timnitGebru) 18. Februar 2021
Megan Kacholia, die das Ethical AI-Team während des Ausstiegs von Gebru beaufsichtigte, wird weiterhin Forscher in AI-Teams innerhalb von Google verwalten. CEO Sundar Pichai versprach, die Umstände zu untersuchen, unter denen Timnit das Unternehmen verlassen hatte. Google lehnte es ab, den Datensatz zu kommentieren. ®
Quelle: https://go.theregister.com/feed/www.theregister.com/2021/02/19/google_ai_reorganization/
