Nun sag, wie hast du es mit der Ethik, Google?

Google Research hat innerhalb kurzer Zeit zwei führende Ethikforscherinnen entlassen. War deren Kritik an rassistischer KI zu unbequem?

8 Minuten
Eine junge Frau mit braunen, krausen Haaren sitzt in einem Sessel und gestikuliert mit den Armen, während sie freundlich lächelnd etwas erklärt.

Google entlässt zwei seiner führenden Forscherinnen im Bereich Ethik von Künstlicher Intelligenz, nachdem diese einen wissenschaftlichen Artikel geschrieben haben, der das Höher-Weiter-Schneller des Konzerns in Frage stellt und mehr Konsequenz fordert in der Arbeit gegen rassistische und sexistische Verzerrungen im maschinellen Lernen. Das sagt einiges über Googles Prioritäten, aber auch über die Frage, wie frei Wissenschaftler:innen in den großen Tech-Konzernen agieren können. Eine große wissenschaftliche Konferenz zu Ethik und KI zieht die Konsequenz und schließt Google als Sponsor aus. Wie unabhängig kann Ethik-Forschung sein?


Der Verschleiß an Ethik-Forscherinnen bei Google Research ist hoch. Erst im Dezember hatte der Konzern überraschend Timnit Gebru entlassen, eine seiner bekanntesten Tech-Ethikerinnen, die sich viel mit rassistischen Vorurteilen in Systemen künstlicher Intelligenz beschäftigt hatte. Nun folgte auch deren Vorgesetzte, Margret Mitchell. Sie hatte sich der großen Protestwelle nach Gebrus Entlassung angeschlossen, in deren Rahmen mehr als 1400 Google-Mitarbeiter:innen und mehr als 1900 Unterstützer:innen aus der Wissenschaft einen Protestbrief unterschrieben hatten. Mitchell wurde daraufhin der Zugang zu ihren E-Mails sowie Googles internen Systemen gesperrt, und nun sei sie ebenfalls gekündigt worden, so die Forscherin.

Stattdessen hat Google hat nun bekannt gegeben, dass Marian Croak das neue Center for Responsible AI leiten werde. In einem Videointerview mit Google sagt die afroamerikanische Forscherin, die bei Google zuletzt Vice President of Engineering war, dass sie in der Debatte um die Ethik künstlicher Intelligenz recht viele Konflikte beobachte und sie sich mehr Diplomatie wünsche. Wichtig seien ihr nun zunächst Definitionsfragen. „Wessen Definition von Fairness oder Sicherheit werden wir verwenden?“, fragt sie.

Das wiederum wird von einigen Forscher:innen aus dem Technikethik-Bereich sehr kritisch gesehen: diese Debatte sei schon lange geführt worden. Wenn nun wieder über die Definition von Fairness gesprochen würde, lenke von der eigentlichen Diskussion ab, fürchten einige: nämlich der Frage der Existenz von unethischer Technologie, so Sorelle Friedler, Informatikerin am Haverford College. „Das schränkt das Thema einer Weise ein, mit der Google zufriedener ist.“ Doch das sei nicht im Sinne des ursprünglichen AI Ethics-Teams.

Rauswurf für Kritik an „statistischen Papageien“

Für viele scheint nun klar zu sein: die Gebru und Mitchell seien mit ihrer Kritik zu unbequem geworden, laut der sowohl im Konzern selbst als auch von der dort und anderswo entwickelten künstlichen Intelligenz Minderheiten rassistisch diskriminiert würden. Dafür spricht in der Tat einiges, zumal die Konsequenz der Kritik der beiden Forscher:innen möglicherweise gewesen wäre, dass Google sein Geschäftsmodell überdenken muss. Was also war diese Kritik? Einiges davon lässt sich erklären, wenn man genauer hinschaut, wo der Konflikt letztlich eskaliert ist.


Verantwortlich im Sinne des Presserechts

Eva Wolfangel

c/o Coworking0711
Gutenbergstraße 77a
70197 Stuttgart

www: https://www.ewo.name

E-Mail: mail@ewo.name

Tel: +49 1515 1950321

Weitere Mitarbeiterinnen und Mitarbeiter

Faktencheck: Finn Brockerhoff