Gute Nacht, Ms Haraway

Feministischer Zwischenruf

Der dritte Gleichstellungsbericht zur Digitalwirtschaft ist gut – und er zeigt, was passiert, wenn die Bundesregierung seit 20 Jahren nicht tut, wozu sie sich verpflichtet hat.

computer

Es ist schon wieder fast ein halbes Jahrhundert her, dass die amerikanische Gesellschaftstheoretikerin Donna Haraway ihr „Manifest für Cyborgs“ veröffentlichte. 1985, das erste Mobiltelefon und das Internet waren gerade erst erfunden, da träumte Haraway bereits von den Cyborgs, dieser Kombination von menschlicher Biologie und Maschine, die unsere alten dualistischen Denkstrukturen, in denen auf „Natur oder Kultur“ auch immer gleich „Frau oder Mann“ folgt, endgültig ins Reich der Fiktion verbannen würde.

Inzwischen haben wir einiges an Macht an den Algorithmus abgegeben. Allerdings ist diese Kombination von Mensch und Maschine bisher keineswegs in Richtung Cyborg unterwegs. Im Gegenteil, die meisten Algorithmen, mit denen Menschen sortiert werden, weisen uns starre Geschlechter zu – auf Teufel komm raus. Und so bleibt eines Tages im Jahr 2015 für die amerikanische Wissenschaftlerin Lou Selby die Tür zur Damenumkleide ihres neuen Fitnessstudios verschlossen. Sie hatte bei der Registrierung ihren Doktortitel angegeben, der Algorithmus hatte daraus geschlossen, sie sei ein Mann – und der habe in der Damenumkleide nichts zu suchen.

Parallel dazu konnte eine amerikanische Gesichtserkennungssoftware zwar weiße Gesichter recht gut erkennen, Schwarze dagegen kaum. Hielt eine Schwarze Person sich eine billige weiße Plastikmaske vor das Gesicht, wurde sie wiederum eingelassen.

Algorithmen: doof, aber gefährlich

Es ist zwar schön, dass die doofen Algorithmen damit viel Raum für Späße und Maskeraden lassen. Aber wenn sie zunehmend Zugänge zu wichtigen Ressourcen wie Arbeit, Wohnraum oder auch Sicherheit kontrollieren, hört der Spaß ziemlich schnell auf.

Das gerade veröffentlichte Gutachten zum dritten Gleichstellungsbericht der Bundesregierung hat sich die Herrschaft der Algorithmen vorgenommen – und nicht nur die: Was macht die Digitalisierung von Wirtschaft und Gesellschaft mit den Geschlechtern, fragen die Wissenschaftler*innen der Sachverständigenkommission. Und kommen zu Ergebnissen, die Donna Haraway nicht erfreuen können. In Kürze: homogene (weiße, männliche) Entwicklerteams sind oft in homogenen Ausbildungsgängen sozialisiert, in denen konservative Geschlechterbilder vorherrschen.  Sie denken Frauen, Queers oder People of Color nicht mit und entwickeln Software, die dadurch Diskriminierungspotenzial ohne Ende hat. Es gibt Bewerbungssoftware, die Erziehungspausen negativ wertet. Lernende Algorithmen gleichen ihre Entscheidungskriterien mit dem Verhalten der Masse in der Vergangenheit ab – und zementieren dadurch diskriminierende Stereotypen. Und wenn die Tech-Riesen damit unseren Zugang zu unseren Informationen über unser Leben und die Welt steuern, ohne dass wir die Kriterien kennen, geschweige denn kontrollieren können – gute Nacht, Ms Haraway.

Was die Kommission vorschlägt, ist deshalb: Partizipation und Regulierung. Die Partizipation unterschiedlicher Gruppen an der Entwicklung der Software muss sichergestellt werden – und zwar durch Regularien. Und Software, die diskriminieren könnte, muss kontrolliert werden.

Der Bericht weist immer wieder auf gute Beispiele hin: Es gibt Test- und Reparaturprogramme, mit denen man seine Software checken kann. Aber die steht zum freiwilligen Download auf irgendwelchen Institutshomepages herum. Das ist etwas wenig. Und vor allem ist es etwas, das Frauenpolitiker*innen seit Jahrzehnten kennen: Das Kind liegt im Brunnen. Und nun erfinden wir ein ganz tolles Programm, um es wieder herauszuziehen und man kann sogar automatisch checken, ob es noch atmet. Da freut sich die Frauenbeauftragte.

Software muss von Anfang an auf Diskriminierungspotential gecheckt werden

Nein, im Ernst: Seit 1995, also auch schon seit einem guten Vierteljahrhundert, haben die Frauenbeauftragten durchgesetzt, dass es anders gehen muss. Dass die Politik dafür sorgen muss, dass Kinder nicht in den Brunnen fallen. Ob ihre Vorhaben Diskriminierungspotenzial haben, das sollte im Vorhinein geprüft werden. Seit der Jahrtausendwende steht das etwa in der Geschäftsordnung der deutschen Bundesregierung, Gender Mainstreaming heißt das.

In den 20 Jahre danach hatten wir eine Debatte über die Verständlichkeit dieses Begriffs, über Gender Gaga und darüber, ob es nichts Wichtigeres gäbe. Ein Genderkompetenzzentrum wurde gegründet und wieder aufgelöst. Der Haushalt sollte nach Genderkriterien untersucht werden und wurde es nicht. Alle neuen Gesetze sollten gegendert werden. Was passierte war, dass man sich in den Texten um gendergerechte Sprache bemühte, anstatt die Inhalte anzugucken.

Das Ergebnis dieser Versäumnisse kann man nun mal wieder in einem Bericht nachlesen. Er ist interessant, er ist lesenswert, er weist weit über die Digitalbranche und die digitalisierte Wirtschaft hinaus: Die Kommission hat ein Gesetz für mobiles Arbeiten entwickelt. Sie verlangt Regulierungen für digitale Gewalt im Netz, sie schlägt staatlich geförderte Alternativen für konsumkapitalistisch getriebene Plattform-Inhalte vor. Der Bericht kommt zur richtigen Zeit. Was schmerzt ist, dass er nur halb so dick wäre, wenn die Bundesregierung tun würde, wozu sie sich seit 20 Jahren verpflichtet hat.

 

Hier geht es zum 3. Gleichstellungsbericht der Bundesregierung.