KI, geht das auch fair?

In der Vergangenheit waren Ingenieur*innen hauptsächlich männlich, ergo: Ingenieur*innen haben grundsätzlich männlich zu sein. So – oder so ähnlich – zieht ein selbstlernendes System seine Schlüsse. In Texten wird es den generischen Maskulin ausspucken, um Ingenieurstätigkeiten zu beschreiben, oder vorschlagen, offene Stellen im Ingenieursbereich doch mit männlichen Bewerbern zu besetzen. 

Der KI ins "Gehirn" schauen

Komplexe Systeme wie ChatGPT lernen anhand neuronaler Verfahren aus großen Datenmengen. Ihre Entscheidungen beruhen auf Mustern, die sich in Parametern widerspiegeln. Wir sprechen von neuronalen Netzwerken, erklärt Computerlinguistin Dagmar Gromann: "Large Language Models sind davon inspiriert, wie menschliche Gehirne arbeiten. So kann das Modell Muster lernen – aus riesigen Datensätzen, die das Netzwerk wieder und wieder durchlaufen."

Und da liegt das Problem: wenn ein KI-Modell sexistisch ist, dann weil es aus sexistischen Daten lernt, die wir über Jahrzehnte generiert haben. Und wir finden in den Modellen nicht nur einen Bias in Bezug auf Geschlecht, sondern auch "auf Race oder Ethnie, auf so ziemlich alles", gibt Dagmar Gromann zu bedenken, die gemeinsam mit einem Team am Zentrum für Translationswissenschaft untersucht hat, wie die smarten Systeme Informationen extrahieren. Dazu haben die Forscher*innen Textdaten aus verschiedenen Fachbereichen in maschinelle Übersetzungssysteme eingespeist und analysiert, wie diese implizit Relationen lernen. Für das Englische beispielsweise konnte so eine klare Beziehung zwischen "criminal" und "black" festgemacht werden – auch wenn in den Texten nicht von "schwarzen Kriminellen" die Rede war (mehr zu diesem Projekt gibt es hier).

Diese impliziten Relationen werden zum Beispiel dann relevant, wenn Künstliche Intelligenzen mitentscheiden, ob Menschen einen Kredit erhalten – oder eben nicht. Bei der Entscheidungsfindung sind (zumindest in Europa) gewisse Parameter durch die Datenschutzgrundverordnung geschützt – medizinische Daten etwa, politische Überzeugung, Zugehörigkeiten zu Gewerkschaften, sexuelle Orientierung oder Hautfarbe dürfte so ein System nicht heranziehen, erklärt Erich Prem, Computerwissenschafter und Philosoph an der Uni Wien: "Doch selbst wenn ich 'Hautfarbe' nicht in meinen Inputkriterien habe, kann es passieren, dass die Information darüber in anderen Parametern enthalten ist, zum Beispiel in einer Kombination aus Stadtviertel und Beruf, und das System so eine Bevölkerungsgruppe dennoch diskriminiert."

Wo keine Transparenz, da keine Anklage

"Es gibt unzählige andere Beispiele, die zeigen, dass es meist die ohnedies marginalisierten Gruppen sind, die bei Automationsprozessen Diskriminierung erfahren", ergänzt Katja Mayer vom Institut für Wissenschaft- und Technikforschung. Grundsätzlich gilt – mit oder ohne KI – in Österreich das Gleichbehandlungsgebot per Gesetz, heißt: Betroffene können sich gegen Diskriminierung durch Künstliche Intelligenzen wehren, in dem sie etwa Gleichbehandlungsstellen aufsuchen. Doch ist es oft gar nicht so einfach, der KI eine Diskriminierung "nachzuweisen": Mit seitenlangen statistischen Formeln kann die KI zwar eine ihrer Entscheidungen begründen, doch diese Herleitungen sind selten transparent, schon gar nicht für ihre User*innen, erklärt Mayer.

Wenn KI-Systeme entscheiden

Möchten wir wirklich, dass Systeme wie diese autonome Entscheidungen treffen? Fakt ist, dass sie es in vielen Bereichen bereits tun. Bei selbstfahrenden Autos etwa, bei Newsmeldungen, die für uns kuratiert werden, bei autonomen tödlichen Waffen, die in den Krieg ziehen, oder Sprachmodellen, die uns die Welt erklären, so Prem, der sich der KI-Ethik verschrieben hat. In der Tradition des Digitalen Humanismus beschäftigt ihn und seine Kolleg*innen der "Techphil-Gruppe" am Institut für Philosophie die Frage, wie wir in einer digitalisierten Welt leben möchten. Spoiler: Obwohl wir mittendrin stecken, gibt es darauf keine eindeutigen Antworten.

Was ist eigentlich fair?

Ein Beispiel aus der Praxis: Frauen erhalten nach wie vor seltener eine Finanzierungszusage als Männer. Wollen wir nun ein "faires" KI-System etablieren, das den Auswahlprozess maschinell unterstützt und allen Menschen gleichermaßen Zugang zu Krediten gewährt, ist das zwar schnell formuliert, aber nur kompliziert auf den Punkt gebracht bzw. technisch umgesetzt. Fair könnte bedeuten, dass die Bewilligungsrate bei Männern und Frauen gleich ist. Es könnte aber auch bedeuten, dass die Ablehnungsrate gleich ist oder aber dass eine weiblich gelesene Person immer so behandelt werden muss wie eine männlich gelesene Person – unabhängig von den Begleitumständen. Welche dieser verschiedenen Auslegungen von Fairness wir anwenden wollen, ist eine politische Überzeugung, so Prem. 
 

Gesellschaftliche Bedingungen formen

Doch was in einer konkreten Situation fair ist, wird in der Regel von Entwickler*innen im Designprozess festgelegt – mangels politischer Vorgaben: "Computerwissenschafter*innen lösen keineswegs nur technische Probleme, sondern formen gesellschaftliche Bedingungen in einem Ausmaß, dessen sie sich bei ihrer Studienwahl oftmals nicht bewusst sind", ergänzt Prem, der auch in der Lehre aktiv ist und angehende Entwickler*innen in Dingen Ethik unterrichtet. Und das, obwohl ganz viel Sozialwissenschaft – z.B. Kommunikations- und Kognitionswissenschaften, Computerlinguistik oder Interface-Design – in der KI steckt, gibt Katja Mayer vom Institut für Wissenschafts- und Technikforschung zu bedenken: "Leider bleiben ihre kritischen Dimensionen in der Technologieentwicklung häufig 'auf der Strecke'. Wenn wir KI als Sozio-Technologie verstehen wollen, ist eine vermehrte Einbeziehung bzw. die Sichtbarmachung der kritischen Sozialwissenschaften unerlässlich."
 

Perspektivenaustausch für gender-faire Übersetzungsmaschinen

Mit diesem Anspruch haben Computerlinguistin Dagmar Gromann und ein institutionenübergreifendes Team im Rahmen eines dreitägigen Workshops nicht-binäre Personen, Übersetzer*innen und Entwickler*innen von maschinellen Übersetzungssystemen an einen Tisch geholt (hier gibt es eine der Panel-Diskussionen zum Nachschauen). Gemeinsam haben sie evaluiert, was die verschiedenen Personengruppen benötigen und wie eine geschlechtersensible maschinelle Übersetzung funktionieren kann (zum Leitfaden für geschlechtersensible Sprache der Gleichbehandlungsanwaltschaft). Während Vertreter*innen der Community nicht-binärer Personen den Wunsch nach Respekt und Akzeptanz von vielfältigen Genderkonzepten äußerten, war seitens der Sprachindustrie der Ruf nach Normierung und Standardisierung, die sich leicht umsetzen lässt, extrem stark, berichtet Gromann, Professorin am Institut für Translationswissenschaft.

"Wir haben uns schließlich auf ein Stufenmodell geeinigt, das ähnlich wie das Gütesiegel einer Waschmaschine funktioniert: der generische Maskulinum oder das Binnen-I sind mit Rot markiert, in der Stufe darüber sind neutrale Formulierungen oder der Genderstern angesiedelt, im grünen Bereich liegt sozusagen die geschlechtsneutrale Sprache, die alle Geschlechtsidentitäten berücksichtigt", so Gromann. Ziel des Modells sind klare Verwendungsbeispiele und Erklärungen, wie geschlechtssensible Sprache maschinell umgesetzt werden kann. "Und da Veränderungen in unserer Sprache nicht von heute auf morgen passieren, müssen wir mehrere Möglichkeiten bieten. Firmen oder Auftraggeber*innen von Übersetzer*innen können sich für eine 'Stufe' entscheiden und die Maschine stellt eine Variante konsistent zur Verfügung."

Apropos Entscheidungen: Die besten und relevantesten KI-Modelle auf dem Markt kommen von nicht-akademischen Einrichtungen, also von privaten Unternehmen. Entscheidungen über die (moralische) Gestaltung von KI-Systemen treffen diese Unternehmen selbst. Beim Aufkommen von ChatGPT & Co. wurden zum Beispiel Gewalt, kinderpornografische Inhalte oder medizinische Ratschläge auf die "Rote Liste" gesetzt. "Diese Themen sind jedoch vielschichtig und es gibt viele Kontexte, in denen wir all das sehr wohl brauchen", erinnert Prem: "Ein Beratungstool soll über Gewalt sprechen können; wenn ich an einem Roman arbeite, möchte ich auch gruselige Passagen erzeugen; beim Training angehender Mediziner*innen brauche ich vielleicht Bilder, die Gewaltspuren darstellen."

Maschinen fällt es aber nach wie vor schwer, kontextbezogen zu agieren – "hier ist die menschliche Entscheidung noch immer der Goldstandard." Das Problem: Trainingsdaten für KI-Systeme werden oftmals händisch von Personen in Niedriglohnländern aussortiert. Nicht selten handelt es sich um traumatische Inhalte und die beschäftigten Menschen erhalten keinerlei psychologische Begleitung, kritisiert Prem.

Bei der Regulierung an einem Strang ziehen

Künstliche Intelligenzen werden von lokalen Rahmenbedingungen und globalen Infrastrukturen gleichermaßen bestimmt. Um den Einsatz von KI also so fair wie möglich zu gestalten, ist es notwendig, transdisziplinäre und auch multidimensionale Ansätze zu verfolgen, die ethische, regulatorische, technische und wissens- bzw. bildungsbezogene Maßnahmen umfassen, erklärt Mayer und plädiert für "klare Richtlinien und Standards, die der dynamischen Entwicklung der Technologien selbst und ihrer Lernfähigkeiten gerecht werden." Die EU arbeitet auf Hochtouren an einer KI Verordnung und auch die UNO hat dazu bereits eine Arbeitsgruppe eingesetzt. Ob Regulierungen KI-Systeme und letztlich unsere Gesellschaft fairer machen, gilt es abzuwarten. Oder wie ChatGPT die Sache sieht: Die Frage ist komplex. (hm)