Algorithmus, wieso tust du das?

Sind Sie auf Facebook oder Twitter und suchen neue Kontakte? Kein Problem, ein Algorithmus weiß, wer zu Ihnen passt. Wahrscheinlich sind Sie sogar bereits mit Personen vernetzt, die Ihnen ein Algorithmus empfohlen hat. Aber nicht nur in den sozialen Netzwerken sind Algorithmen heute fixer Bestandteil unseres Lebens. Algorithmen, also schrittweise Handlungsvorschriften zur Lösung einer Aufgabe, oft in Form von Computerprogrammen, lenken beispielsweise unseren Verkehr oder empfehlen uns Produkte, welche wir mit hoher Wahrscheinlichkeit zu konsumieren bereit sind.

Besonders einflussreich sind heutzutage datengetriebene Algorithmen – oftmals inakkurat als künstliche Intelligenz (KI) bezeichnet: Die genaue Funktionsweise dieser Algorithmen hängt von zuvor gesammelten Daten ab bzw. wird anhand dieser Daten optimiert. Oft basieren beispielsweise Empfehlungen in Onlineshops auf Ihrem bisherigen Such- und Kaufverhalten.

Gesellschaftliche Folgewirkungen

Der Einsatz datengetriebener Algorithmen kann mit weitreichenden gesellschaftlichen Folgen einhergehen. Beispielsweise kann die Rationalisierung durch Algorithmen zu Umbrüchen auf dem Arbeitsmarkt führen. Algorithmisches Profiling kann unseren Zugang zu Bildung und Arbeit bestimmen. Und Empfehlungssysteme können die von uns konsumierten Inhalte und dadurch unsere Meinungsbildung beeinflussen.

Ein konkretes Beispiel mit Österreichbezug ist der geplante Einsatz des "AMS Algorithmus" des Arbeitsmarktservices: Dieser Algorithmus prognostiziert, basierend auf Eigenschaften einer Person wie z. B. Geschlecht, Alter und Betreuungspflichten, die Zugehörigkeit dieser Person zu einer von drei Gruppen mit unterschiedlichen "Integrationschancen" am Arbeitsmarkt – basierend auf dieser Prognose sollen dann Ressourcen zur Förderung bereitgestellt werden.

Wenn also Algorithmen unsere Gesellschaft grundlegend beeinflussen, sollten deren Einsatz und Kontrolle auch Gegenstand unserer demokratischen Prozesse sein. Beispielsweise könnte man daran denken, die Bevölkerung über den Einsatz des AMS Algorithmus abstimmen zu lassen. Aber genau das stellt sich als schwierig heraus: Datengetriebene Algorithmen und die genauen Konsequenzen deren Einsatzes sind im Allgemeinen sehr komplex und schwer verständlich – sowohl für Expertinnen und Experten als auch für informierte Laien.

Sind Algorithmen gut oder böse?

Pragmatische Personen würden den Einsatz von Algorithmen wahrscheinlich begrüßen, wenn sie positive Veränderungen unserer Gesellschaft bewirken. Aber wirkt ein Algorithmus positiv? Datengetriebene Algorithmen sind nicht per se gut oder böse. Vielmehr hängen deren Eigenschaften vom genauen Design der Algorithmen, den zugrunde liegenden Daten und dem genauen Einsatz ab. Sie können vielfältige positive Eigenschaften haben, zum Beispiel Effizienz, objektive Entscheidungsfindung, hohe Genauigkeit, bergen aber auch verschiedene Risiken wie Pseudo-Objektivierung, unfaire Prognosen, Intransparenz.

Datengetriebene Algorithmen übernehmen üblicherweise Eigenschaften der zugrunde liegenden Daten. Das kann in ungünstigen Fällen auch zu einer systematischen Benachteiligung von Personengruppen führen. Zum Beispiel werden vom AMS Algorithmus die Integrationschancen von weiblichen Personen bei ansonsten gleichem Profil immer schlechter bewertet als jene von Männern, weil historisch bedingt eine Korrelation zwischen Geschlecht, Betreuungspflichten und Erwerbsarbeit besteht. Der Algorithmus berücksichtigt diesen Zusammenhang nur zu vereinfacht.

Demokratie und Verständnis – Können alle datengetriebene Algorithmen verstehen?

Um datengetriebene Algorithmen und deren Einsatz in demokratischen Prozessen zu bewerten, müssen wir die Konsequenzen ihres Einsatzes abschätzen können – eine große Herausforderung aufgrund der Komplexität und Datenabhängigkeit. Zentral hierfür ist ein Verständnis dieser Algorithmen, potentiell auch von Personen ohne technischen Hintergrund, die an den demokratischen Prozessen teilnehmen.

Das Forschungsfeld "Explainable Artificial Intelligence" (XAI) beschäftigt sich mit der Thematik Algorithmen bzw. deren Vorhersagen zu erklären. Derzeit aber noch primär für Expertinnen und Experten. Dennoch gibt es Bestrebungen, XAI für Laien zu ermöglichen. Eine Herausforderung hierbei ist es, Laien die für die Beurteilung von Eigenschaften eines Algorithmus notwendigen Informationen zur Verfügung zu stellen, z. B. ob gewisse Personengruppen benachteiligt werden.

In einem vom Wiener Wissenschafts-, Forschungs- und Technologiefonds geförderten Forschungsprojekt befassen wir uns unter anderem genau mit dieser Problematik. Bis allen relevanten Personen Algorithmen und deren Eigenschaften vermittelt werden können, benötigt es noch weitere Forschung. Aber dann besteht hoffentlich die Chance, auf breiter und informierter Basis über den Einsatz von Algorithmen, die uns alle betreffen, zu diskutieren.

• Der Gastbeitrag von Sebastian Tschiatschek erschien auch auf DerStandard im Rahmen der Kooperation zur Semesterfrage. Diskutieren Sie hier mit!