"Why AI Undermines Democracy" von Mark Coeckelbergh

Mark Coeckelbergh: Es geht um die Beziehung zwischen Demokratie und KI. Ich hatte mich schon eine Weile mit KI-Politik beschäftigt und habe dabei philosophische und politische Ansätzen verbunden, um mich mit den Problemen dieser neuen Technologie auseinanderzusetzen. Aus dieser Arbeit entstand mein Buch "The Political Philosophy of AI". Aber zum Thema Demokratie war für mich damit noch nicht alles gesagt.

Ich finde es besorgniserregend, dass wir weltweit, auch in Europa, immer mehr Tendenzen zu autoritären Regierungssystemen beobachten – oder zumindest zu einer Schwächung der Demokratie. Ich habe mich also gefragt: Welchen Einfluss hat die KI auf die Demokratie? In der ersten Hälfte des Buches gehe ich darauf ein, warum sie das Potential hat, die Demokratie zu untergraben. In der zweiten Hälfte befasse ich mich mit Lösungen: Wie kann KI die Demokratie vielleicht sogar fördern, anstatt sie zu beschädigen? Was braucht es dafür?

Mark Coeckelbergh: Um sowohl die Gefahren als auch die Lösungen zu verstehen, muss man zuerst wissen, was Demokratie überhaupt ist. Ich unterstütze den Ansatz der "deliberativen Demokratie". Also die Idee, dass sich alle am Diskurs zu wichtigen Themen und Entscheidungsprozessen beteiligen können sollten. Sie fußt auf den Prinzipien der Aufklärung: Freiheit, Gleichheit, Brüderlichkeit, zum Beispiel. Aus Sicht der Bürger*innen gibt es auch so etwas wie eine Wissensgrundlage, die wichtig für die demokratische Teilhabe ist. Was ich damit meine: Bürger*innen müssen gebildet sein, sie müssen wissen, worüber sie sprechen. Und so können wir eine tatsächlich funktionierende Demokratie sicherstellen. Es steckt mehr dahinter als nur wählen zu gehen.

KI kann die Werte und Prinzipien, auf denen die Demokratie basiert, beeinflussen. Wenn wir beispielsweise KI nutzen, die einen Bias hat, dann hat das einen Einfluss auf Gleichheit und Brüderlichkeit. So kann man eine ungerechte Gesellschaft fördern, auch wenn das gar nicht die Absicht ist. Als Technikphilosoph ist es mir wichtig zu betonten, dass es bei Technologie nicht nur darum geht, was wir damit vorhaben – es geht auch um die unbeabsichtigten Folgen, die damit einhergehen.

Mark Coeckelbergh: Ich denke, das ist diese Wissensgrundlage, die die Bürger*innen brauchen. KI hat das Potenzial, Falschinformation zu verstärken. Es ist gefährlich, wenn die Grenzen dessen, was wahr und was falsch ist, verschwimmen. Wenn wir nicht mehr wissen, was wahr und was falsch ist, dann halte ich es mit der Philosophin Hannah Arendt: Das kann zu Totalitarismus führen.

Mark Coeckelbergh: Ich bin überzeugt, dass es Institutionen braucht, die eine Verbindung zwischen den gewählten Entscheidungsträger*innen und der technologischen Expertise als auch dem teilhabenden Staatsbürger*innen herstellen. Kurzum: Wir müssen Politiker*innen, die führenden Tech-Firmen und Bürger*innen an einen Tisch bringen, unterstützt von professionellen Mediator*innen, die das Gespräch zwischen diesen verschiedenen Welten in Gang bringen. Das würde eine umfassendere Teilhabe der Öffentlichkeit sicherstellen.

Aktuell liegt die Entscheidung über die Zukunft unserer Technologien, dazu gehört auch KI, bei großen Firmen. Die Politik hat da nicht allzu viel zu melden. Und die Bürger*innen noch viel weniger. Es gibt allgemein einige Schritte in die richtige Richtung, beispielsweise in Form des neuen EU AI Act. Aber Reglementierungen hinken tendenziell hinterher. Wir müssen demokratische Werte und Prinzipien eigentlich auch schon im Prozess der eigentlichen Technologieentwicklung integrieren.

Mark Coeckelbergh: Ich empfehle dieses Buch all jenen, die sich der Risiken von KI viel mehr bewusst werden wollen. Aber auch der Tatsache, dass es nicht nur Probleme, sondern auch Lösungen gibt. Es geht in dieser Angelegenheit sehr stark um das große Ganze: Welche Art von Demokratie wollen wir haben? Ich setze das Thema Technologie immer gerne in Beziehung zur größeren Frage: Welche Gesellschaft wollen wir eigentlich?

Mark Coeckelbergh: Als allgemeine Einführung in das Thema würde ich Die KI sei mit euch von Helga Nowotny empfehlen. Sie beschreibt beispielsweise, wie Algorithmen nicht nur Vorhersagen treffen, sondern auch das Verhalten beeinflussen können, sodass selbsterfüllende Prophezeiungen eintreten. Ich finde, das ist ein sehr interessantes Beispiel dafür, wie diese digitalen Technologien unsere Erfahrungen, unser Verhalten und unsere Einstellungen zur Zukunft verändern können.

Mark Coeckelbergh: Ich befasse mich schon eine Zeit lang mit dem Thema KI und Klimawandel. Ein Buch, das in diesem Feld früh dran war, ist Atlas of AI von Kate Crawford. Sie erinnert uns, dass KI nicht nur Code ist, sondern dass es dafür auch ganz physische und konkrete Dinge braucht: Infrastruktur und Arbeitskraft, häufig auch in fernen Weltregionen. Und dann ist da der massive Energieverbrauch durch die digitalen Technologien.

In diesem Buch geht es um die versteckten Kosten von KI für die Umwelt und die Arbeitskräfte. Ich glaube, dieses Thema ist vielen nicht so präsent, weil Datenverarbeitung wie eine ganz saubere Sache wirkt. Wir können meistens keinen Blick werfen hinter die Kulissen, auf die Infrastruktur und den manuellen Aufwand, die es braucht, um alles am Laufen zu halten. Dieses Buch bietet eine sehr interessante Einführung in das Thema.

Mark Coeckelbergh: Unter anderem AI narratives, eine editierte Sammlung von Essays zur Geschichte von Maschinen und Automatisierung im Laufe der Geschichte. Wissen Sie, die Idee von autonomen Maschinen hatten schon Denker wie Aristoteles. Es ist wirklich interessant zu sehen, wie sich die Menschen künstliche Wesen vorstellten – wie sie aussehen und was sie können würden. Hier sieht man auch Parallelen zu heute, wo sich manche noch immer vorstellen, dass eine Art "künstlicher Diener" Dinge für uns erledigt. Und damit einhergehend alle Probleme, die entstehen, wenn man in den Kategorien von Meister und Sklave denkt. Diese Vorstellungen gab es auch schon in altertümlichen Zeiten.

Das bringt mich zum zweiten Buch: die Odyssee von Homer. Abgesehen davon, dass es eine gute Geschichte ist, beschreibt die Odyssee auch eine interessante, uralte Vorstellung von Technologie: Homer schreibt, dass die Phaiaken Schiffe hätten, die sich selbst steuern und die Gedanken der Menschen verstehen würden. Später gibt es die Geschichte von Talos, einer Art Roboter avant la lettre. Diese Vorstellungen gab es schon in diesen sehr alten Werken zu Beginn der westlichen Zivilisation - obwohl wir griechische Klassiker normalerweise nicht mit Technologie verbinden.