Rudolphina Reads...

"Why AI Undermines Democracy" von Mark Coeckelbergh

28. März 2024 von Sebastian Deiber
Wie verhindern wir, dass KI die Grundfesten der Demokratie erschüttert? Dieser Frage geht Mark Coeckelbergh, Professor für Medien- und Technikphilosophie an der Universität Wien, in seinem neuesten Buch nach. Er argumentiert, dass es keinen Grund für Endzeitstimmung gibt und zeigt Möglichkeiten für bessere Teilhabe an einer funktionierenden Demokratie auf.
Mitten auf der berühmten Philosophenstiege im Hauptgebäude der Universität sind wir auf einen Philosophen gestoßen. Mark Coeckelbergh hat sein neues Buch „Why AI undermines democracy and what to do about it“ (Warum KI die Demokratie untergräbt und was wird dagegen tun können) dabei und hat auch gleich ein paar Leseempfehlungen für uns parat. © Barbara Mair

Rudolphina:  Professor Coeckelbergh, worum geht es in Ihrem Buch und warum haben Sie es geschrieben?

Mark Coeckelbergh: Es geht um die Beziehung zwischen Demokratie und KI. Ich hatte mich schon eine Weile mit KI-Politik beschäftigt und habe dabei philosophische und politische Ansätzen verbunden, um mich mit den Problemen dieser neuen Technologie auseinanderzusetzen. Aus dieser Arbeit entstand mein Buch "The Political Philosophy of AI". Aber zum Thema Demokratie war für mich damit noch nicht alles gesagt.

Ich finde es besorgniserregend, dass wir weltweit, auch in Europa, immer mehr Tendenzen zu autoritären Regierungssystemen beobachten – oder zumindest zu einer Schwächung der Demokratie. Ich habe mich also gefragt: Welchen Einfluss hat die KI auf die Demokratie? In der ersten Hälfte des Buches gehe ich darauf ein, warum sie das Potential hat, die Demokratie zu untergraben. In der zweiten Hälfte befasse ich mich mit Lösungen: Wie kann KI die Demokratie vielleicht sogar fördern, anstatt sie zu beschädigen? Was braucht es dafür?

Rudolphina:  Können Sie auf ein paar der Gefahren eingehen?

Mark Coeckelbergh: Um sowohl die Gefahren als auch die Lösungen zu verstehen, muss man zuerst wissen, was Demokratie überhaupt ist. Ich unterstütze den Ansatz der "deliberativen Demokratie". Also die Idee, dass sich alle am Diskurs zu wichtigen Themen und Entscheidungsprozessen beteiligen können sollten. Sie fußt auf den Prinzipien der Aufklärung: Freiheit, Gleichheit, Brüderlichkeit, zum Beispiel. Aus Sicht der Bürger*innen gibt es auch so etwas wie eine Wissensgrundlage, die wichtig für die demokratische Teilhabe ist. Was ich damit meine: Bürger*innen müssen gebildet sein, sie müssen wissen, worüber sie sprechen. Und so können wir eine tatsächlich funktionierende Demokratie sicherstellen. Es steckt mehr dahinter als nur wählen zu gehen.

KI kann die Werte und Prinzipien, auf denen die Demokratie basiert, beeinflussen. Wenn wir beispielsweise KI nutzen, die einen Bias hat, dann hat das einen Einfluss auf Gleichheit und Brüderlichkeit. So kann man eine ungerechte Gesellschaft fördern, auch wenn das gar nicht die Absicht ist. Als Technikphilosoph ist es mir wichtig zu betonten, dass es bei Technologie nicht nur darum geht, was wir damit vorhaben – es geht auch um die unbeabsichtigten Folgen, die damit einhergehen.

Rudolphina:  Gibt es ein zentrales Element der Demokratie, das besonders anfällig ist?

Mark Coeckelbergh: Ich denke, das ist diese Wissensgrundlage, die die Bürger*innen brauchen. KI hat das Potenzial, Falschinformation zu verstärken. Es ist gefährlich, wenn die Grenzen dessen, was wahr und was falsch ist, verschwimmen. Wenn wir nicht mehr wissen, was wahr und was falsch ist, dann halte ich es mit der Philosophin Hannah Arendt: Das kann zu Totalitarismus führen.

Rudolphina:  Was wären denn mögliche Lösungen?

Mark Coeckelbergh: Ich bin überzeugt, dass es Institutionen braucht, die eine Verbindung zwischen den gewählten Entscheidungsträger*innen und der technologischen Expertise als auch dem teilhabenden Staatsbürger*innen herstellen. Kurzum: Wir müssen Politiker*innen, die führenden Tech-Firmen und Bürger*innen an einen Tisch bringen, unterstützt von professionellen Mediator*innen, die das Gespräch zwischen diesen verschiedenen Welten in Gang bringen. Das würde eine umfassendere Teilhabe der Öffentlichkeit sicherstellen.

Aktuell liegt die Entscheidung über die Zukunft unserer Technologien, dazu gehört auch KI, bei großen Firmen. Die Politik hat da nicht allzu viel zu melden. Und die Bürger*innen noch viel weniger. Es gibt allgemein einige Schritte in die richtige Richtung, beispielsweise in Form des neuen EU AI Act. Aber Reglementierungen hinken tendenziell hinterher. Wir müssen demokratische Werte und Prinzipien eigentlich auch schon im Prozess der eigentlichen Technologieentwicklung integrieren.

Rudolphina:  Wer sollte Ihr Buch lesen und warum?

Mark Coeckelbergh: Ich empfehle dieses Buch all jenen, die sich der Risiken von KI viel mehr bewusst werden wollen. Aber auch der Tatsache, dass es nicht nur Probleme, sondern auch Lösungen gibt. Es geht in dieser Angelegenheit sehr stark um das große Ganze: Welche Art von Demokratie wollen wir haben? Ich setze das Thema Technologie immer gerne in Beziehung zur größeren Frage: Welche Gesellschaft wollen wir eigentlich?

Abbildung der 4 in diesem Artikel besprochenen Bücher
"Why AI undermines Democracy" (1) und weitere Bücher zum Thema KI, empfohlen von Mark Coeckelbergh. In dem Buch „In AI we trust“ (2) erläutert die emeritierte Universitätsprofessorin Helga Nowotny, wie Vorhersagealgorithmen das menschliche Handeln einschränken könnten. „Atlas of AI“ (3) von Kate Crawford taucht in die Welt der scheinbar sauberen Welt von Computeralgorithmen ein und enthüllt, welch tiefgreifenden Einfluss die Industrie auf die Umwelt und auf Arbeitnehmer*innen in aller Welt hat. Mark Coeckelbergh fasziniert auch, dass Ideen von Automatisierung und künstlicher Intelligenz schon vor 2800 Jahren in der "Odyssee" (4), die Homer zugeschrieben wird, Einzug fanden. © Barbara Veit (Grafik) und die Verlage (Buchcovers)

Rudolphina:  Haben Sie eine Buchempfehlung für Leser*innen, denen „Why AI Undermines Democracy“ gefallen hat?

Mark Coeckelbergh: Als allgemeine Einführung in das Thema würde ich Die KI sei mit euch von Helga Nowotny empfehlen. Sie beschreibt beispielsweise, wie Algorithmen nicht nur Vorhersagen treffen, sondern auch das Verhalten beeinflussen können, sodass selbsterfüllende Prophezeiungen eintreten. Ich finde, das ist ein sehr interessantes Beispiel dafür, wie diese digitalen Technologien unsere Erfahrungen, unser Verhalten und unsere Einstellungen zur Zukunft verändern können.

Rudolphina:  Welches Buch können Sie noch empfehlen, um sich weiter ins Thema zu vertiefen?

Mark Coeckelbergh: Ich befasse mich schon eine Zeit lang mit dem Thema KI und Klimawandel. Ein Buch, das in diesem Feld früh dran war, ist Atlas of AI von Kate Crawford. Sie erinnert uns, dass KI nicht nur Code ist, sondern dass es dafür auch ganz physische und konkrete Dinge braucht: Infrastruktur und Arbeitskraft, häufig auch in fernen Weltregionen. Und dann ist da der massive Energieverbrauch durch die digitalen Technologien.

In diesem Buch geht es um die versteckten Kosten von KI für die Umwelt und die Arbeitskräfte. Ich glaube, dieses Thema ist vielen nicht so präsent, weil Datenverarbeitung wie eine ganz saubere Sache wirkt. Wir können meistens keinen Blick werfen hinter die Kulissen, auf die Infrastruktur und den manuellen Aufwand, die es braucht, um alles am Laufen zu halten. Dieses Buch bietet eine sehr interessante Einführung in das Thema.

Forschungsverbund Umwelt und Klima

Mark Coeckelbergh ist Mitglied des Forschungsverbunds Umwelt und Klima der Universität Wien (ECH), ein Netzwerk von Forscher*innen aus allen Disziplinen, die sich mit den Themen Umwelt, Klima und Nachhaltigkeit beschäftigen. 

Lesen Sie unser Interview mit dem Klimaforscher Stefan Rahmstorf, der bei der Auftaktveranstaltung des ECH den Keynote-Vortrag hielt.

Rudolphina:  Welche Lektüre liegt gerade auf Ihrem Nachtkästchen?

Mark Coeckelbergh: Unter anderem AI narratives, eine editierte Sammlung von Essays zur Geschichte von Maschinen und Automatisierung im Laufe der Geschichte. Wissen Sie, die Idee von autonomen Maschinen hatten schon Denker wie Aristoteles. Es ist wirklich interessant zu sehen, wie sich die Menschen künstliche Wesen vorstellten – wie sie aussehen und was sie können würden. Hier sieht man auch Parallelen zu heute, wo sich manche noch immer vorstellen, dass eine Art "künstlicher Diener" Dinge für uns erledigt. Und damit einhergehend alle Probleme, die entstehen, wenn man in den Kategorien von Meister und Sklave denkt. Diese Vorstellungen gab es auch schon in altertümlichen Zeiten.

Das bringt mich zum zweiten Buch: die Odyssee von Homer. Abgesehen davon, dass es eine gute Geschichte ist, beschreibt die Odyssee auch eine interessante, uralte Vorstellung von Technologie: Homer schreibt, dass die Phaiaken Schiffe hätten, die sich selbst steuern und die Gedanken der Menschen verstehen würden. Später gibt es die Geschichte von Talos, einer Art Roboter avant la lettre. Diese Vorstellungen gab es schon in diesen sehr alten Werken zu Beginn der westlichen Zivilisation - obwohl wir griechische Klassiker normalerweise nicht mit Technologie verbinden.

Lesen Sie auch
Forschende präsentieren ihr neuestes Buch
"Rudolphina Reads" stellt Bücher von Forschenden der Universität Wien vor. Archäologin Naoíse Mac Sweeney sprach mit Rudolphina über ihr neuestes Buch "Der Westen – Die neue Geschichte einer alten Idee" und teilte ihre Leseempfehlungen.

Alle Infos zum Buch "Why AI Undermines Democracy and What To Do About It"

Von Mark Coeckelbergh, Polity Books, 144 S. 

In diesem fesselnden und ausgewogenen Buch zeigt Mark Coeckelbergh auf, welche Risiken KI für die Demokratie birgt. Er erläutert, dass KI, so wie sie derzeit eingesetzt und entwickelt wird, die Grundprinzipien liberaler Demokratien, wie Freiheit und Gleichheit, untergräbt. Wie können wir die Demokratie angesichts der KI widerstandsfähiger machen? Und, aus einer positiveren Perspektive, was kann die KI für die Demokratie leisten? Coeckelbergh setzt sich nicht nur für demokratischere Technologien ein, sondern auch für neue politische Institutionen und eine Erneuerung der Bildungssysteme um sicherzustellen, dass KI das Gemeinwohl im 21. Jahrhundert fördert, anstatt es zu behindern. (Vom Herausgeber)

© Jana Plavec
© Jana Plavec
Mark Coeckelbergh ist Professor für Medien- und Technikphilosophie am Institut für Philosophie der Universität Wien. Seine Spezialgebiete sind Ethik und Technologie, insbesondere Ethik im Bereich der Robotik und der künstlichen Intelligenz.

Er ist Mitglied der Hochrangigen Expertengruppe für künstliche Intelligenz bei der Europäischen Kommission sowie Mitglied des Technischen Expertenausschusses (TEC) der Foundation for Responsible Robotics. Derzeit ist er am europäischen Forschungsprojekt im Bereich der Robotik PERSEO beteiligt und hat zu internationalen Projekten wie DREAM und dem SIENNA-Projekt beigetragen.