"Keine Angst vor KI"

Nikolaus Forgó: Das Unangenehme an der Zukunft ist, dass man sie schlecht antizipieren kann, selbst als Expert*in. Ich glaube, dass man auf Ihre Frage, egal mit welchem fachlichen Hintergrund, seriös nur antworten kann: Nein, wir wissen nicht, was die KI wissen wird. Gerade, weil man die weiteren Entwicklungen so schwer vorhersagen kann, versucht man, die möglichen Risiken politisch und juristisch einzuhegen. Und zwar, bevor wir feststellen müssen, dass wir nicht wussten, was die KI weiß.

Nikolaus Forgó: Das EU AI-Gesetz enthält eine Risikoklassifizierung in vier Stufen: Inakzeptabel, hoch, begrenzt und vernachlässigbar. Diese Klassifizierung setzt bestimmte Annahmen über die Zukunft voraus, und auch diverse ethische Überzeugungen, die nicht immer in aller Breite diskutiert wurden. Nehmen wir das Beispiel der Echtzeitvideoüberwachung: Wollen wir Überwachungssysteme, die Personen mithilfe von KI "live" identifizieren? Ursprünglich gab es da ein klares Nein. Aber dann wurde sehr lange darüber diskutiert, ob man wirklich ein Nein will. Und jetzt haben wir, vereinfacht gesprochen, einen Text, der sagt: Wir wollen so etwas nicht in Europa, außer wir brauchen es. Das Gesetz sieht also vor, dass unter bestimmten Voraussetzungen, Stichwort schwere Kriminalität, ein solches System eingesetzt werden kann. Es gibt sicher gute Argumente, die dafür sprechen und auch solche, die dagegen sprechen. Aber ich hätte mir gewünscht, dass die Diskussion über solche Fragen sehr viel breiter geführt würde, denn sie hat nur wenige Fachleute erreicht.

Das Gesetz ist zwar sehr lang und komplex, ist aber inhaltlich sehr auf das Thema Risiken fokussiert. Deutlich weniger beschäftigt sich der Text mit der Frage, wie er mit anderen europäischen Gesetzen zusammenspielen soll – etwa mit der Datenschutzgrundverordnung und dem Digital Services Act. Das hat praktische Auswirkungen: Welche Behörde ist überhaupt zuständig, wenn ich in irgendeiner Weise Opfer einer KI geworden bin oder eine solche einsetzen will? Das ist nicht klar. Darüber ist erstaunlich wenig nachgedacht worden.

Und das Gesetz ist so risikozentriert, dass das Thema Potenziale darin kaum zur Geltung kommt. Man hätte viel mehr darüber nachdenken können, was zu tun ist, um das Interesse des Gemeinwohls zu stärken, und nicht nur jenes von großen Unternehmen.

Nikolaus Forgó: Unsere Welt ist sehr komplex geworden. Das macht es in vielen Situationen schwierig, fundierte Entscheidungen im besten eigenen Interesse zu treffen. Einem Arzt oder einer Ärztin müssen Sie vertrauen, ohne zu wissen, was die persönliche Risikoaffinität der anderen Person ist. Wenn Sie einen schlimmen Husten haben, wägt der oder die Mediziner*in ab und berät Sie entsprechend: Machen wir ein Lungenröntgen oder nicht? Neun von zehn Husten sind vielleicht harmlos. Schickt der Arzt jeden der zehn Fälle ohne Röntgen nachhause, nimmt er in Kauf, den einen nicht harmlosen Fall zu übersehen. Dafür wird aber niemand unnötig einer vielleicht schädlichen Strahlung ausgesetzt. Ist es stattdessen besser, alle zehn Patient*innen zu röntgen, obwohl das bei neun von zehn nicht notwendig ist? 

Von solchen Entscheidungen sind wir persönlich stark betroffen, wir wissen aber nichts von der Risikoaffinität unserer Ärztin oder unseres Arztes. KI könnte hier vielleicht mehr an Autonomie zurückgeben. Eben wenn man solche Entscheidungen nicht an ein unbekanntes Gegenüber delegiert, sondern an eine individualisierbare, lernfähige Risikowahrnehmung, die man selbst für richtig hält. Wie wichtig ist es mir, das Lungenröntgen zu machen im Vergleich dazu, den Strahlen ausgesetzt zu sein, zum Beispiel. Dieses Mehr an Autonomie halte ich für eines der größten Potenziale von KI.

Nikolaus Forgó: Vielleicht ist es mir gar nicht so wichtig, wie die KI darauf kommt, solange ich ihr vorgegeben habe: Schicke mich im Zweifel immer zum Röntgen, oder schicke mich nur, wenn ich mit hoher Wahrscheinlichkeit ein Problem habe.

Aber ich stimme zu, dass Transparenz hier eine wichtige Frage ist. Es liegt ein großes Risiko darin, Entscheidungen auf Grundlage der Daten der Vergangenheit zu treffen. Wenn in den Daten Vorurteile oder irgendwelche anderen unbekannten Faktoren enthalten sind, funktioniert die KI-Entscheidungsfindung nicht so, wie sie soll.

Nikolaus Forgó: Wir haben derzeit ein enormes wissenschaftspolitisches Problem: Auch für die großen Universitäten, selbst die amerikanischen, ist es nahezu unmöglich geworden, in der KI-Forschung wettbewerbsfähig zu bleiben. Das heißt, wie haben das vielleicht erste Mal überhaupt in der Geschichte der westlichen Wissenschaft den Fall, dass die Universitäten in einem sehr wichtigen Forschungsgebiet keine große Rolle spielen, weil die private Forschung die Oberhand hat.  

Aus dieser Situation ergeben sich mehrere Herausforderungen: Man müsste überlegen, wie man private Forschung sinnvoll regulieren kann, sodass sie nicht nur die Interessen ihrer Aktionär*innen, sondern auch das Gemeinwohl fördert. Wir haben zwar grundsätzlich wettbewerbsfähige Grundlagenforschung in Europa, auch im Bereich KI, die sich aber schwer damit tut, etwas zu entwickeln, das auf den Markt kommt. Und diese Limitierungen müsste man versuchen, so gut wie möglich zu beseitigen. 

Nikolaus Forgó: Das Wichtigste, was ich ihnen mitgebe: Ich weiß auch nicht, was auf uns zukommt, denn niemand kann die Zukunft vorhersagen. Die zweite Botschaft ist: Man soll sich vor der KI nicht fürchten. Und die dritte wäre: Man lernt in einem Studium nicht mehr als die Bedienung von ein paar Werkzeugen, diese muss man dann in Bereichen anwenden, die man eben noch nicht kennt. Und das wird für die nächste Generation an Juristinnen und Juristen ganz sicher so sein.

Also: Freut euch sehr über diese Entwicklungen, denn sie bringen so viel Arbeit wie noch kaum je etwas davor. Absolvent*innen werden ungeheuer viel zu tun haben, weil es an jeder Ecke ein neues juristisches Problem gibt – durch KI ersetzt werden sie so schnell sicher nicht werden. Die Generation, die jetzt studiert, kommt in einen Markt, der so arbeitnehmerfreundlich ist, wie seit Jahrzehnten nicht mehr.

Nikolaus Forgó: Wenn man eines der gängigen, unentgeltlich verfügbaren Systeme nutzt, muss einem klar sein, dass man mit den Daten bezahlt, die man dort eingibt – nämlich jede Menge an personenbezogener Information. Das kann datenschutzrechtlich heikel sein, besonders wenn ich Informationen über Dritte eingebe, etwa wenn ich Bilder meiner Familie hochlade und die KI beispielsweise nach deren Alter frage.

Dieses Dilemma lässt sich nur sehr schwer auflösen, insbesondere im Hinblick auf die Einhaltung europäischer datenschutzrechtlicher Standards, wenn dann diese Unternehmen nicht in Europa sind, sondern zum Beispiel in China, und sich daher von der DSGVO nicht wahnsinnig beeindrucken lassen.

Nikolaus Forgó: Ich glaube, dass man zu wenig über die Potenziale redet. Ich habe den Eindruck, dass man auch in einschlägigen Fachcommunities nach wie vor relativ wenig an technischen Grundlagenkenntnissen voraussetzen kann. Meiner Wahrnehmung nach ist es sehr schwierig – auch mit solider Allgemeinbildung und einem Allgemeininteresse an dem Thema – beurteilen zu können, was da eigentlich geforscht wird und mit welchem Ziel. Das sehe ich auch als eine Aufgabe von Universitäten: mehr Wissen über die Technologien und deren Regulierung zu vermitteln.