KI regulieren: Tun wir das Richtige?

Warum muss ein Würstelstand weit mehr Auflagen erfüllen als ein milliardenschweres sozio-technologisches Experiment? Wenn ein Unternehmen ein KI-Sprachmodell auf den Weltmarkt wirft, geschieht dies bislang ohne externe Qualitätskontrolle, selbst wenn es binnen weniger Wochen Millionen an Nutzer*innen hat. Wer das für problematisch hält, wirkt schnell ängstlich, technologiefeindlich oder gar antiaufklärerisch.

Viele glauben, das Recht könne nicht schnell genug auf neue Technologien reagieren, das Internet ließe sich nicht territorialisieren oder Social Media sei nicht zu kontrollieren. Hinzukommt ein faszinierender Unwille, bestehendes Recht anzuwenden. An Vorschriften fehlte es nicht, z.B. das Datenschutz-, Urheber- oder Wettbewerbsrecht. Neu ist das Phänomen KI jedenfalls nicht, teils existieren die eingesetzten Methoden schon seit Jahrzehnten.

Regulierung: Europas letzte Innovation?

Parallel zum Hype um die vermeintliche technologische Innovation arbeitet Europa an einer anderen Innovation – einem dafür geeigneten Rechtsrahmen. Auch dieser fordert heraus. Wer ist noch in der Lage, den Neuerungen zu folgen und sie in einem größeren Kontext zu verstehen? Allein unter der von der Leyen-Kommission waren es rund 40 Rechtsakte, darunter das Gesetz über die digitalen Märkte sowie das über digitale Dienste und zuletzt das viel diskutierte EU KI-Gesetz: ein komplexes Konvolut mit über 450 Seiten, schwer verständlichen Regelungen, teils sperriger oder unpräziser Sprache und voller politischer Kompromisse.

Das KI-Gesetz zählt zum klassischen Produktsicherheitsrecht. Das Konzept ist einfach, es baut auf einer Risikobewertung der Technologien auf: Es verbietet zu hohe Risiken, federt hohe mit strengen Qualitäts- und Sicherheitsanforderungen ab und reguliert geringe nicht. Stellen Sie sich vor, ein KI-System versucht alleine aufgrund der Staatsangehörigkeit oder des Wohnortes vorherzusagen, ob jemand eine Straftat begehen wird. Das wäre verboten. Diese KI steht nicht im Einklang mit dem europäischen Wertesystem, insbesondere der Unschuldsvermutung. Einen KI-basierten Pflegeroboter in einem Altenheim einzusetzen, wäre hingegen erlaubt. Um die Privatsphäre und die Menschenwürde der betroffenen Personen zu schützen, müssen solche Systeme jedoch strengen Qualitäts- und Sicherheitsanforderungen entsprechen. Und wenn Sie Fred, den Chatbot des Finanzministeriums, nutzen, muss künftig deutlich erkennbar sein, dass Sie mit einer KI kommunizieren.

Darüber hinaus unterliegen auch KI-Modelle mit allgemeinem Verwendungszweck, zum Beispiel KI-Sprachmodelle, bald strengen Regelungen; jedenfalls dann, wenn von ihnen systemische Risiken erwartbar sind. Bei diesen Modellen ist u.a. eine Strategie zur Einhaltung des Urheberrechts vorzuweisen und ein angemessenes Maß an Cybersecurity einzuhalten. Die Regelungen zur Einordnung der Modelle in solche mit und solche ohne systemisches Risiko wirken jedenfalls wie ein Buch mit sieben Siegeln.

Auswirkungen des KI-Gesetzes auf die Gesellschaft

Was aber bedeutet das Gesetz für uns Bürger*innen? Zunächst nicht viel, das Gesetz verpflichtet primär die Wirtschaft. Damit gewährleistet es, wie in ähnlichen Bereichen üblich, die Gesundheit und die Produktsicherheit. Das Gesetz ist aber auch innovativ. Es schützt die Grundrechte, die Umwelt, die Demokratie und den Rechtsstaat über Produktstandards.

Doch anders als es die Begriffe vermuten ließen, ermächtigen diese Vorschriften einzelne Personen nicht. Grundrechtsverletzungen sind nicht einklagbar, Bürgerbeteiligung ist nicht vorgesehen, und es gibt kaum Rechte, gegen eine Verletzung dieses Gesetzes vorzugehen. Daran ändern auch die in letzter Minute eingeführten Betroffenen- und Beschwerderechte nichts. Diese erlauben es zwar jeder Person, eine Verletzung des Gesetzes anzuzeigen und geben Betroffenen von KI-Entscheidungen ein Recht auf Transparenz und Erklärung. Mit einem traditionellen Grundrechtsschutz hat das aber wenig zu tun, denn das Gesetz legt den Schutz dieser Güter primär in die Hand der Wirtschaft und der KI-nutzenden Verwaltung.

Wer darf experimentieren?

Die Kritik am Gesetz ist berechtigt, sowohl inhaltlich als auch legistisch. Es überfordert, regelt zu viel und zu wenig zugleich. Es stellt die Wirtschaft vor schwer lösbare und kostspielige Aufgaben. Zugleich schützt es nicht oder nicht ausreichend vor vielen Gefahren, etwa vor KI-basierter Kriegstechnologie oder vor umfassenden Klima-relevanten Auswirkungen.

Das Gesetz ist aber viel besser als sein jetzt schon schlechter Ruf. Wollen wir in einer technologisch mediatisierten Welt der KI-basierten Klassifizierung existieren, in der Menschen zunehmend von grundrechtlichen Subjekten zu technologisch kontrollierten Objekten werden? Oder wollen wir auch in fünf Jahren noch in liberalen rechtsstaatlichen Demokratien leben? In einer Welt, in der es auch künftig Freiheitsräume gibt, die es erlauben, sich zu entfalten und zu unterscheiden. Wer das will, muss akzeptieren, dass Demokratie und Rechtsstaat teuer sind und Zeit, aber auch wissenschaftliche Expertise brauchen.

Es steht viel am Spiel. Wenn aber, wie eingangs erwähnt, die Wirtschaft mit der Gesellschaft experimentiert, darf auch die Gesellschaft, und damit der Gesetzgeber, ein wenig mit der Industrie experimentieren.

• Wie sehen Sie das? Diskutieren Sie mit im Forum zum Artikel auf derStandard.at

• Dieser Artikel erschien im Rahmen der Kooperation zur Semesterfrage auch auf derStandard.at.