Warum es weltweite Regulierungen für Künstliche Intelligenz braucht
KI-Wissen: Ring-Vorlesung & Selbstlern-Kurs MOOC
- In der Ringvorlesung Machines That Understand? Large Language Models and Artificial Intelligence im WS 2023 berichten internationale Vortragende über aktuelle Entwicklungen im Bereich der KI, sowie über deren Fähigkeiten, Grenzen und gesellschaftliche Relevanz. Hier finden Sie mehr Information und den Link zum Live Stream.
- Mehr zu Ringvorlesungen im WS 2023 im Blog der Uni Wien
- Wer mehr über Digitalisierung und damit einhergehende Transformationsprozesse wissen möchte, dem empfehlen wir den kostenlosen digitalen Selbstlern-Kurs MOOC "Digitales Leben 4" Die fünf Lektionen ermöglichen es den Teilnehmer*innen, die Risiken und Möglichkeiten digitaler Transformationsprozesse zu bewerten, eine konstruktiv-kritische Position zum digitalen Wandel zu beziehen und sich als aktiven Teil der digitalen Transformation zu fühlen.
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz (KI) werfen grundlegende ethische Fragen auf, die einer breiten gesellschaftlichen Diskussion bedürfen. Die Forderungen nach Regulierungen im Bereich der KI werden immer lauter. Die UNESCO hat deshalb bereits im Jahr 2021 eine Empfehlung zur Ethik der Künstlichen Intelligenz verabschiedet, die eine zentrale Orientierungshilfe bei der Ausgestaltung von sogenannten KI-Governance-Systemen bietet.
Die UNESCO-Empfehlung zur Ethik der KI
Zu den Zielen der UNESCO-Empfehlung zählen die Wahrung der Grund- und Freiheitsrechte, der Menschenrechte, die Förderung von Entwicklung und Gleichstellung sowie die Stärkung von Demokratie und Rechtsstaat. Mit den Empfehlungen soll das Potential von KI genutzt werden und die Risiken in Bezug auf Diskriminierung, Desinformation, negativen Auswirkungen auf die Umwelt und den Datenschutz minimiert werden. Gefördert wird ein gleichberechtigter Zugang zu KI-Entwicklungen und -Wissen, eine gleichberechtige Aufteilung des Nutzens sowie eine Berücksichtigung von ethischen Grundlagen im gesamten Zyklus der Künstlichen Intelligenz.
Um die Umsetzungen der UNESCO-Empfehlungen in Österreich zu begleiten, wurde im Juli 2023 der interdisziplinäre „Fachbeirat Ethik der Künstlichen Intelligenz“ konstituiert – mit dem Ziel, das Bewusstsein für die ethischen Implikationen digitaler Technologien zu schärfen und einen gesellschaftlichen Dialog anzustoßen sowie wissenschaftliche Expertise bei der Ausgestaltung regulatorischer Rahmenbedingungen für Künstliche Intelligenz einzubringen.
Diesem Fachbeirat gehören die Politikwissenschafterin Barbara Prainsack, der Technikphilosoph Mark Coeckelbergh von der Uni Wien und Sandra Wachter, Rechtswissenschafterin an der Universität Oxford und Alumna der Uni Wien an.
Rudolphina: Bereits Ende 2021 verabschiedete die UNESCO nach einem zweijährigen Aushandlungsprozess den ersten global abgestimmten Völkerrechtstext zum Thema „KI-Ethik“- unter Einbeziehung aller 193 Mitgliedsstaaten. Warum benötigt es weltweite Rahmenbedingungen für die Nutzung von Künstlicher Intelligenz?
Mark Coeckelbergh: KI macht nicht an Grenzen halt und dasselbe gilt für die Konsequenzen, die sie mit sich bringt. Vor diesem Hintergrund ist es entscheidend, weltweite Strukturen zur Regulierung von KI einzurichten. Institutionen wie die UNESCO und die UNO können bei der Unterstützung dieses Prozesses eine Schlüsselrolle spielen.
Sandra Wachter: Technologie muss global gedacht werden, denn ihr Einfluss beschränkt sich nie auf nur ein Land allein. Das heißt, dass wir auch Governance, also den Umgang mit Technologien, global denken müssen. Dabei darf es keinen Wettbewerb um günstigere Regulatorien geben, denn dann laufen wir Gefahr, Einschnitte im Datenschutz und im Schutz unserer Grundrechte hinnehmen zu müssen. Wir brauchen Maßnahmen, die garantieren, dass sich die Macht nicht nur bei einzelnen Großkonzernen konzentriert.
Barbara Prainsack: Dass neue digitale Technologien – und hier insbesondere jene, die unter ‚Künstliche Intelligenz‘ zusammengefasst werden – Auswirkungen auf viele Bereiche unseres Lebens haben und haben werden, ist offenkundig. Manche Aspekte werden bereits breit diskutiert, etwa der Einfluss von KI auf die Arbeitswelt. Andere Aspekte finden noch zu wenig Beachtung, etwa die Rolle der KI im Energiesektor, sowohl als mögliche Katalysatorin einer Energiewende, als auch als Technologie mit massivem Energieverbrauch. Dass also rechtliche Rahmenbedingungen geschaffen werden müssen, ist unstrittig. Wie diese aussehen sollen, da scheiden sich noch die Geister. Umso wichtiger ist es, dass hier international koordiniert vorgegangen wird, soweit dies möglich ist.
KI macht nicht an Grenzen halt und dasselbe gilt für die Konsequenzen, die sie mit sich bringt.Mark Coeckelbergh
Rudolphina: Gerade in Anbetracht der vielseitigen Nutzungsmöglichkeiten und der rasanten Entwicklung dieser Technologie scheint eine rasche, globale Regulierung dringend notwendig. Welche Gefahren drohen, sollte man KI nicht regulieren? Und welche Möglichkeiten liefert Künstliche Intelligenz bei einer entsprechenden Regulierung?
Mark Coeckelbergh: KI schafft viele Möglichkeiten, vor denen wir nicht die Augen verschließen sollten. Wenn man in den Medien über KI liest, mutet es manchmal so an, als wäre KI eine Katastrophe für die Welt. Manchen Menschen ist es vielleicht ein Anliegen, das zu sagen. Aber dieses Untergangsdenken lenkt von konkreten und spezifischen Risiken ab. Ich sehe die Gefahr, dass wir die rechtlichen Verantwortlichkeiten im Falle der Verwendung von KI für intelligente Automation nicht ordentlich regulieren. Ich beobachte, wie KI zum Zwecke der Manipulation in digitalen Social Media-Kontexten eingesetzt wird und bin überzeugt, dass sie Risiken für die Demokratie mit sich bringt, wenn Fehlinformationen beispielsweise einfach erstellt und verbreitet werden können. Über die Schaffung ständig effektiverer, nationaler und insbesondere globaler Mechanismen zur Regulierung dieser Art der Technologie können wir jedoch die Risiken minimieren und die Gefahren eingrenzen. Es gibt keinen Grund zur Panik.
Sandra Wachter: Die Einsatzmöglichkeiten von KI sind äußerst vielseitig, sie betreffen beinahe jeden Lebensbereich . Ob diese eher eine Chance oder ein Risiko bergen, hängt von der Regulierung ab. Wenn wir es schaffen, gute rechtliche und technische Rahmenbedingungen zu schaffen, kann man mit Hilfe von KI Entscheidungen sogar transparenter gestalten als bisher.
Barbara Prainsack: Der Chancen versus Gefahren-Diskurs ist selbst Teil des Problems. Die Prämisse ist, dass die Technologie an sich Gefahren und Chancen birgt. Noch hängen aber die Risiken und Chancen davon ab, wie wir KI gestalten und nutzen – und eben auch regulieren. Diese Entscheidungen müssen der demokratischen Kontrolle unterliegen und dürfen nicht allein privaten Firmen überlassen werden. Solange wir einen gesellschaftlichen Diskurs führen, der öffentliche Kontrolle mit Schwerfälligkeit und Verboten assoziiert und private Innovation mit Effizienz und Fortschritt, werden wir hier aber nicht weiterkommen.
"Noch hängen die Risiken und Chancen davon ab, wie wir KI gestalten und nutzen – und eben auch regulieren."Barbara Prainsack
Rudolphina: Ziel des neu geschaffenen Gremiums „Ethik der Künstlichen Intelligenz“ ist es, die Umsetzung der UNESCO-Empfehlung auf nationaler und internationaler Ebene zu begleiten. Wie sieht Ihre Arbeit im Fachbeirat in der Praxis aus?
Mark Coeckelbergh: Der Beirat kann Vorschläge zur Umsetzung der UNESCO-Empfehlungen in Österreich machen, hat aber natürlich nicht das letzte Wort. Er kann sich auf bestimmte Punkte der Empfehlungen konzentrieren, wo es im konkreten nationalen Kontext noch weiterer Anstrengungen bedarf.
Barbara Prainsack: Zu den konkreten Aufgaben des Fachbeirats gehören das Monitoring der UNESCO-Empfehlungen zur Ethik der KI, der Informationsaustausch und die Diskussion von relevanten Themen und Entwicklungen im Zusammenhang mit den UNESCO-Empfehlungen. Dazu zählt unter anderem die Unterstützung bei der Definition von Schwerpunktthemen, die Begleitung und Förderung der nationalen Umsetzung der Empfehlung, die Förderung eines breiten innerösterreichischen Diskurses sowie die Unterstützung von Maßnahmen im Sinne einer Bewusstseinsbildung und Öffentlichkeitsarbeit.
Sandra Wachter: Der Fachbeirat ist definitiv kein Überwachungsorgan. Unser Wunsch ist es, einen Dialog zwischen allen Beteiligten herzustellen, Aufklärung zu betreiben, Empfehlungen zu verfassen und die Entwicklungen in Einklang mit diesen Empfehlungen zu bringen. Wichtig ist es zu zeigen, dass wir in Wirklichkeit sowieso alle in dieselbe Richtung schauen.
"Wenn es uns gelingt, gute rechtliche und technische Rahmenbedingungen zu schaffen, kann man mit Hilfe von KI Entscheidungen sogar transparenter gestalten als bisher."Sandra Wachter
Rudolphina: Welche Rolle nimmt Österreich bei der Entwicklung und Forschung zur Künstlichen Intelligenz ein?
Barbara Prainsack: In Österreich haben wir ausgezeichnete Forschung im Bereich der KI – in der Technologieentwicklung, und auch in der Forschung zur Ethik und den gesellschaftlichen Aspekten der KI. Hinsichtlich der Finanzierung können wir – auch wenn man die beschränkte Größe unseres Landes in Betracht zieht – mit den Ländern, die KI-Forschung ernst nehmen, aber nicht mithalten. Es fehlt an Ausbildung, Rechenleistung, und letzten Endes auch an politischer Unterstützung.
Sandra Wachter: Ich hoffe natürlich, dass Österreich sich selbst auch als ein wichtiger Player und als Teil des Ganzen sieht. Ich glaube, dass wir viele tolle Wissenschafter*innen haben, die sich mit dieser Thematik befassen. Für wichtig halte ich, dass die Regierung die Forschung in diesem Bereich weiter unterstützt und fördert. Oft werden Wissenschafter*innen von der Industrie abgeworben, dabei wäre es so wichtig, diesen Personen zu ermöglichen, ihre Forschung an den Universitäten fortsetzen zu können und ihre Ideen und Innovationen der Gesellschaft zur Verfügung zu stellen – als Gegengewicht zur privaten Machtkonzentration. Denn speziell in der KI-Forschung geben ein paar wenige Unternehmen weltweit den Ton an.
Mark Coeckelbergh: Österreich kann dabei eine bescheidene, aber wichtige Rolle spielen. Zunächst natürlich durch technische und wissenschaftliche Fortschritte. Angesichts der Rolle Österreichs auf diplomatischer Ebene sehe ich auch eine einmalige Chance: den Einsatz für eine ethisch und politisch verantwortungsvolle Entwicklung von KI und Österreich als treibende Kraft für die Vernetzung von Akteuren aus aller Welt auf diesem Gebiet. Der Beirat kann hier einen Beitrag leisten und dementsprechende Empfehlungen aussprechen.
Er ist Mitglied der Hochrangigen Expertengruppe für künstliche Intelligenz bei der Europäischen Kommission sowie Mitglied des Technischen Expertenausschusses (TEC) der Foundation for Responsible Robotics. Derzeit ist er am europäischen Forschungsprojekt im Bereich der Robotik PERSEO beteiligt und hat zu internationalen Projekten wie DREAM und dem SIENNA-Projekt beigetragen.