Zum Artikel springen
  1. RiffReporter /
  2. Gesellschaft /
  3. Europa will Einsatz von KI kontrollieren

Wie Europa den Einsatz von künstlicher Intelligenz regulieren will

27.04.2021
5 Minuten
Ein Mann steht vor einem digitalisierten Netzwerk. Das Bild symbolisiert die Macht der künstlichen Intelligenz durch Überwachung, Auswahl und maschine learning.

Die EU-Kommission wagt sich an ein schwieriges Feld, das in der Zukunft große Bedeutung bekommen wird. Sie will den Einsatz von künstlicher Intelligenz zur Überwachung, Auswahl von Personen und das Lernen aus Datenbanken reglementieren. Der erste Entwurf einer Verordnung vom 21. April wird sicher noch intensiv diskutiert und verändert werden. Aber das 88 Seiten starke Dokument zeigt bereits, nach welchen Kriterien die EU künstliche Intelligenz (KI) künftig bewerten und begrenzen will.

Der Entwurf eignet sich deshalb vor allem als Einstieg in eine Debatte, die nicht nur die rechtlichen Rahmenbedingungen klären sollte, sondern die ganze Gesellschaft erreichen muss. Künstliche Intelligenz wird bereits in vielen Bereichen unseres Lebens eingesetzt, doch die Reichweite und Tiefe der damit verbundenen Veränderungen überschauen wir noch nicht. „An der Verordnung wird deutlich, dass sich an der KI viele der typischen Probleme der Digitalisierung kristallisieren. Dazu gehören Überwachung, Manipulation und Sicherheitsfragen. Es wird jedoch auch deutlich, dass diese Probleme nicht allein durch eine Regulierung von KI überwunden werden können“, sagt Jessica Heesen von der Eberhard Karls Universität Tübingen. Sie ist eine von sieben Expertïnnen, die das Science Media Center um eine Einschätzung des Entwurfs gebeten hat. Jüngste Entwicklungen zeigen, wie nötig die Debatte über Einschränkungen der KI sein kann. Google hat zwei Ethikforscherinnen entlassen, weil deren Kritik an KI zu unbequem war..

KI wird bisher kaum reguliert

Für den Laien ist das Dokument aus Brüssel schwer zu bewerten, auch ein Vergleich mit Gesetzen in anderen Ländern ist kaum möglich. „Die Verordnung ist eine hochspannende Entwicklung in einem Regulierungsfeld, das weltweit erst zaghaft in den Blick genommen wird“, sagt Stephan Dreyer vom Leibniz-Institut für Medienforschung, dem Hans-Bredow-Institut der Universität Hamburg. Er hält den Ansatz der EU für richtig. „Positiv zu bewerten ist, dass nicht KI-Technologie als solche reguliert wird, sondern ihr Einsatz in Softwaresystemen in bestimmten Einsatzbereichen beziehungsweise in Szenarien mit besonderen Risikopotenzialen für Grund- und Menschenrechte“, sagt er.

Unterstützen Sie „die ZukunftsReporter“ mit einer einmaligen Zahlung. Oder lesen und fördern Sie alle Themenmagazine mit einem RiffReporter-Abo.

Kostenfreier Newsletter: Die Zukunftsreporter

Tragen Sie sich hier ein – und erhalten Sie Infos zu den neuesten Beiträgen der Zukunftsreporter sowie zum Projekt.

Doch allen Expertenstatements ist gemein, dass die Details der Regelungen nicht konkret genug sind. Vermutlich geht das zum jetzigen Zeitpunkt des Entscheidungsprozesses noch nicht. Doch die unklaren Formulierungen treten an so vielen Stellen auf, dass Nachbesserungen nötig werden.

Der Entwurf der EU versucht rote Linien zu ziehen, die von den KI-Anwendungen nicht überschritten werden dürfen. So verbietet er die Kontrolle des Sozialverhaltens, die beispielsweise in China getestet wird. Das Dokument untersagt generell Anwendungen, die Menschen zu ihrem Schaden manipulieren oder Wissen über Schwachstellen von Personen ausnutzen, um ihnen zu schaden. Das klingt plausibel, doch die Formulierung lässt zahlreiche Interpretationen zu. „Impliziert das, dass soziale Medien verboten werden?“, fragt Kristian Kersting von der TU Darmstadt. „Das klingt zwar zynisch, aber viele Leute sind der Meinung, das soziale Netzwerke die Meinung von Menschen negativ beeinflussen können“, erklärt der Leiter des Fachgebiets Maschinelles Lernen. Die Details der Definition seien vernebelt, so Kersting.

Wird automatische Gesichtserkennung verboten?

Verboten werden soll auch die Verwendung von ‚Echtzeit‘-Systemen zur biometrischen Identifizierung in öffentlich zugänglichen Räumen. Doch das Verbot gilt nicht generell, sondern nur für staatliche Überwachung. Privatleute dürfen die automatische Gesichtserkennung einsetzen. Auch Staaten wird das Recht für Ausnahmen eingeräumt. Einzelne Regierungen können abweichende Regelungen erlassen, etwa für die gezielte Suche nach vermissten Kindern, nach Verbrechern, die schwere Straftaten begangen haben oder für die Verhinderung solcher Taten. Dabei sollen aber die Rechte und Freiheiten aller betroffenen Personen bedacht und die Einsätze angemessen zeitlich oder räumlich eingegrenzt werden. Christiane Wendehorst, ehemalige Co-Vorsitzende der Datenethikkommission der Bundesregierung, erwartet konkretere Vorgaben beispielsweise auch für den Einsatz von Software, die Emotionen erkennen kann. „Doch diesbezüglich hat man es bei einer Kennzeichnungspflicht bewenden lassen“, sagt sie.

Besondere Anforderungen sollen sogenannte „risikoreiche KI-Systeme“ erfüllen, die einen irreparablen Schaden anrichten können. Damit sind Anwendungen gemeint, die als Sicherheitskomponenten in kritischer Infrastruktur eingesetzt werden. Dazu gehören aber auch KI-Systeme, die prüfen, ob Personen zum Beispiel für Kredite, Arbeitsstellen, Ausbildungs- oder Studienplätze geeignet sind. Die Anbieter dieser Anwendungen sollen ein Risikomanagement entwerfen. Eine gute Idee, die aber schwierig umzusetzen sein könnte, urteilt Kersting. „Eine vollständige, explizite Beschreibung sämtlicher Auswirkungen von Aktionen auf alle in einer Welt geltenden Fakten ist schwer, wenn nicht unmöglich. Von dem Festlegen der Mindeststandards mal ganz abgesehen“, sagt er.

„Daten werden nie neutrale Abbilder der Welt sein"

Eine wichtige Rolle spielen auch die Daten, mit denen die künstliche Intelligenz trainiert wird. Je schlechter der Datensatz, desto schlechter die Ergebnisse. Die Auswahl der Daten kann dazu führen, dass bestimmte Personengruppen benachteiligt werden. Deshalb fordert die Verordnung, dass Daten frei von Fehlern und vollständig sein sollen. Praktiker halten das für kaum möglich. „Datengetriebene KI-Verfahren können Vorurteile verstetigen oder verstärken“, bestätigt Antonio Krüger, Geschäftsführer des Deutschen Forschungszentrum für Künstliche Intelligenz in Saarbrücken. Aber er sagt auch: Die menschliche Welt ist leider geprägt von menschlichen Vorurteilen und die bekommt man aus den Daten nicht heraus, wenn man aus ihnen maschinell noch etwas über die tatsächliche Welt lernen möchte.“ Tobias Matzner von der Universität Paderborn bestätigt ihn darin. „Es ist wichtig, sich um hochqualitative Daten zu kümmern, aber dazu gehört auch das Wissen, dass Daten nie neutrale Abbilder der Welt sein können. Sie sind immer eine bestimmte Perspektive auf die Welt“, sagt der Professor für Medien, Algorithmen und Gesellschaft.

Gelten die Regeln auch für Amazon und Facebook?

Auf die Expertïnnen der EU wartet also noch viel Arbeit. Letztlich, so klagt Stephan Dreyer, sei unklar, was konkret der Regelungsgegenstand der Verordnung zur Software sein soll. „Softwaresysteme bestehen aus einer Vielzahl von eng miteinander verschränkten Funktionen, Modulen, Programmbibliotheken und so weiter. Einige davon nutzen gegebenenfalls KI-Technologien, andere nicht“, sagt er. Als Beispiele nennt er Betriebssysteme, die KI-basierte Funktionen bereitstellen, zum Beispiel sprachbasierte Assistenten wie Siri oder Cortana, oder softwarebetriebene Plattformen wie Amazon oder Facebook. „Fallen hier die gesamten Betriebssysteme beziehungsweise Onlineangebote unter die Verordnung?“, fragt Dreyer.

„Nicht alles, was man kann, sollte auch realisiert werden“

„Der Entwurf bewegt sich im Großen und Ganzen in den Bahnen, die man erwartete, wenn man den Prozess über die vergangenen Jahre beobachtet hat“, urteilt Christiane Wendehorst. Kristian Kersting hofft, dass der Bevölkerung durch eine Regulierung die Angst vor einer Fremdbestimmung durch KI und Missbrauch genommen werden kann. „Nicht alles, was man kann, sollte auch realisiert werden“, sagt er.

Der Blick auf die Entwicklung der Verordnung lohnt: „Kommt eine Verordnung wie diese zur Anwendung, wirkt sie als unmittelbar geltendes und von staatlichen Behörden umzusetzendes Recht. Einen Umsetzungsspielraum wie bei EU-Richtlinien haben die Mitgliedstaaten hier nicht“, sagt Dreyer.

Die Riffreporter berichten ausführlich über die Entwicklung der KI und ihren Einsatz. Dieser Text der ZukunftsReporter gehört zu einem Paket, dass viele Alltagsfragen behandelt. Darf eine KI Entscheidungen treffen, die der Mensch nicht nachvollziehen kann? Was tun, wenn die KI bei einer Vorsorgeuntersuchung Diagnose stellt? KI sammelt Informationen und wählt die wichtigsten Fakten aus – was muss der Mensch dabei beachten?

Unterstützen Sie „die ZukunftsReporter“ mit einer einmaligen Zahlung. Oder lesen und fördern Sie alle Themenmagazine mit einem RiffReporter-Abo.
Rainer Kurlemann

Rainer Kurlemann

Rainer Kurlemann ist promovierter Chemiker und arbeitet seit mehr als 30 Jahren als Journalist. Er schreibt nicht nur über Wissenschaft, sondern sucht als Moderator auch den Dialog mit Menschen und Innovationen für die Diskussion über Wissenschaft. „Der Geranienmann“ ist sein erster Wissenschaftskrimi, weitere Bücher werden folgen.


die ZukunftsReporter

Unsere Zukunft beginnt nicht irgendwann, sondern schon heute. Wenn wir sie gestalten wollen, müssen wir unsere Optionen diskutieren. Die ZukunftsReporter zeigen auf, welche Herausforderungen auf uns warten, und sprechen mit Menschen, die dafür Lösungen entwickeln. Wir schreiben keine Science Fiction, sondern alltagsnahe, wissenschaftlich fundierte Zukunftsszenarien. Wir rechnen nicht damit, dass uns technische Erfindungen retten werden, und setzen uns für einen differenzierten Umgang mit Innovationen ein.

Die ZukunftsReporter laden auch zu öffentlichen Debatten ein, denn uns interessiert die Meinung der Menschen. Wir sind überzeugt, dass wir die Zukunft gemeinsam gestalten können, wenn wir ehrlich über mögliche Optionen diskutieren. Sie möchten Kontakt zu uns aufnehmen? Wir freuen uns auf Ihre Mail:

Drei Jahre lang waren unsere Beiträge dank der Förderung von Stiftungen kostenlos. Ab Mai 2021 bieten wir unsere ausführlichen Zukunftsszenarien mit wissenschaftlichem Hintergrund für einen kleinen Preis an. Wir finden: es lohnt sich!

Verantwortlich im Sinne des Presserechts

Rainer Kurlemann

Kronprinzenstraße 36
40217 Düsseldorf

www: https://www.rainerkurlemann.de

E-Mail: rainer.kurlemann@gmail.com

Tel: +49 211 8308069

Weitere Mitarbeiterinnen und Mitarbeiter

Redaktion: Carina Frey
VGWort Pixel