Das EU-Parlament gibt grünes Licht für schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union. Die Parlamentarier stimmten in Straßburg mehrheitlich für das Gesetz. Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz. Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten.
Gesetz verbietet «Social Scoring»
Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Von der Leyen: EU als weltweite Blaupause
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
EU-Kommissionspräsidentin Ursula von der Leyen sprach der nach Abstimmung im Parlament von einem «wegweisenden Rahmen für innovative KI». Europa werde damit eine Blaupause für vertrauenswürdige KI in der ganzen Welt schaffen, schrieb sie auf der Plattform X (vormals Twitter).
Die Verbraucherzentrale Bundesverband begrüßte es, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben. Doch die Regeln würde Verbraucherinnen und Verbrauchern keinen ausreichenden Schutz bieten, kritisierte dessen Vorständin Ramona Pop in einer Mitteilung. «Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind.» Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssten Verbraucherinteressen höchste Priorität bekommen.
Verbotene Systeme werden abgeschaltet
Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.
Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.
Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.