Einigung der EU-Staaten KI-Gesetz ist endgültig beschlossen
Die Europäische Union hat sich einheitliche Regeln für den Einsatz von Künstlicher Intelligenz gegeben - und hofft, damit weltweit einen Standard zu setzen. Kritiker befürchten jedoch, die Regelungen könnten schnell überholt sein.
Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten in Brüssel Plänen zu, die die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten regeln. Das Gesetz, das erst ab Frühjahr 2026 greift, ist nach Angaben der EU-Länder das weltweit erste Gesetz dieser Art. Es könne einen globalen Standard für die Regulierung von KI setzen.
Die Regelung zielt darauf ab, die Nutzung von KI in der EU sicherer zu machen. Sie soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien. Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück.
Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU.
Strenge Anforderungen für "risikoreiche" Anwendungen
Unter anderem sieht die Regelung eine Kennzeichnungspflicht vor. Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Fachleute halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar.
Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen zudem künftig strenge Anforderungen erfüllen. Darunter fällt etwa die Gesichtserkennung an Bahnhöfen oder anderen öffentlichen Orten. Nötig ist dafür nun eine richterliche Anordnung. Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nur nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Massenüberwachung mit biometrischen Daten oder die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden etwa in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt.
Digitalverband kritisiert verspätete Regulierung
Amnesty International hatte vor dem Hintergrund der kürzlich beschlossenen Reform des EU-Asylrechts davor gewarnt, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht streng genug geregelt, kritisierten auch Europaabgeordnete von SPD und Linken.
Der Digitalverband Bitkom kritisierte, dass das KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI in Deutschland und Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen in Deutschland umgesetzt würden. Weitere kritische Stimmen befürchten zudem, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.
Wissing für "innovationsfreundliche" Umsetzung
Bundesdigitalminister Volker Wissing räumte ein, dass der Gesetzgeber bei einer sich so schnell verändernden Technologie wie KI dauerhaft gefordert sei. "Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären", sagte der FDP-Politiker. "Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern." Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde.
Die Bundesregierung hatte sich auf EU-Ebene nach eigenen Angaben mit dafür eingesetzt, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen.
Bei Verstößen drohen Geldstrafen
Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten. Bis das Gesetz im Frühjahr 2026 greift, setzt die Europäische Kommission auf freiwillige Absprachen mit den Unternehmen.
Wenn diese die Vorschriften nach Inkrafttreten des Gesetzes nicht einhalten, müssen die Mitgliedsstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.