EU-Gesetz zum Einsatz von KI "Mit der Regulierung verhindern wir Schlimmes"
In der EU sollen künftig strenge Regeln für den Einsatz von Künstlicher Intelligenz gelten. Das Gesetz sei wichtig, sagt Experte Lukowicz im Interview. Obwohl die Technologie eigentlich nicht intelligent sei, werde sie unser Leben massiv verändern.
tagesschau.de: Die EU hat eine Position zum geplanten ersten KI-Gesetz beschlossen. Es soll hochriskante und riskante Anwendungen verbieten beziehungsweise regulieren. Wie sinnvoll sind die Regeln aus Ihrer Sicht?
Paul Lukowicz: Es ist ein sehr guter Ansatz. Künstliche Intelligenz (KI) ist enorm mächtig. Sie wird unser Leben beeinflussen wie kaum eine andere Technologie in den vergangenen Jahren. Wenn wir wollen, dass sie unser Leben zum Besseren verändert, muss sie auch gesetzlich reguliert werden.
Eine Regulierung, die nicht die Technologie an sich reguliert, sondern ihre Auswirkungen, ist sehr sinnvoll. Denn damit verhindern wir, dass etwas Schlimmes passiert, ohne gleichzeitig die Innovation und die Erstellung der Technologie zu behindern.
Paul Lukowicz ist Wissenschaftlicher Direktor und Leiter des Forschungsbereichs Eingebettete Intelligenz am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und Lehrstuhlinhaber im Fachbereich Informatik der Technischen Universität Kaiserslautern. Seine Forschung richtet sich hauptsächlich auf kontextspezifische und tragbare Erkennungssysteme. Sie umfasst Mustererkennung, Systemarchitekturen sowie sich selbst organisierende Systeme und deren Anwendungen.
"KI kann die Sicherheit gefährden"
tagesschau.de: Das geplante EU-Gesetz staffelt zwischen den Anwendungen - unter anderem werden sie in riskant und hochriskant eingestuft. Hochriskante Anwendungen sollen verboten werden, riskante bekommen strenge Auflagen. Wann ist Künstliche Intelligenz Ihrer Meinung nach riskant und sollte verboten werden?
Lukowicz: Riskant und verboten - das sind zwei unterschiedliche Sachen. Riskant ist die KI - wie eigentlich jede andere Technologie auch -, wenn sie Auswirkungen hat auf menschliches Wohlbefinden, menschliches Leben und die Sicherheit bestimmter Dinge, die uns auch in der Gesellschaft wichtig sind. Vor allem wenn sie etwas Falsches tut, kann sie die Sicherheit gefährden.
KI ist allerdings auch in der Lage, Dinge zu tun, die wir grundsätzlich nicht wollen. Zum Beispiel bestimmte Überwachungstechniken wie das berühmte "Social Scoring System", bei dem KI-Systeme angewendet werden, um das Verhalten von Menschen zu bewerten und zu schauen, ob sie sich so verhalten, wie der Staat das wollen würde. So etwas wollen wir grundsätzlich nicht. Da ist es richtig, dass man das gesetzlich einfach verbietet.
tagesschau.de: Wo sollten die Grenzen für den Einsatz von KI liegen - zum Beispiel beim Einsatz im medizinischen Bereich?
Lukowicz: Problematisch ist es immer dann, wenn die KI Dinge tut, ohne dass der Mensch eingreifen oder noch einmal drauf schauen kann. Das gilt grundsätzlich auch im medizinischen Bereich. Bei hochriskanten Anwendungen geht es gar nicht so sehr darum, ob wir die Technologie nutzen wollen, sondern um die Voraussetzungen, die die Technologie erfüllen muss, damit sie sicher angewendet werden kann.
KI sollte in der Medizin immer dann eingesetzt werden, wenn durch den Einsatz der KI die Wahrscheinlichkeit, dass der medizinische Eingriff erfolgreich ist und dem Menschen dient, erhöht wird.
"Dahinter steht keine echte Intelligenz"
tagesschau.de: Was ist Künstliche Intelligenz genau?
Lukowicz: KI ist nichts anderes als eine Menge von mathematischen Methoden und Algorithmen, bei denen man herausgefunden hat, dass sie in der Lage sind, Dinge zu tun, bei denen wir bisher gedacht haben, sie seien nur Menschen vorbehalten. Vor 20 Jahren hat eine KI zum Beispiel zum ersten Mal gegen einen menschlichen Großmeister im Schach gewonnen. KI kann aber auch komplexe Bilder oder Musikstücke erzeugen.
Es ist wichtig zu verstehen, dass - egal wie erstaunlich das ist - dahinter keine echte Intelligenz steht. Zumindest nicht in dem Sinne, wie wir vielleicht Intelligenz verstehen. Es sind sehr genau definierte, aber eben oft recht einfache mathematische Verfahren, die auf große Datenmengen angewendet werden.
tagesschau.de: Bedeutet das, die KI macht nur das, was programmiert wurde?
Lukowicz: Ganz so einfach ist es nicht. Bei einem KI-Programm, dem sogenannten maschinellen Lernverfahren, wird dem Computer meist eine Menge von Beispielen gegeben. Sie illustrieren, was getan werden sollte. Im Anschluss wird dem Computer Schritt für Schritt mitgeteilt, was er tun muss, um aus diesen Beispielen herzuleiten, wie das Problem eigentlich zu lösen ist.
Das System lernt also nicht in dem Sinne, dass es etwas völlig selbstständig macht. Wir haben ihm beigebracht, wie es sich aus den Daten etwas herleiten soll und es kann auch nichts anderes tun.
Doch in der Regel sind diese Daten so komplex, dass wir als Menschen nicht wirklich hundertprozentig sagen können, was das System eigentlich aus den Daten extrahieren wird. Und genau da liegt die große Problematik und damit die Notwendigkeit der Regulierung.
Wenn wir uns diese Datenmengen, diese "Beispielmengen", nicht gut genau angucken, wenn wir nicht bestimmte Sicherheitsmechanismen einbauen, dann kann es passieren, dass wir ein System haben, von dem wir glauben, dass es A tut. In Wirklichkeit macht es aber B - weil wir die Daten, die wir ihm zur Verfügung gestellt haben, nicht richtig verstanden haben.
"Dass KI den Menschen verdrängt, ist Science-Fiction"
tagesschau.de: Müssen wir uns also keine Sorgen machen und können weiter mit KI arbeiten?
Lukowicz: Dass die KI irgendwann mal eine neue intelligente Spezies etabliert und den Menschen verdrängt, gehört bei dem heutigen Stand der KI definitiv in den Bereich der Science-Fiction-Filme.
Es ist aber eine Technologie, die mehr und mehr Bereiche unseres Lebens beeinflusst - zum Beispiel die Art und Weise, wie wir Informationen konsumieren. Oder im Verkehr mit selbstfahrenden Autos. KI kann Energienetze steuern und viele andere Sachen. Deswegen ist die Regulierung durch das Europaparlament so wichtig.
Wir müssen keine Angst haben, aber wir müssen diese Technologie wohl überlegt mit der entsprechenden Vorsicht einsetzen. Wir sollten uns immer fragen: Ist der Einsatz der Technologie an der einen oder anderen Stelle etwas, was uns Menschen wirklich etwas bringt oder ist es eher etwas, was uns womöglich in Gefahr bringt?
Das Gespräch führte Anja Martini, tagesschau.de
Für die schriftliche Fassung wurde das Interview redaktionell bearbeitet und gekürzt.