taz.de -- EU-Gesetzgebung zu KI: Kritik nach Marathonsitzung
Am Freitag sollte die EU-Einigung zu Künstlicher Intelligenz stehen. Doch das Prozedere und die letzten Streitpunkte sorgen für Proteste.
Bild: Auch in der Medizin wird KI schon eingesetzt, hier im Unfallkrankenhaus Berlin
Berlin taz | In den Schlussverhandlungen zu einem europäischen Regelwerk für Künstliche Intelligenz (KI) kommt aus Zivilgesellschaft und Wissenschaft Kritik an der Marathonsitzung – und den in letzter Minute aufgekommenen Streitpunkten. Auf ihrer Trilog-Sitzung zum AI Act, die eigentlich den Abschluss der Verhandlungen bilden sollte, haben die Beteiligten von Mittwochnachmittag bis weit in den Donnerstag hinein verhandelt. Nach einem Sitzungsmarathon vertagten sich die Beteiligten auf Freitag.
„Nach über 20 Stunden Verhandlungen setzten sich übermüdete Gesetzgeber unter Schlafentzug heute gegenseitig unter Druck, um eine inakzeptable Einigung zu erzielen – zu einigen der grundlegendsten Auswirkungen, die KI auf Mensch und Gesellschaft haben kann“, [1][kritisierte die Menschenrechtsorganisation Algorithmwatch am Donnerstagabend].
Einer der Streitpunkte ist Berichten zufolge der Einsatz von KI-Systemen im Kontext von biometrischer Überwachung, also beispielsweise [2][KI-basierte Gesichtserkennung]. Das EU-Parlament hatte in seiner Position ein Verbot derartiger Anwendungen festgehalten. [3][Der Punkt der biometrischen Überwachung war schon zuvor Streitpunkt im Gesetzgebungsprozess]. Besonders aus den Mitgliedsstaaten gab es Begehrlichkeiten, ein möglichst hohes Maß an Überwachung zu erlauben, etwa für militärische Zwecke und zum Schutz der „nationalen Sicherheit“.
„Es wäre inakzeptabel, hinter dem Rücken der Bevölkerung einem Deal zuzustimmen, der die Voraussetzungen für einen weit verbreiteten Einsatz von KI-Systemen in höchst sensiblen Bereichen schafft“, sagt Angela Müller, KI-Expertin bei Algorithmwatch. Auch die KI-Forscherin Sandra Wachter, Professorin an der Universität Oxford, kritisierte das Prozedere. Sie plädierte dafür, die Verhandlungen auf Januar zu vertagen. Eine gute Lösung im Sinne der Menschen- und Grundrechte sei wichtiger, als sofort zu einer Einigung zu kommen.
Einigung bei Basismodellen nahe
Eine Einigung soll dem Vernehmen nach bei einem im Vorfeld umstrittenen Punkt nahe sein: den besonders leistungsfähigen KI-Modellen, den Foundation Models (Basismodellen). Zu denen gehört beispielsweise GPT, auf dem die Anwendung [4][ChatGPT] basiert. Die Basismodelle bilden die Grundlage für zahlreiche weitere Anwendungen.
Kurz vor den Schlussverhandlungen hatten sich drei EU-Staaten, darunter Deutschland, gegen eine Regulierung dieser Modelle ausgesprochen. Stattdessen sollte es nur eine Selbstregulierung geben – ein Vorschlag, den Expertin Wachter als „fast schon empörend“ bezeichnete: „Eine Selbstregulierung heißt nichts anderes, als dass ich mich an die Regeln halte oder eben nicht.“
Diese Position Deutschlands und seiner Mitstreiter scheint sich nun nicht durchgesetzt zu haben. Doch eine umfassende Regulierung der Basismodelle könnte auch vom Tisch sein. Laut der Nachrichtenagentur Reuters, die Verhandlungsunterlagen einsehen konnte, soll nun vielmehr eine Liste mit KI-Modellen erarbeitet werden, die „systemische Risiken“ bergen.
Die Verhandlungen zwischen EU-Parlament, Kommission und Mitgliedsstaaten sollten am Freitagmorgen fortgesetzt werden. Die Beteiligten haben ein grundsätzliches Interesse an einer baldigen Lösung, da im kommenden Jahr Europawahlen anstehen. Zwar können auf EU-Ebene Gesetzgebungsprozesse auch in die nächste Legislaturperiode mitgenommen werden. Doch aufgrund sich ändernder Mehrheiten wäre dann zu erwarten, dass das Paket dann noch einmal komplett neu aufgeschnürt würde.
8 Dec 2023
LINKS
[1] https://algorithmwatch.org/de/drama-um-ki-verordnung/
[2] /Neuer-Schweizer-Tatort/!5959230
[3] /Debatte-im-EU-Parlament/!5940600
[4] /Chaos-bei-OpenAI/!5972516
AUTOREN
TAGS
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
ARTIKEL ZUM THEMA
Nach Marathonsitzung: EU einigt sich auf Regeln für KI
Verbote, Pflichten und Geldbußen sind vorgesehen. Doch Verbraucher- und Bürgerrechtsorganisationen sind besorgt.
EU-Einigung auf KI-Gesetz: Mit Überwachung ins KI-Zeitalter
Der AI Act steht. Was das mit Schlafmangel, biometrischer Überwachung und der Zuckerlobby zu tun hat – und warum es am Ende doch aufs Geld ankommt.
Einsatz von Künstlicher Intelligenz: EU einigt sich auf Gesetz
Am Freitagabend wurden letzte Hürden beseitigt: Die EU bekommt nun einen Rechtsrahmen für die Nutzung von KI. Ursula von der Leyen freut sich, der BDI mosert.
Angst vor künstlicher Intelligenz: Schluss mit der KI-Panik
Horrormeldungen über KI sind zum journalistischen Genre geworden. Aber das ist unangebracht. Denn: Fake News verbreiten wir auch ohne sie.
Debatte im EU-Parlament: Streit um Überwachung mit KI
Kurz vor der Abstimmung über die Regeln für Künstliche Intelligenz gibt es Streit im EU-Parlament. Es geht um die Frage der Massenüberwachung.
Forscherin über Künstliche Intelligenz: „KI kann Dinge schlecht verbessern“
Das EU-Parlament will Regeln für künstliche Intelligenz. Die Professorin Sandra Wachter spricht über Nutzen, Risiken und den Konservatismus von KI.