Brüssel, 21. Januar – Der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) haben eine gemeinsame Stellungnahme zum Vorschlag der Europäischen Kommission für den „Digital Omnibus on AI“ angenommen. Der Vorschlag zielt darauf ab, die Umsetzung bestimmter harmonisierter Vorschriften im Rahmen des KI-Gesetzes zu vereinfachen, um ihre wirksame Anwendung zu gewährleisten.
Der EDSA und der EDSB unterstützen das Ziel, praktische Herausforderungen im Zusammenhang mit der Umsetzung des KI-Gesetzes anzugehen. Die Verwaltungsvereinfachung darf jedoch den Schutz der Grundrechte nicht beeinträchtigen. In der Gemeinsamen Stellungnahme wird die Komplexität der KI-Landschaft anerkannt und die Bemühungen um eine Entlastung der Organisationen begrüßt. Bestimmte vorgeschlagene Änderungen könnten jedoch den Schutz von Einzelpersonen im Zusammenhang mit KI untergraben.
„Innovation und Effizienz sind von entscheidender Bedeutung und können neben der Aufrechterhaltung der Rechenschaftspflicht der KI-Anbieter bestehen. Wir begrüßen Reallabore auf EU-Ebene und vereinfachte Verfahren zur Förderung von Innovation und zur Unterstützung von KMU in Europa. Die Datenschutzbehörden müssen jedoch weiterhin eine zentrale Rolle bei der Verarbeitung personenbezogener Daten von Einzelpersonen spielen. Die Zusammenarbeit zwischen den Datenschutzbehörden, dem Amt für künstliche Intelligenz und den Marktüberwachungsbehörden ist von wesentlicher Bedeutung, um Rechtssicherheit für Organisationen zu gewährleisten und Innovationen zu fördern und gleichzeitig die Grundrechte des Einzelnen zu wahren.“
EDSA-Vorsitzender, Anu Talus
„Eine Vereinfachung ist zu begrüßen, wenn sie Verpflichtungen klarstellt, den Einzelnen stärkt und das Vertrauen stärkt. Ein sorgfältiges Gleichgewicht muss gewahrt werden, indem der Verwaltungsaufwand soweit wie möglich verringert wird, ohne den Schutz der Grundrechte zu untergraben. Darüber hinaus müssen wir sicherstellen, dass die Rolle des Amtes für künstliche Intelligenz klar definiert ist und sich nicht auf die unabhängige Aufsicht über die eigene Nutzung von KI-Systemen durch die Organe der Europäischen Union auswirkt.“
Europäischer Datenschutzbeauftragter, Wojciech Wiewiórowski
Mit dem Vorschlag würde die Möglichkeit, besondere Kategorien personenbezogener Daten (z. B. ethnische Zugehörigkeit oder Gesundheitsdaten) zur Erkennung und Korrektur von Verzerrungen zu verarbeiten, auf Anbieter und Betreiber von KI-Systemen und -Modellen ausgeweitet, vorbehaltlich geeigneter Garantien. Der EDSA und der EDSB empfehlen zu präzisieren, dass diese Daten zur Erkennung und Korrektur von Verzerrungen nur in begrenzten Situationen verwendet werden dürfen, in denen das Risiko nachteiliger Auswirkungen einer solchen Verzerrung als hinreichend schwerwiegend angesehen wird.
Der EDSA und der EDSB raten von der vorgeschlagenen Streichung der Verpflichtung zur Registrierung von KI-Systemen ab, wenn diese unter die als hochriskant eingestuften Kategorien fallen, auch wenn die Anbieter ihre Systeme als „nicht hochriskant“ betrachten. Der EDSA und der EDSB sind der Auffassung, dass diese Änderung die Rechenschaftspflicht erheblich untergraben und einen unerwünschten Anreiz für Anbieter schaffen würde, ungebührlich Ausnahmen geltend zu machen, um eine öffentliche Kontrolle zu vermeiden.
Der EDSA und der EDSB begrüßen die Einrichtung von KI-Reallaboren auf EU-Ebene zur Förderung von Innovation. Um Rechtssicherheit zu gewährleisten, wird in der Gemeinsamen Stellungnahme die direkte Einbeziehung der zuständigen Datenschutzbehörden in die Überwachung der Datenverarbeitung innerhalb von Reallaboren empfohlen. Darüber hinaus sollte dem EDSA eine beratende Rolle und der Beobachterstatus im Europäischen Ausschuss für künstliche Intelligenz eingeräumt werden, um Kohärenz in Bezug auf Reallabore auf EU-Ebene zu gewährleisten. Darüber hinaus sollte die Aufsichtsfunktion des Amtes für künstliche Intelligenz in Bezug auf KI-Systeme, die auf einem KI-Modell mit allgemeinem Verwendungszweck beruhen, im verfügenden Teil klar abgegrenzt werden und sich nicht mit der unabhängigen Beaufsichtigung von KI-Systemen, die von Organen, Einrichtungen oder sonstigen Stellen der Union entwickelt oder verwendet werden, durch den EDSB überschneiden.
Der EDSA und der EDSB unterstützen das Ziel, die Zusammenarbeit zwischen den Grundrechtsbehörden oder -stellen und den Marktüberwachungsbehörden zu straffen und sich zur Steigerung der Effizienz auf eine zentrale Anlaufstelle zu stützen. Sie empfehlen jedoch, die Rolle der Verwaltungsbehörden als administrative Kontaktstellen für die Ausführung und Übermittlung von Anfragen an Anbieter und Betreiber zu präzisieren und sicherzustellen, dass die Unabhängigkeit und die Befugnisse der Datenschutzbehörden unberührt bleiben.
Der EDSA und der EDSB empfehlen ferner, die Pflicht der KI-Anbieter und -Einführer aufrechtzuerhalten, die KI-Kompetenz ihres Personals sicherzustellen. Jede neue Verpflichtung zur Förderung der KI-Kompetenz, die der Kommission oder den Mitgliedstaaten auferlegt wird, sollte die Zuständigkeiten der Organisationen, die diese Systeme tatsächlich entwickeln und nutzen, ergänzen und nicht ersetzen.
Schließlich äußern der EDSA und der EDSB Bedenken hinsichtlich der vorgeschlagenen Verschiebung der Kernbestimmungen für Hochrisiko-KI-Systeme. Angesichts der raschen Entwicklung der KI-Landschaft fordern sie die Mitgesetzgeber auf, zu prüfen, ob der ursprüngliche Zeitplan für bestimmte Verpflichtungen, wie Transparenzanforderungen, beibehalten werden kann, und Verzögerungen so weit wie möglich zu minimieren.
Die hier veröffentlichte Pressemitteilung wurde automatisch aus dem Englischen übersetzt. Der EDSA übernimmt keine Gewähr für die Richtigkeit der Übersetzung. Bitte beachten Sie den offiziellen Text in seiner englischen Fassung, falls Zweifel bestehen.