Bryssel den 21 januari – Europeiska dataskyddsstyrelsen (EDPB) och Europeiska datatillsynsmannen (EDPS) har antagit ett gemensamt yttrande om Europeiska kommissionens förslag till en digital samlingsförordning om AI. Förslaget syftar till att förenkla genomförandet av vissa harmoniserade regler enligt AI-akten för att säkerställa en effektiv tillämpning av dem.
EDPB och EDPS stöder målet att ta itu med praktiska utmaningar i samband med genomförandet av AI-akten. Administrativ förenkling får dock inte försämra skyddet av de grundläggande rättigheterna. I det gemensamma yttrandet erkänns AI-landskapets komplexitet och välkomnas insatser för att minska bördorna för organisationer. Vissa föreslagna ändringar skulle dock kunna undergräva skyddet för enskilda personer i samband med AI.
Innovation och effektivitet är avgörande och kan samexistera med upprätthållande av ansvarsskyldighet för AI-leverantörer. Vi välkomnar regulatoriska sandlådor på EU-nivå och förenklade förfaranden för att främja innovation och stödja små och medelstora företag i Europa. Dataskyddsmyndigheterna måste dock behålla en central roll när det gäller behandlingen av enskilda personers personuppgifter. Samarbete mellan dataskyddsmyndigheter, AI-byrån och marknadskontrollmyndigheterna är avgörande för att säkerställa rättssäkerhet för organisationer och främja innovation samtidigt som enskilda personers grundläggande rättigheter upprätthålls.”
EDPB:s ordförande, Anu Talus
”Förenkling är välkommen när den klargör skyldigheter, ger enskilda personer egenmakt och stärker förtroendet. En noggrann balans måste upprätthållas genom att den administrativa bördan minskas där så är möjligt, utan att skyddet av de grundläggande rättigheterna undergrävs. Dessutom måste vi se till att AI-byråns roll är tydligt definierad och inte påverkar den oberoende tillsynen av EU-institutionernas egen användning av AI-system.
Europeiska datatillsynsmannen, Wojciech Wiewiórowski
Förslaget skulle utvidga möjligheten att behandla särskilda kategorier av personuppgifter (såsom etnicitets- eller hälsodata) för upptäckt och korrigering av snedvridning till leverantörer och spridare av alla AI-system och AI-modeller, med förbehåll för lämpliga skyddsåtgärder. EDPB och EDPS rekommenderar att det specificeras att dessa uppgifter endast får användas för upptäckt och korrigering av snedvridningar i avgränsade situationer där risken för negativa effekter till följd av sådana snedvridningar anses vara tillräckligt allvarlig.
EDPB och EDPS avråder från den föreslagna strykningen av skyldigheten att registrera AI-system när de omfattas av de kategorier som förtecknas som högrisksystem, även om leverantörerna anser att deras system är ”icke-högrisksystem”. EDPB och EDPS anser att denna ändring avsevärt skulle undergräva ansvarsskyldigheten och skapa ett oönskat incitament för leverantörer att otillbörligt begära undantag för att undvika offentlig granskning.
EDPB och EDPS välkomnar inrättandet av regulatoriska sandlådor för AI på EU-nivå för att främja innovation. För att säkerställa rättssäkerhet rekommenderas i det gemensamma yttrandet att behöriga dataskyddsmyndigheter direkt involveras i tillsynen av databehandling i sandlådor. Dessutom bör EDPB ges en rådgivande roll och status som observatör i Europeiska styrelsen för artificiell intelligens för att säkerställa konsekvens i förhållande till sandlådor på EU-nivå. Dessutom bör AI-byråns tillsynsroll när det gäller AI-system som bygger på en AI-modell för allmänna ändamål tydligt avgränsas i den normativa delen och bör inte överlappa Europeiska datatillsynsmannens oberoende tillsyn av AI-system som utvecklas eller används av unionens institutioner, organ eller byråer.
EDPB och EDPS stöder målet att effektivisera samarbetet mellan myndigheter eller organ för grundläggande rättigheter och marknadskontrollmyndigheter och att förlita sig på en central kontaktpunkt för att öka effektiviteten. De rekommenderar dock att man klargör marknadskontrollmyndigheternas roll som administrativa kontaktpunkter för verkställande och överföring av begäranden till leverantörer och spridare och säkerställer att dataskyddsmyndigheternas oberoende och befogenheter inte påverkas.
EDPB och EDPS rekommenderar också att man upprätthåller en skyldighet för leverantörer och spridare av AI att säkerställa AI-kompetens bland sin personal. Alla nya skyldigheter att främja AI-kompetens som åläggs kommissionen eller medlemsstaterna bör komplettera, inte ersätta, ansvarsområdena för de organisationer som faktiskt utvecklar och använder dessa system.
Slutligen uttrycker EDPB och EDPS oro över det föreslagna uppskjutandet av centrala bestämmelser för AI-system med hög risk. Med tanke på den snabba utvecklingen av AI-landskapet uppmanar de medlagstiftarna att överväga om den ursprungliga tidsplanen kan bibehållas för vissa skyldigheter, såsom transparenskrav, och att minimera förseningarna i möjligaste mån.
Pressmeddelandet som publiceras här har översatts automatiskt från engelska. EDPB garanterar inte att översättningen är korrekt. Vänligen se den officiella texten i den engelska versionen om det finns några tvivel.