Bruxelles, le 21 janvier – Le comité européen de la protection des données (CEPD) et le Contrôleur européen de la protection des données (CEPD) ont adopté un avis conjoint sur la proposition de la Commission européenne relative à l’«omnibus numérique sur l’IA». La proposition vise à simplifier la mise en œuvre de certaines règles harmonisées au titre de la législation sur l’IA afin de garantir leur application effective.
L’EDPB et le CEPD soutiennent l’objectif consistant à relever les défis pratiques liés à la mise en œuvre de la législation sur l’IA. La simplification administrative ne doit toutefois pas amoindrir la protection des droits fondamentaux. L’avis conjoint reconnaît la complexité du paysage de l’IA et salue les efforts visant à alléger les charges pesant sur les organisations. Toutefois, certaines modifications proposées pourraient porter atteinte à la protection des personnes dans le contexte de l’IA.
«L’innovation et l’efficacité sont essentielles et peuvent coexister avec le maintien de la responsabilité des fournisseurs d’IA. Nous saluons les bacs à sable réglementaires au niveau de l’UE et les procédures simplifiées visant à promouvoir l’innovation et à soutenir les PME en Europe. Toutefois, les autorités chargées de la protection des données doivent conserver un rôle central en ce qui concerne le traitement des données à caractère personnel des personnes physiques. La coopération entre les autorités chargées de la protection des données, l’Office de l’IA et les autorités de surveillance du marché est essentielle pour garantir la sécurité juridique des organisations et favoriser l’innovation tout en préservant les droits fondamentaux des personnes.»
Anu Talus, président du comité européen de la protection des données
«La simplification est bienvenue lorsqu’elle clarifie les obligations, donne aux individus les moyens d’agir et renforce la confiance. Il convient de maintenir un équilibre prudent en réduisant la charge administrative dans la mesure du possible, sans porter atteinte à la protection des droits fondamentaux. En outre, nous devons veiller à ce que le rôle du Bureau de l’IA soit clairement défini et n’affecte pas la surveillance indépendante de l’utilisation des systèmes d’IA par les institutions de l’Union européenne elles-mêmes.»
Contrôleur européen de la protection des données, Wojciech Wiewiórowski
La proposition étendrait la possibilité de traiter des catégories particulières de données à caractère personnel (telles que les données relatives à l’origine ethnique ou à la santé) aux fins de la détection et de la correction des biais aux fournisseurs et aux déployeurs de tout système et modèle d’IA, sous réserve de garanties appropriées. L'EDPB et le CEPD recommandent de préciser que ces données ne peuvent être utilisées pour la détection et la correction des biais que dans des situations circonscrites où le risque d'effets indésirables résultant de ces biais est considéré comme suffisamment grave.
L’EDPB et le CEPD déconseillent la suppression proposée de l’obligation d’enregistrer les systèmes d’IA, lorsqu’ils relèvent des catégories répertoriées comme étant à haut risque, même si les fournisseurs estiment que leurs systèmes ne présentent pas de «risque élevé». L’EDPB et le CEPD estiment que cette modification compromettrait considérablement l’obligation de rendre des comptes et inciterait de manière indésirable les fournisseurs à demander indûment des exemptions afin d’éviter le contrôle public.
L’EDPB et le CEPD se félicitent de la création de bacs à sable réglementaires pour l’IA au niveau de l’UE afin de promouvoir l’innovation. Afin de garantir la sécurité juridique, l’avis conjoint recommande la participation directe des autorités compétentes en matière de protection des données (APD) à la surveillance du traitement des données dans les bacs à sable. En outre, le comité européen de la protection des données devrait se voir accorder un rôle consultatif et le statut d’observateur au sein du comité européen de l’intelligence artificielle afin de garantir la cohérence en ce qui concerne les bacs à sable au niveau de l’UE. En outre, le rôle de surveillance du Bureau de l’IA en ce qui concerne les systèmes d’IA fondés sur un modèle d’IA à usage général devrait être clairement défini dans le dispositif et ne devrait pas empiéter sur la surveillance indépendante par le CEPD des systèmes d’IA développés ou utilisés par les institutions, organes ou organismes de l’Union.
L’EDPB et le CEPD soutiennent l’objectif de rationalisation de la coopération entre les autorités ou organes chargés des droits fondamentaux et les autorités de surveillance du marché, ainsi que le recours à un point de contact central pour accroître l’efficacité. Toutefois, ils recommandent de clarifier le rôle des ASM en tant que points de contact administratifs pour l’exécution et la transmission des demandes aux fournisseurs et aux déployeurs, et de veiller à ce que l’indépendance et les pouvoirs des APD ne soient pas affectés.
L’EDPB et le CEPD recommandent également de maintenir l’obligation pour les fournisseurs et les déployeurs d’IA de veiller à ce que leur personnel maîtrise l’IA. Toute nouvelle obligation de promouvoir l’éducation à l’IA imposée à la Commission ou aux États membres devrait compléter, et non remplacer, les responsabilités des organisations qui développent et utilisent effectivement ces systèmes.
Enfin, l’EDPB et le CEPD font part de leurs préoccupations concernant la proposition de report des dispositions essentielles relatives aux systèmes d’IA à haut risque. Compte tenu de l’évolution rapide du paysage de l’IA, ils invitent les colégislateurs à examiner si le calendrier initial peut être maintenu pour certaines obligations, telles que les exigences de transparence, et à réduire autant que possible les retards.
Le communiqué de presse publié ici a été automatiquement traduit de l’anglais. L’EDPB ne garantit pas l’exactitude de la traduction. Veuillez vous référer au texte officiel dans sa version anglaise en cas de doute.