Bruselas, 21 de enero - El Comité Europeo de Protección de Datos (CEPD) y el Supervisor Europeo de Protección de Datos (SEPD) han adoptado un dictamen conjunto sobre la propuesta de la Comisión Europea relativa al «ómnibus digital sobre la IA». La propuesta tiene por objeto simplificar la aplicación de determinadas normas armonizadas en virtud de la Ley de IA para garantizar su aplicación efectiva.
El CEPD y el SEPD apoyan el objetivo de abordar los retos prácticos relacionados con la aplicación de la Ley de IA. Sin embargo, la simplificación administrativa no debe reducir la protección de los derechos fundamentales. El dictamen conjunto reconoce la complejidad del panorama de la IA y acoge con satisfacción los esfuerzos por aliviar las cargas para las organizaciones. Sin embargo, algunos cambios propuestos podrían socavar la protección de las personas en el contexto de la IA.
«La innovación y la eficiencia son cruciales y pueden coexistir con el mantenimiento de la rendición de cuentas de los proveedores de IA. Acogemos con satisfacción los espacios controlados de pruebas a escala de la UE y los procedimientos simplificados para promover la innovación y apoyar a las pymes en Europa. Sin embargo, las autoridades de protección de datos deben mantener un papel central en lo que respecta al tratamiento de los datos personales de las personas. La cooperación entre las autoridades de protección de datos, la Oficina de IA y las autoridades de vigilancia del mercado es esencial para garantizar la seguridad jurídica de las organizaciones y fomentar la innovación, al tiempo que se defienden los derechos fundamentales de las personas».
Presidente del CEPD, Anu Talus
«La simplificación es bienvenida cuando aclara las obligaciones, empodera a las personas y refuerza la confianza. Debe mantenerse un cuidadoso equilibrio reduciendo la carga administrativa siempre que sea posible, sin socavar la protección de los derechos fundamentales. Además, debemos garantizar que el papel de la Oficina de IA esté claramente definido y no afecte a la supervisión independiente del propio uso de los sistemas de IA por parte de las instituciones de la Unión Europea».
Supervisor Europeo de Protección de Datos, Wojciech Wiewiórowski
La propuesta ampliaría la posibilidad de tratar categorías especiales de datos personales (como datos étnicos o sanitarios) para la detección y corrección de sesgos a los proveedores y responsables del despliegue de cualquier sistema y modelo de IA, con sujeción a las salvaguardias adecuadas. El CEPD y el SEPD recomiendan especificar que estos datos solo pueden utilizarse para la detección y corrección de sesgos en situaciones circunscritas en las que el riesgo de efectos adversos de dicho sesgo se considere suficientemente grave.
El CEPD y el SEPD desaconsejan la supresión propuesta de la obligación de registrar los sistemas de IA cuando entren en las categorías enumeradas como de alto riesgo, incluso si los proveedores consideran que sus sistemas no son de «alto riesgo». El CEPD y el SEPD consideran que este cambio socavaría significativamente la rendición de cuentas y crearía un incentivo indeseable para que los proveedores reclamen indebidamente exenciones para evitar el escrutinio público.
El CEPD y el SEPD acogen con satisfacción la creación de espacios controlados de pruebas para la IA a escala de la UE para promover la innovación. Para garantizar la seguridad jurídica, el dictamen conjunto recomienda la participación directa de las autoridades de protección de datos (APD) competentes en la supervisión del tratamiento de datos en los espacios controlados de pruebas. Además, debe otorgarse al CEPD un papel consultivo y el estatuto de observador en el Comité Europeo de Inteligencia Artificial para garantizar la coherencia en relación con los espacios controlados de pruebas a escala de la UE. Además, la función de supervisión de la Oficina de IA con respecto a los sistemas de IA basados en un modelo de IA de uso general debe delimitarse claramente en la parte dispositiva y no debe solaparse con la supervisión independiente por parte del SEPD de los sistemas de IA desarrollados o utilizados por las instituciones, órganos u organismos de la Unión.
El CEPD y el SEPD apoyan el objetivo de racionalizar la cooperación entre las autoridades u organismos de derechos fundamentales y las autoridades de vigilancia del mercado, y la dependencia de un punto de contacto central para aumentar la eficiencia. Sin embargo, recomiendan aclarar el papel de las AVM como puntos de contacto administrativos para la ejecución y transmisión de las solicitudes a los proveedores y responsables del despliegue, y garantizar que la independencia y las competencias de las APD no se vean afectadas.
El CEPD y el SEPD también recomiendan mantener la obligación de los proveedores y responsables del despliegue de la IA de garantizar la alfabetización en materia de IA entre su personal. Cualquier nueva obligación de fomentar la alfabetización en materia de IA impuesta a la Comisión o a los Estados miembros debe complementar, y no sustituir, las responsabilidades de las organizaciones que realmente desarrollan y utilizan estos sistemas.
Por último, el CEPD y el SEPD expresan su preocupación por el aplazamiento propuesto de las disposiciones básicas para los sistemas de IA de alto riesgo. Dada la rápida evolución del panorama de la IA, invitan a los colegisladores a considerar si puede mantenerse el calendario original para determinadas obligaciones, como los requisitos de transparencia, y a minimizar los retrasos en la medida de lo posible.
El comunicado de prensa publicado aquí ha sido traducido automáticamente del inglés. El CEPD no garantiza la exactitud de la traducción. Por favor, consulte el texto oficial en su versión en inglés si hay alguna duda.