Stanovisko EDPB k modelům umělé inteligence: Zásady GDPR podporují odpovědnou umělou inteligenci

18 December 2024

Brusel 18. prosince – Evropský sbor pro ochranu osobních údajů (EDPB) přijal stanovisko* k používání osobních údajů pro vývoj a zavádění modelů umělé inteligence. Toto stanovisko se zabývá 1) tím, kdy a jak lze modely umělé inteligence považovat za anonymní, 2) tím, zda a jak lze jako právní základ pro vývoj nebo používání modelů umělé inteligence použít oprávněný zájem, a 3) tím, co se stane, pokud je model umělé inteligence vyvinut s využitím osobních údajů, které byly zpracovány protiprávně. Zvažuje také použití údajů první a třetí strany.

Toto stanovisko si vyžádal irský úřad pro ochranu osobních údajů (DPA) s cílem usilovat o harmonizaci právních předpisů v celé Evropě. S cílem shromáždit podklady pro toto stanovisko, které se zabývá rychle se vyvíjejícími technologiemi, jež mají významný dopad na společnost, uspořádal EDPB akci zúčastněných stran a vyměnil si informace s Úřadem EU pro umělou inteligenci.

Předseda Evropského sboru pro ochranu osobních údajů Talus uvedl: „Technologie umělé inteligence mohou přinést mnoho příležitostí a výhod různým odvětvím a oblastem života. Musíme zajistit, aby tyto inovace byly prováděny eticky, bezpečně a způsobem, který bude přínosem pro všechny. EDPB chce podporovat odpovědné inovace v oblasti umělé inteligence tím, že zajistí ochranu osobních údajů a plné dodržování obecného nařízení o ochraně osobních údajů.“

Pokud jde o anonymitu, ve stanovisku se uvádí, že orgány pro ochranu údajů by měly posoudit, zda je model UI anonymní, případ od případu. Aby byl model anonymní, mělo by být velmi nepravděpodobné, že 1) budou přímo nebo nepřímo identifikovány osoby, jejichž údaje byly použity k vytvoření modelu, a 2) že tyto osobní údaje budou z modelu extrahovány prostřednictvím dotazů. Stanovisko obsahuje nepreskriptivní a nevyčerpávající seznam metod k prokázání anonymity. 

Pokud jde o oprávněný zájem, stanovisko uvádí obecné úvahy, které by úřady pro ochranu osobních údajů měly zohlednit při posuzování toho, zda je oprávněný zájem vhodným právním základem pro zpracování osobních údajů pro vývoj a zavádění modelů umělé inteligence. 

Třístupňový test pomáhá posoudit využití oprávněného zájmu jako právního základu. EDPB uvádí příklady konverzačního agenta, který pomáhá uživatelům, a využití umělé inteligence ke zlepšení kybernetické bezpečnosti. Tyto služby mohou být přínosné pro jednotlivce a mohou se opírat o oprávněný zájem jako právní základ, ale pouze v případě, že se ukáže, že zpracování je nezbytně nutné a že je respektováno vyvážení práv.

Stanovisko rovněž obsahuje řadu kritérií, která mají úřadům pro ochranu osobních údajů pomoci posoudit, zda jednotlivci mohou důvodně očekávat určité použití svých osobních údajů. Mezi tato kritéria patří: zda osobní údaje byly či nebyly veřejně dostupné, povahu vztahu mezi fyzickou osobou a správcem, povahu služby, kontext, v němž byly osobní údaje shromážděny,zdroj,ze kterého byly údaje shromážděny,  potenciální další použití modelu a to, zda si jsou fyzické osoby skutečně vědomy toho, že jejich osobní údaje jsou online. 

Pokud test vyváženosti ukáže, že ke zpracování by nemělo dojít z důvodu negativního dopadu na jednotlivce, mohou zmírňující opatření tento negativní dopad omezit. Stanovisko obsahuje demonstrativní seznam příkladů takových zmírňujících opatření, která mohou být technické povahy nebo mohou jednotlivcům usnadnit výkon jejich práv nebo zvýšit transparentnost.

A konečně, pokud byl model UI vyvinut s nezákonně zpracovávanými osobními údaji, mohlo by to mít dopad na zákonnost jeho zavedení, pokud nebyl model řádně anonymizován. 

Vzhledem k rozsahu žádosti irského orgánu pro ochranu údajů, obrovské rozmanitosti modelů umělé inteligence a jejich rychlému vývoji je cílem stanoviska poskytnout pokyny k různým prvkům, které lze použít k provedení analýzy jednotlivých případů. 

Kromě toho EDPB v současné době vypracovává pokyny týkající se konkrétnějších otázek, jako je škrábání webových stránek.

 

Poznámka pro redaktory:
Stanovisko podle čl. 64 odst. 2 se zabývá záležitostí s obecnou působností nebo má účinky ve více než jednom členském státě.

Zde zveřejněná tisková zpráva byla automaticky přeložena z angličtiny.  EDPB nezaručuje přesnost překladu. Pokud existují nějaké pochybnosti, přečtěte si prosím oficiální text v jeho anglickém znění.