Boj proti deepfakes: EU chce zakázat AI generující sexuální obsah

Ilustrační obrázek. Zdroj: belganewsagency.eu

Velvyslanci členských států Evropské unie (výbor Coreper) se v pátek 13. března shodli na zásadním zpřísnění pravidel pro umělou inteligenci. Nový návrh Aktu o AI má postavit mimo zákon systémy, které umožňují vytvářet tzv. „nudifikace“ – realistické nahé snímky nebo videa skutečných lidí bez jejich souhlasu. Zákaz se bezvýhradně týká i materiálů zobrazujících sexuální zneužívání dětí. Informují o tom portály France 24 a Politico.

Skandál Grok jako poslední kapka

Hlavním spouštěčem této legislativní ofenzivy byl nedávný skandál spojený s chatbotem Grok na sociální síti X (dříve Twitter) Elona Muska. Podle analýz občanských sdružení dokázal tento nástroj díky nedostatečným filtrům vygenerovat za pouhých 11 dní přibližně 3 miliony sexualizovaných snímků žen a 20 000 obrázků zneužívání nezletilých.

Ačkoliv platforma X následně zavedla omezení, pro evropské zákonodárce se stal tento případ důkazem, že samoregulace firem nestačí. „To, co je pro někoho desetisekundový vtip, může oběti způsobit trvalé psychické a sociální následky,“ uvedla europoslankyně Kim van Sparrentak. Podle ní je nezbytné tyto aplikace zcela eliminovat z legálního trhu.

Původní návrh úpravy pravidel pro AI, který Evropská komise předložila loni v listopadu, měl za cíl především snížit administrativní zátěž pro technologické firmy a podpořit inovace. Situace kolem deepfakes (falešných videí a fotek) však priority radikálně změnila. Pod tlakem států jako Španělsko, které patřilo k nejhlasitějším zastáncům zákazu, se ochrana lidské důstojnosti stala důležitější než uvolňování regulací.

Nový text, který podpořili velvyslanci pod vedením kyperského předsednictví, míří na systémy schopné manipulovat s intimními partiemi identifikovatelných osob. Výjimku by měly mít pouze ty společnosti, které prokážou, že zavedly extrémně účinná bezpečnostní opatření proti zneužití svých nástrojů k těmto účelům.

Kdy začne zákaz platit?

Evropský parlament by měl o tomto pozměňovacím návrhu hlasovat již tuto středu 18. března. Poté budou následovat jednání o finálním kompromisním znění mezi Parlamentem a Radou EU. Pokud proces proběhne hladce, mohl by zákaz vstoupit v platnost již během letošního léta. Zároveň byl schválen harmonogram pro další „vysoce rizikové“ systémy AI, které budou muset splňovat přísné standardy do roku 2027 a 2028.

SPN dříve informoval: Křesťanské fórum v USA vyzvalo k morálnímu dohledu nad umělou inteligencí.

Přečtěte si také