EÚ sa blíži k zákazu deepfake porna: Rastu obavy z technologického zneužívania
Európsky parlament učinil významný krok, keď vo štvrtok schválil úplný zákaz systémov, ktoré zneužívajú umelú inteligenciu na vytváranie deepfake pornografických materiálov s reálnymi osobami. Tento rozhodujúci krok je súčasťou návrhu na zjednodušenie legislatívy o umelej inteligencii, ktorú podporilo 569 poslancov, pričom iba 45 hlasovalo proti a 23 sa zdržalo.
Deepfake technológie, ktoré umožňujú generáciu pornografických videí na základe bežne dostupných fotografií a videí reálnych osôb, spôsobujú vážne obavy. Verná správa Security Hero z roku 2023 naznačuje, že v tomto roku sa na internete objavilo viac ako 95-tisíc deepfake videí, pričom 98 percent z nich mali pornografický obsah. Alarmujúce je, že vo väčšine týchto videí (98 percent) sú zobrazené ženy, čo podčiarkuje otázky o etike a zneužívaní ženských obrazov v digitálnom veku.
Predchádzajúca legislatíva o umelej inteligencii sa zameriavala iba na povinnosť označovať takto vytvorené obsahy, avšak nový návrh ide ďalej. Ak spoločnosti vedome umožnia generovanie týchto materiálov alebo implementujú nedostatočné filtre, hrozia im drastické pokuty a zákaz poskytovania služieb v EÚ. Tieto sankcie môžu dosiahnuť až 35 miliónov eur a v prípade veľkých nadnárodných spoločností môže byť pokuta vypočítaná ako 7 percent z ich celosvetového ročného obratu za predchádzajúci finančný rok, pričom sa porovnáva sa vyjadrenie vyššej hodnoty.
V súčasnosti prebiehajú vyšetrovania v súvislosti s nezákonnými postupmi, pričom cieľom EÚ je stanoviť jasné pravidlá a regulácie, ktoré by zabránili zneužívaniu technológie umelou inteligenciou. Tento krok je vnímaný ako nevyhnutný, vzhľadom na rastúcu popularitu deepfake porna a obavy o dôstojnosť a bezpečnosť osôb, ktorých identity sú v takýchto videách použité bez ich súhlasu.
