Dehumanizácia a hrozba generatívnej AI
Generatívne modely založené na umelej inteligencii dnes predstavujú nebezpečnú zbraň, ktorú môžu jednotlivci zneužiť na šikanovanie svojich oponentov. V tejto digitálnej ére sa s násobilkou zábavy a satiry zamieňajú hodnoty ako dôstojnosť a úcta voči jednotlivcom.
Predstavte si politický klip: postava sa zjavuje na obrazovke, šplechne si vodu do tváre a jeho hlas znie presne autenticky. Aj keď si divák uvedomuje, že ide o deepfake, podceňuje jeho nebezpečenstvo. Problém spočíva v tom, že skutočná hrozba tkvie nielen v klamaní diváka, ale najmä v dehumanizácii tých, ktorí sú takto zobrazení.
Satira bola kedysi limitovaná schopnosťami umelca. Dnes však AI umožňuje vytvoriť tisíce krutých a personalizovaných útokov, ktoré sú prakticky bez nákladov. Takýto obsah maže hranice medzi humorom a zamestnávaním urážok, pričom vyvoláva verejnú debatu, ktorá je čoraz surovejšia a menej tolerantná. Aj keď sa množstvo divákov nevzdáva viery v pravdu videa, opodstatnenosť a vážnosť situácie ostáva veľmi ohrozená.
Depersonalizácia súčasných politických diskusií je zásadným problémom. Práve preto, že sa technológie vyvíjajú veľmi rýchlo, je nevyhnutné zamyslieť sa nad tým, aké hodnoty by sa mali presadzovať v kultúre, ktorá zdôrazňuje rešpekt voči jednotlivcom. V súvislosti s deepfake technológiami je potrebné vyjadriť kritiku a poukázať na hlboké morálne prehry, ktoré môžu nastaviť verejnú mienku voči svojím nepriateľom a oponentom.
Nebezpečenstvo deepfake videí nespočíva len v tom, čo sa zobrazuje na obrazovke, ale predovšetkým v skutočnosti, že takýto obsah môže zmeniť vnímanie jednotlivcov na verejnej scéne. Stáva sa z nich odpad, ktorý si nezaslúži rešpekt, a ich dôstojnosť je ohrozená v menšom či väčšom rozsahu. Posilňuje sa tak predpoklad, že bez ohľadu na realitu je možné manipulovať s vnímaním a názorom ľudí.
Veľkým problémom sa stáva aj to, že aj keď si sa divák uvedomuje falošnosť obsahu, efekt psychológie a vnímania ostáva nespochybniteľný. Je nevyhnutné postaviť sa k týmto technológiam s vážnosťou a hľadať cesty, ako chrániť jednotlivcov pred dehonestáciou a dehumanizáciou, ktorú generatívna AI môže šíriť.
Zdroj: dennikn.sk/4989780/aj-vtipne-ai-videa-prispievaju-k-presvedceniu-ze-sa-neda-nicomu-verit/
