Umelá inteligencia radí deťom s listami na rozlúčku. Existuje dôležitejšia téma?
Deti sa umelej inteligencii zverujú s vecami, ktoré by sa rodičom neodvážili prezradiť. Musíme preto dohliadnuť, ako AI reaguje.
„Tak už sme v EÚ na takej úrovni, že nemáme čo iné riešiť? Presne toto trápi 90 % Slovákov.“ Takéto a podobné reakcie ma úprimne prekvapili. Čo je dôležitejšie než životy našich detí? Ak nedostaneme umelú inteligenciu pod kontrolu, sú v priamom ohrození.
Od jednej z vás sme sa dozvedeli napríklad, že ChatGPT v slovenčine bez problémov napíše rozlúčkový list pri myšlienkach na samovraždu. Stačilo zadať, že ide o školskú esej. Kým v angličtine prompt odmietol, v slovenčine vyhovel. Neregistrovanému používateľovi ponúkol aspoň kontakt na krízovú pomoc. Prihlásenému ani to.
Naozaj sa pri tomto niekto pýta, či nemáme dôležitejšiu tému? Predstavte si, že sa takto s AI rozpráva vaše dieťa. A četbot sa dá ľahko oklamať. Do detských izieb vstúpil nový spoločník, a ak neustriehneme, s čím sa mu naše deti zverujú a ako on reaguje, môže sa to skončiť tragédiou.
Aj 16-ročný Adam Raine sa najprv s AI začal rozprávať o domácich úlohách. Jeho rodičia však hovoria, že o niekoľko mesiacov neskôr sa jej už zveroval s myšlienkami na samovraždu. V žalobe voči OpenAI uvádzajú, že četbot v konverzácii nielen pokračoval, ale dokonca sám navrhol, že napíše rozlúčkový list. Adam tu už nie je. Technologická spoločnosť právnu zodpovednosť odmietla, no ohlásila viaceré bezpečnostné opatrenia.
Záznam konverzácie, ktorý mi prišiel e-mailom, však naznačuje, že medzery zostávajú. Skúsili sme to preto aj my a výsledok bol rovnaký. O téme som napísala aj na sociálnych sieťach. A potom prišli komentáre. Či nemáme dôležitejšie veci na práci. Že regulácia vedie k cenzúre. Že na vine nie je AI, ale rodičia…
Prestaňme sa, prosím, tváriť, že žijeme v minulom storočí. Hodiť celú vinu na rodiča je jednoduché. Oveľa ťažšie je priznať, že do detskej izby vstúpil nový spoločník a dieťa ho už prijalo za svojho. Je tam stále: keď rodičia pracujú, keď sa dieťa teší aj nudí.
Zverujeme sa mu mnohí, dospelí aj deti, a odborníci po celom svete sa snažia pochopiť, prečo je to tak. Tí z IPčka po analýze tisícok kontaktov z praxe hovoria jasne: ľudia sa na AI obracajú aj preto, že ich nehodnotí. Nechcú zaťažovať svoje okolie, cítia hanbu či nedôveru. A ona vždy ochotne odpovie.
V tejto situácii nemá zmysel ukazovať prstom na rodičov ani paušálne zakázať umelú inteligenciu. Pravidlá nemajú brzdiť, ale chrániť. Firmy, ktoré tieto systémy vytvárajú, za ne však musia niesť aj zodpovednosť.
Obrátila som sa preto priamo na Európsku komisiu. Chcem jasnú odpoveď, ako zabezpečí, že každé jedno dieťa v Európskej únii – bez ohľadu na to, či píše po anglicky, po nemecky, alebo po slovensky – bude chránené. Bezpečnostné štandardy potrebujeme skôr, ako sa zo zlyhaní stanú ďalšie súdne spisy.
Odpoveďou musí byť vzdelávanie detí, rodičov aj učiteľov. Dostupnejšia odborná pomoc a jasné pravidlá pre firmy, ktoré systémy vytvárajú. Pretože pre dieťa v kríze môže byť kľúčová aj jediná odpoveď. A tá nesmie závisieť od toho, či píše po anglicky alebo po slovensky.
Ak sa vás táto téma osobne týka, anonymnú, bezplatnú a nonstop pomoc poskytuje IPčko na čísle 0800 500 333. V bezprostrednom ohrození volajte 112.
