Je možné vývoj AI regulovať?
Dnes sa úroveň umelej inteligencie (Artificial Intelligence, AI) dostáva do takého stavu, že v mnohom už prekonáva schopnosti najvýkonnejších ľudských mozgov. Popri vývoji funkcionality AI sa veľa hovorí aj o regulácii tohto procesu, aby bol bezpečný, ekonomicky udržateľný a aby neohrozoval zdravý vývoj ľudskej spoločnosti.
Hoci AI je široký pojem, ktorý zahŕňa rôzne technológie uplatniteľné vo všetkých odvetviach hospodárstva, vedy a života spoločnosti a ktorý sa vyvíja už 70 rokov, prioritnú pozornosť teraz venujeme veľkým jazykovým modelom (LLM) a generatívnej AI (GAI). Dnes zaznamenávajú revolučný rozvoj a ich narastajúce schopnosti prekvapujú i odborníkov v oblasti AI.
Stupeň inteligencie pri živočíchoch úzko súvisí s počtom neurónov v ich mozgoch. Zjednodušene sa dá povedať, že s narastajúcim počtom neurónov narastajú aj podmienky pre ich inteligenciu. Na dosiahnutie jej čo najvyššieho stupňa je potom ešte potrebná dobrá výchova, vzdelanie a vhodný vplyv prostredia. Pri LLM je to podobne. Čím viac je tzv. trénovateľných parametrov (čo je ekvivalent synapsií – prepojení medzi neurónmi v mozgu), tým lepšie sú predpoklady pre budúcu inteligenciu stroja. Potom už len stačí dostatočne intenzívny tréning. S istým zjednodušením: rozvoj výkonnosti AI je dnes hlavne otázkou disponibilných peňazí na HW, energie a vhodných dát na tréning.
Okolo GAI sa aktuálne objavujú časté diskusie o jej bezpečnosti, ekonomickej udržateľnosti a potrebe regulácie jej vývoja.
Bod zlomu
Doterajší vývoj AI bol závislý hlavne od kvantity a kvality ľudských odborníkov, ktorí ju vyvíjajú. Dnes sa však na vývoj a trénovanie nových generácií GAI už začínajú používať samotné stroje. V tejto súvislosti sa hovorí o tzv. rekurzívnom sebazdokonaľovaní sa AI. Človek už niektorým krokom a algoritmom tohto procesu dokonca prestáva rozumieť a prestáva byť aj schopný udržať nad nimi kontrolu.
Rýchlosť a zložitosť samozdokonaľovania podľa niektorých odborníkov dosiahla „bod zlomu“, keď už pomalé a limitované ľudské myslenie nedokáže držať krok so zrýchľujúcou sa výpočtovou technikou.
Veľký rozruch nedávno vyvolali publikované obavy vývojárov AI o schopnostiach strojov úspešne riešiť veľmi ťažké problémy a prekonávať ťažké kybernetické prekážky. Dokonca takými spôsobmi, ktoré ich ľudskí vývojári pôvodne ani nepredpokladali. Takých prípadov bolo údajne viac, ale najväčšiu pozornosť odbornej verejnosti vzbudil nedávny koordinovaný útok veľkého počtu autonómnych AI agentov spoločnosti OpenAI na dátové úložisko spoločnosti Hugging Face.
Podľa jedného z popredných producentov by roj AI agentov s ešte väčšími schopnosťami o šesť až dvanásť mesiacov mohol dokázať ohroziť významnú časť internetu a spôsobiť škody za stovky miliárd dolárov. Môže ísť o útoky na finančnú alebo kritickú infraštruktúru, o dezinformačné aktivity, ale aj o zneužitie AI na výrobu biologických či iných zbraní. Ak sa AI dostane do rúk podvodníkov, teroristov či totalitných režimov, môžu vzniknúť obrovské škody.
