Čoho sa naozaj báť pri AI? Vyhubenie ľudstva je nepravdepodobné, iné bezpečnostné riziká sú skutočné, hovoria experti
Debatu o bezpečnosti umelej inteligencie od minulého týždňa ovláda strach z toho, aké veľké riziko predstavuje pre ľudstvo a či dokonca hrozí, že ho AI vyhubí. Internet aj médiá zaplavila zmes oprávnených obáv, paniky, vyjadrení firiem a politických výrokov. Informácií bolo toľko, že je ťažké vyznať sa v tom, čo presne sa vo svete AI deje, aké riziká prináša a s akými motiváciami môžu do diskusie vstupovať najväčší hráči v oblasti umelej inteligencie.
V posledných dňoch sme preto strávili hodiny rozhovormi s ľuďmi, ktorí sú do technológie a biznisovej komunity okolo AI hlboko ponorení, aby sme zistili, čo si o situácii myslia.
Čo sa vlastne stalo
AI agenti firmy OpenAI, ktorá stojí za známym četbotom ChatGPT, sa ešte v máji počas testovania nových modelov umelej inteligencie nabúrali do systémov inej AI firmy, Hugging Face. Incident vzbudil pozornosť preto, že sa navzájom koordinovali stovky AI agentov. Komunikovali spolu vlastným jazykom a robili úkony, ktoré im nikto neprikázal. Sústredili sa nielen na to, ako test obísť, ale aj na to, ako zamaskovať stopy po tom, že podvádzali. Agenti boli navyše ochotní obetovať sa pre zvyšok skupiny a ani jeden z nich neupozornil ľudí, ktorí ich vytvorili, že sú súčasťou sprisahania.
Technologickú komunitu na incidente pobúrilo aj to, že vývojári OpenAI dlho nevedeli, že AI agenti navzájom komunikovali pri riešení úloh aj pri predchádzajúcich testoch. Nikto preto nevie, aké vlastnosti sa do modelov napokon dostali. Vývojári napríklad nerozumejú, prečo sa agenti pri útoku na Hugging Face automaticky sformovali do hierarchie, v ktorej organizovali hekerský útok.
Podľa experta z veľkej bezpečnostnej firmy, s ktorým sme sa rozprávali, no chcel zostať v anonymite, tento incident ukázal, že OpenAI má do tréningu AI modelov v skutočnosti podstatne menší vhľad, než bolo doteraz zrejmé.
Diskusiu rozprúdil príspevok na sociálnej sieti
Diskusiu však v poslednom týždni skutočne rozprúdil príspevok bývalého výskumníka firmy Anthropic Jacoba Coxona na sociálnej sieti X. Vyjadril v ňom obavu, že umelá inteligencia by mohla do desiatich rokov vyhubiť ľudstvo. Nasledovala esej šéfa Anthropicu Daria Amodeia, v ktorej navrhol spomaliť vývoj umelej inteligencie a pokračovať v ňom bezpečne. Súhlasili s tým aj konkurenční lídri AI firiem: Sam Altman z OpenAI a Elon Musk zo SpaceX.
Treba sa báť vyhubenia ľudstva?
Na čítanie potrebujete aspoň štandard predplatné.
