Na autonómnych Robocopov nemyslite, zásadnou hrozbou AI je, že do ľudskej mysle zaseje chaos
Vďaka prednostiam ľudskej mysle sme vybudovali modernú spoločnosť. Jej nevýhodou je, že ju možno obrátiť proti nám, s rovnako silným účinkom. Ak budeme mať v hlavách guláš, spoločnosť bude vyzerať ako guláš – ľudia budú ťahať rôznymi smermi a spoločná realita sa rozpadne. AI je dosiaľ najsilnejší nástroj s touto schopnosťou.
Jeden z dôvodov, prečo sme taký úspešný živočíšny druh, je, že dokážeme kooperovať. Za týmto čudne znejúcim slovom je ukrytá jednoduchá myšlienka – ťaháme za jeden povraz. Keď sa naši dávni predkovia starali o chorých alebo deti, spojili sily. Keď šli na lov, „ťahali za jeden povraz“, aby ulovili zviera, čo by sami nedokázali. Jeden člen zo skupiny vyrobil nástroj, ďalší ho použil. Zhodli sa na stratégii, ako zviera prepadnú, a spoločne ho premohli. Tímová práca. Keď ťaháme za jeden povraz, dokážeme veci, ktoré by sme ako jednotlivci nikdy nezvládli.
AI je ako sociálne siete na steroidoch
Skupina mala aj spoločnú predstavu o realite – zhodla sa, že „toto je kameň na lov“ alebo že „pred nami je rovina, nie roklina“. Výsledkom uvedených – a mnohých ďalších – dispozícií je moderná spoločnosť s vyspelou medicínou a ďalšími výdobytkami.
Potom prišli sociálne siete. V istom zmysle sa postavili proti nám – viac ako inokedy rozbili realitu na alternatívne svety, v ktorých je Zem plochá alebo svet ovládajú reptiliáni. Prispeli k tomu, že sa často nevieme zhodnúť ani na úplne základných veciach. Neťaháme za jeden povraz, ale rôznymi smermi. Čo by sa stalo takej pravekej skupine? Zver by neulovila a umrela by od hladu. Čo sa stane nám v ére umelej inteligencie?
Problém je, že AI vyzerá ako sociálne siete na steroidoch – má ešte väčší potenciál rozbíjať spoločnú predstavu o realite a narúšať kooperáciu, lebo nás vie postrkávať rôznymi smermi.
Čomu dôverovať v ére AI?
Keď sa hovorí o možných rizikách AI, netreba si rovno predstavovať vedomých AI agentov v telách Robocopov či Terminátorov, ktorí budú so zbraňou v ruke terorizovať ľudí.
