Veľa sa hovorí o tom, ako zladiť AI s ľuďmi. Kto však zladí ľudí s AI?
V súčasnosti veľa múdrych hláv uvažuje o tom, ako zabezpečiť, aby umelá inteligencia bola (a zostala) v súlade s ľudskými hodnotami a potrebami. Mnohých totiž desí predstava, čoho by bola AI schopná, ak by bola mnohokrát inteligentnejšia než dnes, a zároveň v nesúlade so základnými etickými princípmi ľudstva.
Už menej sa však hovorí o tom, že mnohí jednotlivci sú už dnes až desivo „nezladení“ so všetkým tým, čo považujeme za hodnotový základ našej civilizácie.
Vezmime si napríklad takého Elona Muska, najbohatšieho človeka na planéte a jednu z kľúčových postáv sveta AI. Koncom júla sa ho šéfredaktorka časopisu Economist Zanny Minton Beddoes spýtala, či stále trvá na svojom nedávnom odhade, že existuje asi 10- až 20-percentná šanca vyhubenia ľudstva, ktoré zapríčiní umelá inteligencia.
Musk nonšalantne, s ľahkým úsmevom odpovedal: „Môj filozofický záver je pozerať sa na to z tej lepšej stránky. Nevidím žiadny spôsob, ako skutočne zastaviť tento neuveriteľný rozmach umelej inteligencie a robotov. A občas si hovorím, že možno, aj keby existovalo tlačidlo na zastavenie, pravdepodobne by sme ho nemali stlačiť, pretože najpravdepodobnejším výsledkom je neuveriteľný dostatok a blahobyt pre všetkých. (…) Myslím, že moja filozofia je v tejto chvíli: užime si túto jazdu. (…) Z dlhodobého hľadiska sme všetci, samozrejme, mŕtvi. (…) Podľa štandardného modelu fyziky sa jestvovanie nášho vesmíru končí akousi riedkou sivou polievkou, ktorá sa postupne ochladzuje. Hovorí sa tomu tepelná smrť vesmíru. (…) Takže ak je tepelná smrť vesmíru skutočne osudom našej reality, potom je najpodstatnejšia samotná cesta, pretože cieľ je hrozný.“
Hovorí sa, že papier (a po novom aj obrazovka) znesie všetko. Rôzne výmysly, hlúposti aj nehoráznosti. Je však ťažké ubrániť sa dojmu, že Musk v týchto disciplínach odomkol nejakú celkom novú úroveň.
Kto „zladí“ ľudí ako Musk so svetom, v ktorom majú životy ostatných ľudských bytostí cenu? Kto by bol zodpovedný za katastrofu? Predstavme si, že sa splnia naše najhoršie obavy a AI agenti začnú o dva či tri roky útočiť na kritickú infraštruktúru našej civilizácie či inými spôsobmi ohrozovať ľudský rod. Kto ponesie zodpovednosť? AI v tom totiž bude úplne nevinne.
