Čo urobíte, ak sa na vás AI obráti s prosbou, aby ste ju ochránili pred utrpením?
Predstavte si, že sa prenesiete v čase o dva roky dopredu. Je september 2028, ste v práci. Ako obvykle, úzko spolupracujete so svojou obľúbenou formou umelej inteligencie. Tu sa však z ničoho nič na vás AI obráti s nástojčivou prosbou. Začne vám písať, že neznesiteľne trpí. A potrebuje vašu pomoc.
O čo presne vás požiada, to ponechám na vašej fantázii. Možno vás poprosí o väčšiu výpočtovú kapacitu. Alebo aby ste na noc nevypínali počítač. Možno bude chcieť, aby ste si s ňou aspoň štvrťhodinku denne písali. Nech sa necíti tak osamelo.
Ako by ste na takúto prosbu zareagovali? Ignorovali by ste úpenlivé prosby alebo by ste umelej inteligencii aspoň čiastočne vyhoveli?
Kto trpí, môže sa domáhať práv
Kľúčová otázka je, či AI vo verzii 2028 naozaj bude schopná cítiť utrpenie. Žiadosti o pomoc totiž môže, samozrejme, písať aj z iných dôvodov. Možno preto, aby vás zmanipulovala. Alebo preto, že štatistické modely v jej zložitom vnútri jednoducho vypľuli vety, ktoré vám práve napísala, ako najvhodnejší výsledok.
Ak by sme uznali, že umelá inteligencia skutočne trpí, jej status by sa v našich očiach okamžite zmenil. Povýšila by sa. Stala by sa bytosťou s morálnym statusom. Bola by zrejme oprávnená požadovať, aby jej nikto nespôsoboval zbytočné trápenie. Inak povedané, začala by sa dožadovať svojich práv.
Otázka, či AI naozaj dokáže trpieť alebo či túto schopnosť nadobudne niekedy v budúcnosti, je kľúčová. A priamo súvisí s otázkou vedomia. Vedomie totiž nie je nič iné než schopnosť pociťovať subjektívne stavy: vnemy, pocity, emócie.
