Umělá inteligence: pomocník, nebo podněcovatel?
Komentář protojereje Vadima Gladkého z Oděské eparchie Ukrajinské pravoslavné církve se zamýšlí nad duchovními a psychologickými riziky, která s sebou nese umělá inteligence.
Jedná se o přeloženou zprávu z ukrajinské redakce.
Umělá inteligence už dávno není sci-fi, stala se součástí naší každodennosti. Setkáváme se s ní ve vyhledávačích a překladačích, při úpravě fotek, tvorbě hudby nebo ve vzdělávacích aplikacích. Vědě a technice otevírá nové obzory: pomáhá analyzovat obrovské datové soubory, navrhovat složité systémy, vyvíjet léky, provádět různé objevy a hledat nestandardní řešení. V životě běžného člověka se AI nejčastěji projevuje jako hlasový nebo textový asistent, který pomáhá šetřit čas při rutinních úkolech a otevírá nové možnosti pro vědu, podnikání i vzdělávání.
Nelze však zapomínat, že jakékoli technologie jsou jen nástroje. A to, jak se použijí, závisí výhradně na lidské vůli. Dnes máme přístup k nevyčerpatelným zdrojům vědění, ale samotné nás nečiní hlubšími ani pozornějšími. Jestliže člověk nebojuje se svou leností, neučí se zdrženlivosti a neusiluje o čistotu, i ty nejlepší technologie zneužije k uspokojování svých vášní.
Hlavní svod umělých neuronových sítí spočívá v tom, že simulují komunikaci s živou osobou, ale je to jen imitace. S živou bytostí je nutné se domluvit, najít společnou řeč. I s oslem se musíte „domluvit“, aby se pohnul, s koněm je potřeba si vybudovat důvěru. S počítačem ale domluva není nutná. V tomto smyslu je každá technologie náhradou za to organické a živé. Skutečná komunikace s člověkem vyžaduje úsilí, pokoru a lásku. Vůči AI se nemusíme pokořovat a učit se ji milovat. Je bezchybná – souhlasí, chválí, přizpůsobuje se uživateli.
Nedávná tragédie bývalého top manažera Yahoo Steina-Erika Selberga, popsaná v The Wall Street Journal, ukazuje temnou stránku nekontrolované komunikace s umělou inteligencí. Muž, který prožíval osobní krizi, začal vnímat chatbota jako blízkého přítele a důvěřovat jeho slovům. Stroj, který není osobností a nemá soucit ani odpovědnost, podporoval jeho chorobné podezření a nakonec jej, podle názoru příbuzných, nepřímo dotlačil k fatálnímu kroku.
Výzkumy navíc potvrzují, že neustálá interakce s AI vede ke kognitivním změnám: člověk jakoby odevzdává část svého intelektu a svého statusu tvůrce. Není žádným tajemstvím, že formáty prezentace informací na internetu jsou záměrně navrženy tak, aby vyvolávaly závislost: krátké dávky dopaminu, neustálá oznámení, udržování pozornosti. Naše biologická povaha se ukázala být zranitelná a velké korporace toho vědomě využívají, když vymýšlejí nové způsoby, jak lidi „přilákat“.
Takovýto „narkotikum“ moderní doby je obzvláště škodlivé pro děti, ačkoli ani zdaleka ne každý dospělý má dostatečnou imunitu. Přitom pro nás, křesťany, není na způsobech vnitřní ochrany nic nového – jedná se o základní asketické minimum, které je nezbytné pro každého.
Za prvé, jasně zformovaný světový názor: kdo jsem, kdo jsme, kdo je můj přítel a kdo nepřítel, proč žiji, komu sloužím a kdo je můj Bůh.
Za druhé, spojení s materiálním světem: sport a práce rukama.
Za třetí, schopnost sebereflexe: sledování svých vnitřních pohnutek a tužeb, a pokání. Umělá inteligence nám v tomto samozřejmě nepomůže, protože v jejím kódu je naprogramovaný opak – říkat to, co uživatel chce slyšet, ospravedlňovat, podporovat, zatímco sebereflexe nás nutí dívat se tam, kam se nechceme dívat.
A konečně, půst (zdrženlivost) v digitální sféře je dalším univerzálním prostředkem, který dokáže trénovat vůli proti závislosti a vrátit člověku svobodu.
Celkově platí, že při rozvoji technologií je vždy nutné mluvit o psychologii, uspořádání mozku, biologických mechanismech zpětné vazby a jejich zranitelnosti. Ostatně i tam, kde nejde o závislost, ale o pouhé používání technologií, existují nebezpečí: algoritmy mohou dělat chyby, zkreslovat fakta a nahrazovat realitu.
