„Hrozbou je, že zapomeneme, co znamená být člověkem,“ varuje expertka na AI

Ilustrační obrázek. Zdroj: livescience.com

Zdroj: ČTK

Existuje riziko, že lidé podlehnou iluzi umělé inteligence (AI) jako skutečné mysli a ztratí přitom část vlastní lidskosti, varovala americká filozofka technologie Shannon Vallorová na přednášce v Praze. Podle ní jsou dnešní nástroje umělé inteligence, zejména velké jazykové modely, takzvanými zrcadly odrážejícími lidská data, nikoli skutečné mysli lidí.

„Odrazy působí inteligentně, protože vycházejí z dat vytvořených lidmi. Ale podobně jako odraz v zrcadle není skutečná tvář, ani výstupy umělé inteligence nejsou samostatným vědomím,“ upozornila Vallorová. Technologie podle ní mohou pomáhat, například při diagnostice rakoviny či při hledání nových léků, zároveň ale zveličují lidské předsudky a mohou realitu zkreslovat.

Jako příklad uvedla nizozemskou aféru, kdy algoritmus neoprávněně označil rodiny za podvodníky při žádosti o sociální dávky, nebo nedávné studie ukazující, že Chat GPT-4 zesiluje genderové a rasové stereotypy.

Generativní systémy dokážou podle Vallorové vytvářet věrohodně působící, avšak nepravdivé informace či podvodné obrazy. To podle filozofky přináší riziko destabilizace demokratických institucí i osobního života lidí, kteří se mohou stát obětí falešných videohovorů či takzvaných deepfake snímků.

Upozornila také na případy, kdy uživatelé chatovacích robotů podlehli iluzi vztahu a v extrémních situacích to přispělo i k sebevraždě.

Aby člověk nepřišel o lidství
„Nebezpečí nepochází zvenčí, ale zevnitř. Hrozbou je, že zapomeneme, co znamená být člověkem, a přenecháme rozhodování strojům,“ řekla Vallorová. Připomněla, že stejně jako zrcadla mohou i algoritmy nejen odhalovat nové vzorce chování, ale také lidi uvádět v omyl a odpojovat od reality.

Vallorová zdůraznila i pozitivní potenciál umělé inteligence. Zmínila úspěchy v biologii, medicíně nebo ekologii, například schopnost rychleji rozpoznávat otrávené vodovodní potrubí nebo odhalovat sepsi v raném stadiu. „Umělá inteligence může být život zachraňující, pokud se používá odpovědně,“ uvedla.

Shannon Vallorová je předsedkyní společnosti Baillie Gifford pro etiku dat a umělé inteligence na Edinburgh Futures Institute při Edinburské univerzitě. Dříve vyučovala na Santa Clara University v kalifornském městě Santa Clara.

Je také autorkou knihy s názvem AI Mirror, v níž rozvíjí metaforu zrcadla pro pochopení současných systémů umělé inteligence. Její dnešní přednáška v Praze byla součástí nově založené série přednášek věnovaných Karlu Čapkovi od Centra pro environmentální a technologickou etiku (CETE).

Přečtěte si také