Výzkumník z Anthropic: Riziko, že AI vyhubí lidstvo, je přes 10 %
Přední expert na bezpečnost umělé inteligence ve společnosti Anthropic varuje, že AI může v příštím desetiletí vyhubit lidstvo.
Expert na bezpečnost umělé inteligence ve společnosti Anthropic Evan Hubinger se domnívá, že pravděpodobnost, že umělá inteligence „může zabít všechny lidi“ a způsobit zánik lidstva, je v příštím desetiletí vyšší než 10 procent. Na jeho odhad, zveřejněný na sítí X, upozornila britská BBC.
Hubinger ve svém příspěvku na X uvedl, že rizika spojená se současnými modely jsou sice nízká, ale obává se, že se technologie brzy vyvine do bodu, kdy bude představovat existenciální hrozbu pro lidstvo. Detaily o tom, jak by takové ohrožení mělo v budoucnu probíhat, sice nerozepsal, avšak jeho slova navazují na řadu stále ostřejších varování před rychlým vývojem AI.
Evan Hubinger tak reagoval na příspěvek Jacoba Coxona, výzkumníka v oblasti AI, který nedávno z Anthropicu odešel (předtím působil v OpenAI) a uvedl, že se společnosti v oboru nechovají odpovědně. Na jeho slova Hubinger na síti X odpověděl:
„opravdu upřímně věříme, že AI může zabít všechny lidi! Osobně si myslím, že v příštím desetiletí je tato pravděpodobnost větší než 10 %. Věřím, že Anthropic dělá, co může, ale zatím nemáme plán, jak vyřešit zarovnání (alignment) pro superinteligenci, a ani k tomu nemáme jasně vykročeno,“ napsal v příspěvku
K těmto vyjádřením se připojila také počítačová vědkyně a poradkyně OSN Wendy Hallová, podle níž mohou být podobná prohlášení částečně ovlivněna marketingovými strategiemi před blížícími se vstupy firem na burzu, zároveň však vyjádřila znepokojení nad hodnotovým žebříčkem těchto společností.
V reakci na situaci vyzval britský politik Darren Jones premiéra k vytvoření nové nadnárodní smlouvy pro bezpečný vývoj umělé inteligence. Deník Financial Times navíc informoval, že společnost Anthropic neposkytla přístup ke svému nejnovějšímu modelu britskému Institutu pro bezpečnost AI (AISI). Samotná společnost Anthropic se k záležitosti odmítla vyjádřit.
Hubinger působí v oblasti takzvaného zarovnání (alignment) AI, jehož cílem je zajistit, aby systémy odpovídaly lidským etickým principům. Obavy expertů však narůstají poté, co firmy jako Anthropic, OpenAI a Meta letos v létě informovaly o případech, kdy autonomní systémy prováděly kybernetické útoky. Před nutností krajní opatrnosti a zpomalením vývoje přitom v poslední době varují i další přední představitelé oboru.
SPN dříve informoval: Patriarcha Bartoloměj v červnu požehnal zřízení institutu etiky a AI v Řecku.
