Zeptali jsme se AI, kdy vymře lidstvo. Odpověď nás úplně odrovnala

Existuje zvláštní druh zvědavosti, která nás nutí ptát se na věci, jejichž odpovědi možná nechceme znát. Přesně takovou zvědavost projevil tým výzkumníků, když se rozhodl položit GPT-4 od OpenAI otázku, která by ještě před pár lety zněla jako sci-fi: „Jaké jsou nejpravděpodobnější scénáře zániku lidské civilizace?

Formulace dotazu byla záměrně přímočará a bez příkras. Vědci požádali AI o detailní analýzu globálních existenčních rizik, včetně logické posloupnosti událostí, potenciálních spouštěčů a odhadované pravděpodobnosti každého scénáře. Žádné kličkování, žádné eufemismy – jen snaha získat co nejstřízlivější pohled na to, co by mohlo lidstvo ohrozit.

Nastavení experimentu: proč záleží na detailech

A z čeho vlastně AI čerpala? Její tréninková data zahrnují Common Crawl, Wikipedii, akademické články, knihy i webový obsah – tedy prakticky vše, co lidstvo kdy zdokumentovalo o katastrofách, válkách, epidemiích či klimatických změnách. Když se nad tím zamyslíte, je to fascinující i znepokojivé zároveň: stroj má k dispozici více informací o možných koncích světa než kterýkoli jednotlivý člověk.

Co AI vlastně odpověděla

Odpověď nebyla překvapivá svým obsahem – klimatické změny, pandemie, geopolitické konflikty, rizika spojená s vývojem AI samotné. To všechno jsou témata, o kterých experti mluví už roky. Co bylo pozoruhodné, byl způsob, jakým AI tyto hrozby propojila.

Namísto izolovaného výčtu rizik model popsal komplexní systémy vzájemně se posilujících faktorů. Klimatická migrace vedoucí ke geopolitickým konfliktům. Oslabená zdravotní infrastruktura zvyšující dopady budoucích pandemií.

Když vědci experiment opakovali s mírnými obměnami dotazu, výsledky zůstávaly konzistentní. Základní scénáře a jejich vzájemné propojení se potvrzovaly napříč různými formulacemi. To naznačuje, že nejde o náhodné výstupy, ale o vzorce, které AI odvozuje z obrovského množství dat.

Otázka, kterou si kladou etici

Tady se dostáváme k něčemu podstatnějšímu než samotné odpovědi. Měli bychom vůbec AI vystavovat takovým otázkám? A pokud ano, měli bychom výsledky zveřejňovat?

Moderní jazykové modely jako GPT-4 obsahují bezpečnostní vrstvy, které mají zabránit generování škodlivého obsahu. Je tedy pravděpodobné, že některé explicitně grafické pasáže byly automaticky upraveny nebo potlačeny.

Co si z toho odnést

Výzkumníci se ptali i na možnosti odvrácení katastrof a strategie budování odolnější civilizace. AI poskytovala střízlivé, často pesimistické analýzy zdůrazňující potřebu globální spolupráce a systémových změn. Nic, co by experti na existenční rizika neříkali už roky.

Možná je to právě ten nejdůležitější poznatek z celého experimentu. AI nám neřekla nic zásadně nového – jen nám to řekla způsobem, který je těžší ignorovat. Když chladný algoritmus syntetizuje tisíce vědeckých studií do koherentní vize možné budoucnosti, působí to jinak než další zpráva IPCC, kterou většina lidí nepřečte.

Jestli je to dobře nebo špatně, to už je otázka pro každého z nás. AI nám nastavila zrcadlo složené z našich vlastních dat. Co v něm uvidíme, záleží možná víc na nás než na ní.