AI - konec lidstva
Nějakou dobu koluje mezi lidmi článek (nebo alespoň katastrofické myšlenky) popisující možný vývoj umělé inteligence https://ai-2027.com/ Jedná se o jednasedmdesátistránkový dokument, popisující možný vývoj velkých jazykových modelů pro nejbližší dobu (několik let). Web provozuje skupina nezávislých výzkumníků. Její hlavou je Daniel Kokotajlo.
Daniel Kokotajlo původně studoval filozofii. Delší dobu se však věnuje předpovídání budoucnosti strojů napodobujících lidské myšlení. Kokotajlo byl zaměstnancem firmy OpenAI (ChatGPT), ale v roce 2024 z ní odešel – údajně kvůli nedostatečné pozornosti věnované bezpečnosti. Dalšími autory jsou Eli Lifland, Thomas Larsen, Romeo Dean a Scott Alexander Siskind. Všichni píší o vývoji AI, nebezpečích, která se v něm mohou skrývat, a podobných tématech. Nejsou však přímo odborníky na konstrukci a fungování jazykových modelů. Například Scott Alexander Siskind je v běžném životě psychiatr.
Článek nabízí několik verzí toho, jak by se mohla budoucnost odvíjet. Nejvíce se diskutuje o nejtemnější variantě, připomínající scénář z filmů typu Terminátor – kdy v šokujícím tempu (do roku 2030) téměř dojde k vyhynutí lidstva a převzetí nadvlády nad Zemí stroji. Hlavní myšlenkou této teorie je, že vlády USA a Číny předají, v honbě za co nejrychlejším vývojem AI, velkou část pravomocí a kontroly právě umělé inteligenci. Dnešní vývoj velkých jazykových modelů je během na dlouhou trať, stojí desítky miliard dolarů a modely jsou ve velkém upravovány lidmi – například aby AI neříkala nekorektní vtipy o různých menšinách, které se jinak přirozeně naučí z běžných textů na internetu, ale samozřejmě je toho mnohem více. Proto v rámci urychlení a zlevnění vývoje by mohla AI téměř autonomně „vycvičit“ jiné AI modely a to bez lidské kontroly. Takže by mohla pokoutně (z pohledu AI by to bylo přirozené) vložit do nového modelu touhu převzít moc. Přechod by byl plynulý. Lidé by nejprve profitovali ze zlepšující se AI, sami jí předávali stále větší porci kontroly (například nad dopravními a vojenskými prostředky, nad továrnami…), až by se nakonec ukázala její skutečná síla a převzala by nadvládu.
Co mě osobně ale zaráží, je ta rychlost. Dejme tomu, že po stránce vývoje softwaru si dovedu představit, že AI programující jiné AI obrovsky akceleruje vývoj, ale software musí na něčem běžet. Vzhledem k obrovskému nedostatku čipů pro provoz AI, by bylo potřeba postavit spoustu nových výrobních linek, na nich vyrobit obrovské množství akcelerátorů a následně postavit a vybavit jimi velké množství datových center (a spoustu dalšího okolo). To je něco, co by se do roku 2030 určitě nestihlo. Já osobně černému scénáři v takto blízké době naprosto nevěřím. AI bude získávat stále větší schopnosti, bude čím dál více součástí našeho života a výrazně ho promění – pravděpodobně více než příchod mobilních telefonů, možná i internetu. Bude to šok, ale ne v takové míře, jak popisuje temný scénář uvedeného článku. Čas, který nám dá pomalé tempo výstavby nových továren a datových center, nám snad poskytne prostor se na novou dobu adaptovat.
Abych ale nekončil příliš optimisticky, vyslovím obavu, že AI skutečně způsobí revoluci. V zemích, kde se bude hojně využívat, ale nebude pod kontrolou, může nastat problém. Trochu se obávám o Evropu. Aby příliš nespoléhala na technologie z USA. Pak by se mohlo stát, že AI skutečně převezme podstatnou část dobře placené práce a místo tučných výplat evropským programátorům, právníkům, poradcům, kreativcům… poteče podstatná část těchto peněz do velkých firem v USA a u nás ty peníze pak budou chybět i v běžných obchodech, kde tito lidé utrácejí. Paradoxně nám, asi nevědomky, pomáhá Donald Trump. Evropany začíná výrazně učit nespoléhat se na USA a více se starat sami o sebe. Tak třeba brzo vznikne nějaká konkurenceschopná evropská AI, která z důvodu časového presu nebude až tak přeregulovaná, na druhou stranu drobná EU regulace, aby nás v roce 2035 nesnědla, by se hodila.
Co by potřebovala EU, potažmo ČR, aby se udržela v závodu vývoje AI na špici (tzn. "close third" za USA a Čínou, který asi nedostihneme, ale musíme se jich aspoň držet, pokud chceme zůstat velmocí)? Jan Kulveit (AI rozumí a sleduju ho na FB, protože z nějakýho důvodu není na Discussion) říká, že by na to ČR měla dát 10-20 mld. Kč ročně, aby byla evropskou špičkou, což mi nepřijde moc. O to trestuhodnější je, že to neudělá a naopak lidi z oboru ztrácí (Mikolov).