Zaregistruj se zde zdarma a pak vytvářej diskuze (články) buď pro všechny, nebo jen pro tebou vybrané osoby.
AI - konec lidstva
Nějakou dobu koluje mezi lidmi článek (nebo alespoň katastrofické myšlenky) popisující možný vývoj umělé inteligence https://ai-2027.com/ Jedná se o jednasedmdesátistránkový dokument, popisující možný vývoj velkých jazykových modelů pro nejbližší dobu (několik let). Web provozuje skupina nezávislých výzkumníků. Její hlavou je Daniel Kokotajlo.
Daniel Kokotajlo původně studoval filozofii. Delší dobu se však věnuje předpovídání budoucnosti strojů napodobujících lidské myšlení. Kokotajlo byl zaměstnancem firmy OpenAI (ChatGPT), ale v roce 2024 z ní odešel – údajně kvůli nedostatečné pozornosti věnované bezpečnosti. Dalšími autory jsou Eli Lifland, Thomas Larsen, Romeo Dean a Scott Alexander Siskind. Všichni píší o vývoji AI, nebezpečích, která se v něm mohou skrývat, a podobných tématech. Nejsou však přímo odborníky na konstrukci a fungování jazykových modelů. Například Scott Alexander Siskind je v běžném životě psychiatr.
Článek nabízí několik verzí toho, jak by se mohla budoucnost odvíjet. Nejvíce se diskutuje o nejtemnější variantě, připomínající scénář z filmů typu Terminátor – kdy v šokujícím tempu (do roku 2030) téměř dojde k vyhynutí lidstva a převzetí nadvlády nad Zemí stroji. Hlavní myšlenkou této teorie je, že vlády USA a Číny předají, v honbě za co nejrychlejším vývojem AI, velkou část pravomocí a kontroly právě umělé inteligenci. Dnešní vývoj velkých jazykových modelů je během na dlouhou trať, stojí desítky miliard dolarů a modely jsou ve velkém upravovány lidmi – například aby AI neříkala nekorektní vtipy o různých menšinách, které se jinak přirozeně naučí z běžných textů na internetu, ale samozřejmě je toho mnohem více. Proto v rámci urychlení a zlevnění vývoje by mohla AI téměř autonomně „vycvičit“ jiné AI modely a to bez lidské kontroly. Takže by mohla pokoutně (z pohledu AI by to bylo přirozené) vložit do nového modelu touhu převzít moc. Přechod by byl plynulý. Lidé by nejprve profitovali ze zlepšující se AI, sami jí předávali stále větší porci kontroly (například nad dopravními a vojenskými prostředky, nad továrnami…), až by se nakonec ukázala její skutečná síla a převzala by nadvládu.
Co mě osobně ale zaráží, je ta rychlost. Dejme tomu, že po stránce vývoje softwaru si dovedu představit, že AI programující jiné AI obrovsky akceleruje vývoj, ale software musí na něčem běžet. Vzhledem k obrovskému nedostatku čipů pro provoz AI, by bylo potřeba postavit spoustu nových výrobních linek, na nich vyrobit obrovské množství akcelerátorů a následně postavit a vybavit jimi velké množství datových center (a spoustu dalšího okolo). To je něco, co by se do roku 2030 určitě nestihlo. Já osobně černému scénáři v takto blízké době naprosto nevěřím. AI bude získávat stále větší schopnosti, bude čím dál více součástí našeho života a výrazně ho promění – pravděpodobně více než příchod mobilních telefonů, možná i internetu. Bude to šok, ale ne v takové míře, jak popisuje temný scénář uvedeného článku. Čas, který nám dá pomalé tempo výstavby nových továren a datových center, nám snad poskytne prostor se na novou dobu adaptovat.
Abych ale nekončil příliš optimisticky, vyslovím obavu, že AI skutečně způsobí revoluci. V zemích, kde se bude hojně využívat, ale nebude pod kontrolou, může nastat problém. Trochu se obávám o Evropu. Aby příliš nespoléhala na technologie z USA. Pak by se mohlo stát, že AI skutečně převezme podstatnou část dobře placené práce a místo tučných výplat evropským programátorům, právníkům, poradcům, kreativcům… poteče podstatná část těchto peněz do velkých firem v USA a u nás ty peníze pak budou chybět i v běžných obchodech, kde tito lidé utrácejí. Paradoxně nám, asi nevědomky, pomáhá Donald Trump. Evropany začíná výrazně učit nespoléhat se na USA a více se starat sami o sebe. Tak třeba brzo vznikne nějaká konkurenceschopná evropská AI, která z důvodu časového presu nebude až tak přeregulovaná, na druhou stranu drobná EU regulace, aby nás v roce 2035 nesnědla, by se hodila.
Nedávno jsem viděl v televizi mluvit takového mladého českého vědce, který tu umělou inteligenci programoval pro Google a Facebook. Tak proč ji nenaprogramuje i pro Českou republiku?
Jestli je řeč o Tomáši Mikolovi, tak ten ve výzkumu pokračoval i v ČR, ale když mu nikdo nedà žádný grant... Holt u nás jede kamaráčoft, když jde o prachy a né jako v Silikon Valley kde rozhodující výsledky...
Ano, toho jsem myslel. Jo, je tomu tak...
Pracuju v obou firmách na AI nástrojích. Jedna dělá rekomendační systémy a druhá teď bude vyvíjet AI-based nástroj pro řízení firmy. Bratr dělá Phd v oboru machine learning. Ohledě AI jsem optimista, vidím velký potenciál. EU je v prdeli hlavně díky greandealu a zavírání jaderek, protože v první řadě jde o elektrickou energii, regulace a touha všechno kontrolovat tomu nepřidá. Vladní programy a podpora je imho směšná. Trh táhnou soukromníci a big tech společnosti.
Svět se mění a to dost přizpůsob se nebo zanikni. 🤷
Also, kdo dal tak krátký omezení na text? Jak mám rozvést myšlenku?!? 😁
Čeká nás naprostý zlom ve vnímání práce, lidství a všeho kolem. Jde to dopředu tak rychle že i kdyby dneska Uršula schválila 20md, tak než to doteče kam má, bude vývoj zase o neskutečný skok kupředu. Bavíme se ve smyslu - před pár lety to byly roky kdy přišel nějaký průlom v AI, teď jsou to měsíce, za půl roku to budu třeba týdny. Skynet nás nemine. Praise our new robor overlords!
Já jsem nastavil ten limit a souhlasím, bylo to málo, tak jsem zdvojnásobil. Zase ale moc nechci, aby komentář byl na celou stránku, tak s tím trochu laboruji...
děkuju 🙏
No a co by teda podle tebe EU potřebovala, aby se tu ten potenciál realizoval? Jaderky to asi nejsou, protože to je nejdražší zdroj energie. Leda by to postavil stát a zvýšil daně. Souhlas, že asi pomůže ten příliv lidského kapitálu z USA. Co dál?
Tak můžeme ještě poručit větru dešti a používat jen OZE :). Za mě je jedno co bude EU dělat nebo nedělat, ono se to stane tak jako tak. Ale podle mě by pomohlo, mít stabilní a levné energie a přístup k internetu. AI je zatím bez globální sítě dost k ničemu. ZATÍM... Dál by určitě prospělo učit lidi používat AI dle nějakých zásad (do no harm?) a zvyšovat celkově počítačovou gramotnost napříč všemi vrstvami společnosti. Je to jako oheň. Ukázat lidem jak ho zapálit a říct že plamenomet je sice fajn, ale jako zdroj tepla v kamnech lepší.
Potenciál se v EU realizuje tak jako tak? Já to teda vnímám jako světový závod a každý, kdo aspiruje na označení "velmoc" se snaží v téhle oblasti být na špici. A to se nestane volnoběhem. To se musí všemožné podpořit a USA, Čína i další to dělají. Nepochybně něco dělá i EU, ale já nevím, jestli dělá dost a jestli máme ještě nějaké rezervy. Na úrovni ČR si troufám tvrdit, že děláme vcelku hovno, pardon my french.
Energie EU řeší dost intenzivně, hlavně kvůli své zranitelnosti a závislosti na jejich dovozech. Ale řeší se to. Vysokorychlostní internet buduje skoro celá EU a v tom podle mě ČR kulhá, opravte mě pokud se pletu. A v zásady používání, aka regulaci, je EU zaplaťpánbůh napřed. MPO má nějakou AI strategii, kde je gramotnost jedním z pilířů, ale moc nevěřím tomu, že tenhle megatrend ČR vezme dostatečně vážně. Slyšíme o té strategii a jejím naplňování a financování aspoň každý týden? Neslyšíme.
Aha tady to někdo sepsal: https://www.facebook.com/697270017/posts/10171089066490018/ jestli teda není nelegální odkazovat na jinou síť :)
Je to cajk
Jak jsem psal táhnou to imho hlavně soukromníci příp. komunity. Státy a "velmoci" jsou fakt úsměvný, se svojí snahou ten proces regulovat. Pochop Ďžejtý, že ten džin už je venku z lahve a začal plnit přání. AI neřeší hranice tak jako lidi, není to zboží který můžeš proclít a/nebo zakázat. Můžeš se o to snažit ale je to úplně jedno. Jasně budou státy a bloky (USA,EU, BRICS..) který to budou chtít ovlivnit a ty který tomu dají volný průběh a třeba to i podporovat. Ale prostě žádná byrokracie to nestihne sledovat. Ten vývoj je příliš rychlý a fakt se nezastaví! Ne proto že to evropská komise, nebo třeba i sám arciďábel Putin zakáže. Internet prostě přišel a začal se šířit, stejně tak vynález knihtisku.. ale AI jen tak nespálíš 🤷
Tak za pár let budou i roboti, co budou stavět ty továrny a i tohle se podle mě zrychlí. Já celkem obavy mám.
Stačí první továrna, co postaví tyhle roboty a za pár let se budou vyrábět autonomní vraždíci drony, jde to celé do kopru.
Možná, ale přece jenom si myslím, že to nebude za pár let a ten čas, co to bude trvat, se věřím na nový svět více adaptujeme a do kopru až tolik nepůjdeme 🌿
Na Ukrajině už obě strany používají AI naváděné drony, aby se vyhnuly rušičkám. Už jsme skoro tam :)
Nečetla jsem ten článek, ale radši bych, kdyby to vůbec nebylo, moje děti ztrácí schopnost si věci dohledávat a stávají se podle mě na tom tak závislí, že už pak nebude cesty ven...
To strašně záleží na přístupu. Moje děti 14 dní z 28 nemají ani mobilní telefon. Nemají sociální sítě a AI je pro ně cizí slovo. Je jim 12 let. Já se naopak bojím že začínají získávat handicap oproti vrstevníkům.
Za mě tedy - nejdřív umět utřiďovat si informace, mít kritické myšlení a základní vzdělání. Potom (nebo už lehce v průběhu) si osvojit všechny nástroje které jsou k dispozici a začít trénovat v oboru budocího zaměstnání. Před 20 lety byl "nezaměstnatelný" (v kancelářském světě) ten, kdo neuměl word a excel. Dnes je to ten, kdo neumí správně psát prompty..
Já vám vaše děti teda závidím.
Co by potřebovala EU, potažmo ČR, aby se udržela v závodu vývoje AI na špici (tzn. "close third" za USA a Čínou, který asi nedostihneme, ale musíme se jich aspoň držet, pokud chceme zůstat velmocí)? Jan Kulveit (AI rozumí a sleduju ho na FB, protože z nějakýho důvodu není na Discussion) říká, že by na to ČR měla dát 10-20 mld. Kč ročně, aby byla evropskou špičkou, což mi nepřijde moc. O to trestuhodnější je, že to neudělá a naopak lidi z oboru ztrácí (Mikolov).
10-20 mld mi přijde taky v poho a určitě bychom do toho měli investovat, ale s rozmyslem...
Já jsem četl, že teď Evropa naopak vědce ze spojených států získává, prý utíkají před Trumpem.