Zatímco svět sleduje pokrok umělé inteligence s nadšením, její nejvlivnější tvůrci kopou bunkry a připravují se na nejhorší. Zuckerberg, Altman či Hoffman investují do podzemních úkrytů jako do pojištění proti budoucnosti, kterou sami pomáhají formovat. Je to paranoia, nebo realistická předtucha technologické revoluce, jejíž důsledky stále nechápeme?
Mark Zuckerberg už deset let buduje na havajském ostrově Kauai obří komplex. Jeho projekt, známý jako Koolau Ranch, se rozkládá na ploše více než 1 400 akrů a podle úniků informací by měl zahrnovat soběstačný podzemní úkryt s vlastním zdrojem energie a potravin. Pracovníci komplexu podepsali přísné dohody o mlčenlivosti a výhled ze silnice blokuje šestimetrová zeď. Přestože zakladatel Facebooku popřel, že by se jednalo o bunkr, jeho „maličký sklep o rozloze 500 metrů čtverečních“ podnítil nejrůznější teorie.
Zuckerberg není sám. V Palo Altu si pořídil jedenáct přilehlých nemovitostí se stavebními povoleními, která hovoří o „sklepeních“, ale která jeho sousedé nazývají rovnou „bunkry“ nebo „supermilionářskými jeskyněmi“. Zdá se, že v jeho okolí se další technologičtí lídři – od spoluzakladatele LinkedIn Reida Hoffmana až po nejmenované podnikatele v oboru – řídí stejným schématem: kupují izolované pozemky, budují podzemní úkryty a otevřeně hovoří o tom, čemu říkají pojistka proti apokalypse.
Mezi strachem z kolapsu a vírou v umělou inteligenci
Otázka je nevyhnutelná: čeho přesně se bojí? Války, změna klimatu nebo sociální kolaps jsou zřejmé odpovědi, ale dnes se na seznamu existenčních hrozeb objevuje něco nového: umělá inteligence.
Sám Ilja Sutskever, spoluzakladatel a bývalý hlavní vědecký pracovník společnosti OpenAI, vyjádřil v roce 2023 rostoucí obavy, že lidstvo je blízko vytvoření umělé obecné inteligence (AGI), která se dokáže vyrovnat lidské inteligenci. Podle novinářky Karen Hao Sutskever na jedné interní schůzce dokonce žertoval: „Rozhodně postavíme bunkr, než vypustíme AGI.“ Jeho komentář, ačkoli je dvojsmyslný, odráží strach, který se šíří mezi samotnými inženýry, kteří staví nejchytřejší stroje na planetě.
Zdroj: Youtube.com
Mezitím se množí předpovědi o příchodu obecné inteligence. Sam Altman, současný ředitel OpenAI, řekl, že k němu dojde dříve, než si většina lidí představuje. Demis Hassabis ze společnosti DeepMind odhaduje dobu mezi pěti a deseti lety a Dario Amodei, zakladatel společnosti Anthropic, věří, že její výkonná AI by se mohla objevit v roce 2026. Na rozdíl od těchto tvrzení jsou jiní odborníci skeptičtí. Profesorka Wendy Hallová ze Southamptonské univerzity se domnívá, že jde o nadsazené sliby: „Říkají, že je to blízko, ale neustále mění pravidla. Věda uznává, že umělá inteligence je úžasná, ale lidské inteligenci se nepřibližuje.“
Vědec společnosti Cognizant Babak Hodjat souhlasí: než se začne mluvit o AGI, bylo by zapotřebí zásadních průlomů, které zatím neexistují. A přestože se AI neustále zdokonaluje, nenastane jediný okamžik, který by znamenal její příchod, ale postupný vývoj směrem ke stále autonomnějším systémům.
Přesto myšlenka budoucí umělé superinteligence – technologie, která výrazně překoná člověka – stále fascinuje Silicon Valley. Od 50. let 20. století, kdy matematik John von Neumann formuloval myšlenku singularity, si mnozí představují bod, z něhož není návratu a kdy bude rozhodovací pravomoc definitivně předána strojům. V knize Genesis (2024) Eric Schmidt a Henry Kissinger popisují svět, kde algoritmy řídí vlády a ekonomiky tak efektivně, že jim lidé nakonec předají veškerou moc.
Zastánci této vize jsou téměř mesiášští. Elon Musk zašel tak daleko, že tvrdí, že umělá inteligence přinese éru „univerzálního vysokého příjmu„, kdy každý člověk bude mít osobního asistenta stejně užitečného jako R2-D2 nebo C-3PO. Podle něj superinteligence vyřeší klimatické změny, vyléčí nemoci a vytvoří udržitelný blahobyt. Stejně hlasitě však zaznívají i varování: co se stane, pokud se tato technologie dostane do rukou teroristů nebo pokud se rozhodne, že problémem je lidský druh? Tim Berners-Lee, tvůrce webu, shrnul toto dilema do jedné věty: „Pokud je to chytřejší než vy, měli bychom být schopni to vypnout.“ V tomto případě by se mělo jednat o technologii, která je chytřejší než vy.
Vlády se snaží předbíhat. V USA zavedla Bidenova administrativa v roce 2023 pravidla, podle nichž musí společnosti zabývající se umělou inteligencí sdílet s vládou své bezpečnostní testy, ačkoli prezident Trump je zrušil jako překážku inovací. Ve Velké Británii byl zřízen Institut pro bezpečnost umělé inteligence, jehož úkolem je vyhodnocovat rizika nejpokročilejších UI. Ale uprostřed všech protokolů a komisí miliardáři stále dávají přednost nejzákladnějšímu řešení: nákupu vlastního nouzového východu. Hoffman to definoval ironicky: „Říct, že jste si koupili dům na Novém Zélandu, je mezi bohatými kód. Je vám jasné, co to znamená.“
Někteří se domnívají, že celá ta panika je čiré divadlo. Profesor Neil Lawrence z Cambridgeské univerzity ji přirovnává k hledání univerzálního vozidla. „Neexistuje vozidlo, které by mohlo létat, jezdit a chodit zároveň,“ říká. „Stejně absurdní jsou i řeči o všeobecné inteligenci.“ Nebezpečí podle něj nespočívá v tom, co přijde, ale v tom, co už máme: nástroje schopné ovlivňovat miliony lidí a rozhodnutí, aniž bychom přesně věděli, jak to dělají. „Nechali jsme se strhnout vyprávěním velkých technologů o AGI a mezitím zapomínáme zlepšovat to, co už existuje.“
Jakkoli se AI učí a dosahuje úžasných výsledků, chybí jí uvědomění a introspekce. Současné modely dokážou analyzovat rentgenové snímky nebo psát poezii, ale „nevědí“, co dělají. „Jazykové modely se mohou chovat, jako by měly paměť, ale je to iluze,“ vysvětluje Hodjat. „Lidé naproti tomu vědí, že vědí.“ Tento rozdíl, vědomí vlastní mysli, zůstává nepřekonatelnou hranicí mezi námi a stroji.
Možná proto proti ní v opancéřovaných sklepeních Silicon Valley budují kryty i architekti umělé inteligence. V pozadí, uprostřed všech těch výpočtů a kódů, se skrývá nepříjemná jistota: nikdo se nebojí nastupujícího věku strojů víc než ti, kdo ho programují.
Etika a budoucnost umělé inteligence
Debata o umělé inteligenci se soustředí nejen na její technické možnosti, ale také na etické a sociální důsledky. Etika umělé inteligence se stala klíčovou oblastí studia, protože automatizovaná rozhodnutí mohou mít významné důsledky pro životy lidí. Například algoritmy umělé inteligence používané při přijímání zaměstnanců, poskytování úvěrů nebo výkonu spravedlnosti musí být spravedlivé a transparentní, aby nedocházelo k diskriminaci nebo zaujatosti.
V roce 2021 přijala organizace UNESCO soubor etických doporučení pro umělou inteligenci, v nichž zdůraznila význam transparentnosti, odpovědnosti a ochrany soukromí při vývoji a používání těchto technologií. Cílem těchto pokynů je zajistit, aby umělá inteligence byla využívána způsobem, který je prospěšný pro celé lidstvo, respektuje lidská práva a podporuje udržitelný rozvoj.
Kromě toho je pro řešení globálních výzev, které umělá inteligence představuje, nezbytná mezinárodní spolupráce. Organizace, jako je Globální aliance pro etiku umělé inteligence, pracují na vytvoření společných norem a standardů, kterými se může řídit vývoj umělé inteligence na celém světě.
Zdroj: Youtube.com
Budoucnost umělé inteligence bude nakonec záviset na tom, jak se ji lidstvo rozhodne využívat. Pokud bude umělá inteligence řízena zodpovědně, má potenciál pozitivně proměnit naši společnost, zlepšit kvalitu života a řešit složité problémy. Pokud však budou ignorována etická a sociální hlediska, rizika by mohla převážit nad přínosy.
Diskuse o umělé inteligenci a jejím dopadu na budoucnost lidstva je neustále se vyvíjející téma. S rozvojem technologie je zásadní, aby vlády, podniky a občanská společnost spolupracovaly a zajistily, že se umělá inteligence bude rozvíjet způsobem, který bude podporovat obecné blaho a zabrání potenciálním nebezpečím.
Pohled na to, jak architekti umělé inteligence, ti nejchytřejší a nejinformovanější lidé v oboru, investují do soběstačných podzemních komplexů, je pro mě silným signálem. Není to jen o strachu z války nebo katastrofy; je to podvědomé přiznání, že sami plně nedůvěřují budoucnosti, kterou pomáhají budovat. I když Elon Musk maluje obrazy utopické éry s ‚univerzálním vysokým příjmem‘, zdá se, že v zákulisí převládá mnohem střízlivější a obezřetnější pohled, který Tim Berners-Lee shrnul slovy: ‚Pokud je to chytřejší než vy, měli bychom být schopni to vypnout.‘ Tento rozpor nás nutí k zásadní otázce: Je naše honba za neomezeným technologickým pokrokem vyvážena stejně intenzivním úsilím o etickou zodpovědnost a transparentnost? Bez ní by se naše ‚pokroky‘ mohly stát jen cestou k nevyzpytatelným rizikům. Vždyť už dnes UNESCO definuje etické zásady, ale zdá se, že pro někoho je jednodušší postavit bunkr než skutečně řešit etiku v masovém měřítku.
Techzpravy.cz
MMAMAG.cz|
Asianstyle|
Zprávy - Aktuálně.cz|
FAJNTIP.cz|
ReadZone|
KINOTIP2.cz|
NESPECHEJ.cz|