Rozhovor s Ondřejem Vaňkem, expertem na umělou inteligenci, investorem ve fondu CarPower, zakladatelem softwarové firmy Blindspot Solutions, který v oboru AI působí i na pražské ČVUT. Dokážou, nebo nedokážou stroje a AI jednou zcela nahradit člověka?
Rozhovor je textovou verzí ekonomického podcastu MakroMixér. Připravují jej Robert Břešťan, šéfredaktor HlídacíPes.org, a hlavní ekonom ČSOB Jan Bureš. Ten v této epizodě výjimečně působí primárně v roli druhého zpovídaného.
Vy spíše odmítáte katastrofické scénáře plošné nezaměstnanosti a říkáte, že AI zvýší produktivitu, ale práce neubyde. Je optimismus namístě?
Ondřej Vaněk: Jsem obecně optimista, ale rád bych zmínil několik jevů. Prvním je takzvaná iluze konečné práce – představa, že práce je konečné množství, které jednou „dojde“. To si nemyslím. Práce, kterou dokáže člověk nebo technologie udělat za jednotku času, je obrovská, ale nikdy ne zcela vyčerpaná. Když AI nahradí část lidských činností, lidé si najdou jiné.
Druhá věc je časová dynamika. Kdyby ze dne na den všichni přišli o práci, přesun jinam by trval, a to je klíčový problém – jak rychle lidé dokážou „přesedlat“. Dřív jsme nahrazovali lidskou sílu, přesnost a rychlost. Teď už ale AI nahrazuje intelekt a kreativitu – poslední doménu, o které jsme si mysleli, že je čistě lidská. Odtud pramení ten přirozený strach, že už není kam ustoupit.
Jan Bureš (hlavní ekonom ČSOB): Doplním makroekonomický pohled. Na amerických datech z trhu práce po druhé světové válce, kde jsou databáze srovnatelné, vidíme, že technologický pokrok vedl jen k velmi malému počtu zcela zaniklých profesí – daly by se počítat na prstech jedné ruky, třeba obsluha výtahu. Mnohem víc profesí naopak vzniklo, a to štěpením do hlubších specializací. Proto ani já nevěřím, že extrémní scénář „bezprací“ nastane hned, ale ekonomika a lidé se budou muset extrémně pružně přizpůsobovat.
Za klíčové považuji dvě věci: vědět, co nevím a zároveň mít dobré znalosti oboru. Kdo neví, co neví, neví ani, na co se má zeptat, a to je velký problém.
Ondřej Vaněk: To bude klást nároky nejen na jednotlivce – práce je velkou součástí identity, redefinovat ji je náročné – ale i na instituce, typicky vzdělávací systém. Bude potřeba mnohem víc energie věnovat celoživotnímu vzdělávání, a možná trochu méně energie tomu, dotáhnout člověka k finálnímu titulu, než ho vypustíme na trh. Možná je lepší pustit ho do praxe o něco dřív, aby si ověřil teoretické znalosti, a pak se vzdělávat celoživotně souběžně s prací.
Z programátora manažerem AI agentů
Stíhá se ekonomika vůbec tomu tempu nástupu AI přizpůsobit?
Jan Bureš: Upřímně, ještě to nevíme. Co teď vidíme, není plná implementace AI do byznysových procesů, ale jde zatím spíš o experimentování – firmy zkoušejí, kde by mohla mít velkou hodnotu. Třeba u programátorské profese už to vidíme jasně, ale v širší ekonomice zatím ne. Může to ale přinést něco, co jsme dlouho neviděli – pozitivní impulz do produktivity v sektoru služeb, který dlouho zaostával za průmyslem.
Ondřej Vaněk: U zmíněných programátorů nečekám další úzkou specializaci na konkrétní jazyk nebo architekturu. Naopak – programátorům AI ulehčuje specializované úkoly a z Java programátora se stává produktový manažer, který říká, co chce, a nechává to AI implementovat. Specializaci převzali agenti, programátor je vytlačován do role manažera agentního týmu.
S tím souvisí vzorec, který se už v americkém Silicon Valley objevuje: sázky na to, kdy se stane to, že jeden člověk s pomocí AI vytvoří „unicorna“, tedy firmu s miliardovou dolarovou hodnotou. Ten multiplikátor lidské činnosti skutečně extrémně zvyšuje schopnost generovat hodnotu i s velmi malým týmem, v extrému i s jedním člověkem. To dřív nebylo možné.
Dá se to ale přenést mimo obor IT – třeba do pohostinství? Jeden člověk asi nemůže provozovat celý hotel byť s digitální recepcí...
Ondřej Vaněk: Tady je důležité oddělit digitální a fyzický svět. Generativní jazykové modely fungují dobře nad daty v digitálním prostoru, tam bude ten multiplikátor velký – třeba v marketingu, kde už jeden člověk ovládá kompletní marketing velké firmy pomocí pokročilých platforem. Ve fyzickém světě je zvýšení efektivity omezené fyzikou samotnou. O úspěchu navíc nerozhodují jen technické znalosti, ale i to, že člověk umí spolupracovat s týmem lidí a rozumět jim.
Vedle toho je potřeba i typicky lidská vlastnost – iniciativa. To, že člověk něco aktivně tlačí dopředu, dává tomu energii a určuje směr. To je vlastnost typická pro podnikavé lidi, kterou zdaleka nemá každý. A ukazuje se, že právě tahle vlastnost rozhoduje, zda člověku práce „zůstane“, protože bude tím, kdo povede agentní tým.
Vzdělání jako fitness pro mozek
Jak by při vědomí toho rychle se měnícího světa měl vypadat ideální absolvent dnešní univerzity?
Ondřej Vaněk: Vedeme na ČVUT debaty přesně o tomhle – jak by měl vypadat budoucí absolvent, který bude nativně mít k dispozici kognitivní AI týmy, jež za něj budou dělat podmnožinu činností. Za klíčové považuji dvě věci: vědět, co nevím a zároveň mít dobré znalosti oboru. Kdo neví, co neví, neví ani, na co se má zeptat, a to je velký problém. Znalost oboru je zásadní proto, abyste dokázali validovat výstupy AI – ta je kreativní a extrémně nápomocná, vygeneruje vám x možných směrů, ale model může být slepý, suboptimální, nenápadně se odchýlit od zadání, a pokud nevíte, na co se ptát, nevrátíte se zpátky na „kolej“.
Studenty to svádí k otázce: proč se učit ručně diferenciální rovnice, když je AI spočítá za mě? Přirovnávám to k fitness – do posilovny nechodíte proto, že v životě budete zvedat činku stejným pohybem, ale abyste byli celkově fit. Podobně trénink intelektu abstraktními úlohami, jako jsou integrály nebo sudoku, zlepšuje mozek díky jeho schopnosti generalizace i v úplně jiných oblastech.
Člověk si k technologii lehce vytvoří vazbu. To lze dobře využít tam, kde lidskost chybí a nedostaneme se k živým lidem – to má pozitivní potenciál, ale má to i řadu rizik zneužití.
Kde jsou dnes skutečné hranice mezi nejpokročilejšími AI modely a lidským mozkem?
Ondřej Vaněk: Otázka lidského mozku je sama o sobě těžká – v tom trochu tápu. Máme model člověka jako na zemi stojící bytost: víme, že nějaká pravda je fakt, máme axiomy, na kterých stavíme dedukci. Současné generativní modely generují sekvence tokenů, nad čímž je postavená relativně bohatá vrstva, která model opravuje, a za poslední dva roky výrazně pokročilo takzvané reasoning fine-tuning – modely simulují uvažování, vygenerují si úvahu a pak ji realizují.
Je otázka, jak zásadní je rozdíl oproti lidskému uvažování. Když jsem se pokusil o introspekci, i moje myšlení funguje v sekvenci – vím, že něco je pravda, a kolem toho vznikají sekvence vah, ať jde o matematický důkaz nebo plánování cesty autem. V některých doménách uvažuji dobře, v jiných špatně, a podobně to platí u modelů – u nich to navíc souvisí s tím, co bylo „otisknuto“ v trénovacích datech jako fakta. Možná se ukáže, že ani člověk nemá to hluboké pochopení, které si o sobě myslí, a AI třeba i odhalí „nahotu“ lidského mozku. Trajektorie ale ukazuje směr, který známe ze sci-fi filmů – varování ohledně sebeuvědomění. Otázka vědomí AI je stále otevřená debata.
Jan Bureš: Přidám antropologický úhel. Zásadní rozdíl mezi člověkem a technologií je myslím v tělesnosti a vědomí konečnosti – v tom, že fyzicky vnímáte svou danou konečnost. Dokáže to AI napodobit, nebo to prožít?
Ondřej Vaněk: Rozdělil bych to do tří „kbelíků“. První je vtělenost – žijeme ve fyzickém světě a nedokážeme se zastavit; čas nám běží, zpracováváme vjemy, reagujeme, a tuto smyčku nedokážeme zapauzovat. Model naopak zavřete v počítači a jemu je jedno, jestli uplynuly dvě hodiny nebo nula.
Druhý kbelík je evoluční tlak – jsme výsledkem toho, že se všichni naši předci snažili přežít. AI tímto tlakem neprošla. V postapokalyptických filmech je AI často polidštěná v tom, že „chce přežít“ asi jako Terminátor, ale to je z mého pohledu nesprávné zobecnění. Ta touha přežít pramení z evoluce, kterou stroj neabsolvoval.
Třetí kbelík je empatie člověka ke strojům, které přitom samy emoce nemají. Uvedu příklad z 60.–70. let: terapeutický program Eliza tehdy jen obracel výroky uživatele v otázky, ale lidé si i k tak jednoduché technologii vytvořili intimní vztah. Podobně děti dnes cítí emoce vůči robotickým pejskům, skoro jako by šlo o skutečné zvíře. Člověk je v tomhle ohledu zranitelný a lehce si k technologii vytvoří vazbu. To může být nebezpečné, ale zároveň to lze dobře využít tam, kde lidskost chybí a nedostaneme se k živým lidem – to má pozitivní potenciál, ale i řadu rizik zneužití.
Nápady jako univerzální základní příjem nebo univerzální kapitál? Pokud je nasadíte příliš brzy, riskujete řešení příliš odtržené od reality. Nasadit je příliš pozdě je ovšem taky problém.
Rozevírání nůžek: dva odlišné světy
Řada lidí se nutně stane obětí změny, ale pro mnoho lidí bude AI zdrojem obrovské prosperity. Logicky to povede k dalšímu rozevírání nůžek ve společnosti. Jak zásadní to bude?
Ondřej Vaněk: Vnímám to rozevírání ve dvou rovinách. První: ti, kdo umí generovat hodnotu a zisky, ji díky AI dokážou multiplikovat, zatímco ti, kdo to neumí, zůstávají pozadu. Druhá rovina je rozevření nůžek v samotné adopci technologie – bude existovat množina lidí, kteří se cítí dobře ve své lidskosti a nebudou se chtít nechat pohltit AI. Moje dcera třeba ráda tancuje, a myslím, že výuka tance zůstane čistě lidskou doménou, hrozně cennou.
Doufám, že bude velká skupina lidí, která bude utíkat k opravdu lidským činnostem a hledat v nich naplnění, zatímco druhá skupina se bude věnovat technologickému světu a byznysu. Budou to dva vzdálené světy.
Má to být stát, kdo by měl investovat do rekvalifikací a mobility lidí, nebo si za svou adaptaci má nést zodpovědnost každý sám?
Jan Bureš: Je to sdílená odpovědnost, stát to za nás celé nezvládne. Řada lidí ale potřebuje pomoc, a tam funguje dobře model co nejvíce inkluzivních systémů, které člověka nepodporují jen na začátku kariéry, ale po celou dobu profesního života. Dánský model flexicurity s celoživotním vzděláváním je toho perfektním příkladem. Nicméně dopad AI na nerovnost může být tektonický posun, se kterým si dnešní systémy nemusí úplně dobře poradit.
Když to ale myšlenkově posuneme dál: co kdyby vše, co dnes kupujeme na trhu, dokázal nahradit superinteligentní robot vybavený AI? Od toho jsme sice ještě daleko, ale pokud bychom se tam dostali, moc by se soustředila do několika málo společností a bez rozumných institucionálních mantinelů by to bylo extrémně nebezpečné pro fungování demokratických společností.
A druhý problém: v takovém světě by lidská práce ztratila tržní cenu. Příjem by byl v zásadě jen z kapitálu a dřív nahromaděného bohatství, a to by extrémně vyhrotilo majetkové rozdíly. A bez zásahu státu do kupní síly byste mohli mít společnost, která má obrovský technologický pokrok, ale zároveň extrémně chudé lidi – podobně, jako dnes vidíme, že přes veškerý pokrok medicíny nemá velká část Afriky přístup k nejmodernějším lékům. Právě tady se objevují nápady jako univerzální základní příjem nebo univerzální kapitál. Jsou ale šité na míru extrémním scénářům. Pokud je nasadíte příliš brzy, riskujete podobnou chybu, jako udělali soudruzi v Sovětském svazu před více než sto lety – řešení příliš odtržené od reality. Nasadit je příliš pozdě je ovšem taky problém.
Pokud budeme používat čínské nebo americké jazykové moduly, ponesou v sobě otisk jejich kultury a možná tam bude i nepřátelský trojský kůň.
Už nyní vidíme, že nejmodernější AI modely začínají sloužit i jako nástroj geopolitického vlivu. USA otevřeně řekly, že nejnovější modely nebudou dostupné každému, budou „na příděl“. Kdo nám tu AI vlastně bude „dodávat“?
Ondřej Vaněk: To je klíčové téma, které by se mělo řešit u kulatého stolu s experty, státem, firmami a univerzitami. Vidím to ve třech vrstvách. První vrstva je fyzická, tedy to, aby datová a výpočetní centra byla na našem území. AI modely jsou už dnes součástí kritické infrastruktury. Nedokážu si představit, že by analogicky stát řekl „zavřeme elektrárny a budeme čerpat elektřinu jen ze zahraničí“ – to je nemyslitelné. Stejně tak nemyslitelné by mělo být, abychom byli plně závislí na cizí výpočetní kapacitě.
Druhá vrstva jsou samotné modely. Vidím v tom příležitost pro „druhé národní obrození“ – vtisknout do jazykových modelů český jazyk a hodnoty, podobně jako to dělali obrozenci v 19. století. V Americe to takhle detailně řešit nebudou. Historicky jsme o svou identitu už párkrát málem přišli a pak jsme si ji získali zpátky – i proto je důležité na to teď myslet. Nemyslím si, že je kriticky nutné mít vlastní model za každou cenu, může fungovat evropský model. Ale je tu i hypotéza, že pokud budeme používat čínské nebo americké jazykové moduly, ponesou v sobě otisk jejich kultury a možná tam bude i nepřátelský „trojský kůň“ – tedy to, že model může sloužit jako geopolitická zbraň nebo nástroj vlivu.
Třetí vrstva je aplikační – propojit modely se systémem, který firmám a lidem umožní je efektivně využívat. Pokud stát vyjde firmám naproti, ušetří jim energii, kterou by jinak musely věnovat regulaci místo generování hodnoty. Neměl by to dělat jen stát samotný, ale konsorcium státu, firem, univerzit a akademické sféry – teď je čas táhnout za jeden provaz. Nebudeme mít sice největší datacentrum na světě, ale budeme mít něco, co držíme v rukou a co nám dává prostor pro vlastní volbu.
A rizika zneužití AI v politických kampaních nebo dezinformacích – souvisí to s hrozbami primárně z Číny nebo Ruska?
Ondřej Vaněk: Tahle rizika jsou ještě v jiné vrstvě, ale minimálně platí, že narativ, který půjde z českého modelu a české infrastruktury, bude blíž našim hodnotám. Samozřejmě, i takový model může být zneužit třeba nějakou budoucí českou vládou – proto je potřeba nastavit regulatorní rámec, který to ošetří, podobně jako v každé jiné kritické oblasti. A stejně jako v energetice je vhodné diverzifikovat: mít lokální infrastrukturu, evropskou, globální i firemní mini-infrastrukturu. Riziko existuje v každé vrstvě, ale diverzifikace ho snižuje.
Odpovědnost musí zůstat lidská
Vraťme se k extrémnímu scénáři, kdy práce zcela ztratí hodnotu. Může vůbec nastat, jen kvůli masovému nasazení AI?
Ondřej Vaněk: Můj názor vychází z toho, že jsem bytostně přesvědčen, že skutečně lidské činnosti nejsou nahraditelné – protože člověk má na tomto světě svou konečnost, kterou sdílí s ostatními. Tahle konečnost nám dává svobodnou volbu, jak naplnit život, který jednou začne a skončí. Podle velké části antropologů jsou konstanty dlouhodobého štěstí vazby s ostatními lidmi. I sebechytřejší stroje, které nahradí třeba terapeutickou práci a pomohou konkrétním lidem, nedokážou nahradit blízkého člověka a tu kvalitu života.
V extrémním anonymizovaném scénáři velkého trhu, kde nejde o vazbu na konkrétní lidi, by robot vybavený sofistikovanou AI mohl řadu věcí zvládnout lépe. V takovém světě by se trh rozdělil na dva směry a potřeboval by výrazně větší regulaci a ochranu konkurence ze strany státu. Kvalita života, kterou má dnes Evropa na nejvyšší úrovni, hodně souvisí s tím, že si dokážeme s inovačními vlnami poradit institucionálně.
Určitě bych nedoporučoval taktiku „za chvíli přijde univerzální příjem, tak si dám nohy nahoru a pustím si Netflix“ – na to je skutečně příliš brzy.
Jan Bureš: Skutečný extrémní scénář, kde AI nahradí veškerou činnost, je podle mého pohledu ještě daleko, protože by to vyžadovalo velké posuny v robotice – tam je nutné, aby se chytrý stroj vyznal v neustále se měnícím fyzickém prostoru, který není vždy jednoduše předvídatelný.
Ondřej Vaněk: Souhlasím, robotika je zhruba pět až osm let za generativními jazykovými modely, i když už existují prototypy robotů, kteří se dobře hýbou. Ale i kdybychom měli skvělé roboty, nedokážeme jim předat zodpovědnost za jejich činy. Lidská činnost vyžaduje to, že má důsledky rozhodnutí. Odpovědnost zůstane na člověku. Právní a regulatorní rámec má proto delší časovou konstantu než technologie samotná. Uvidíme to výhledově na debatě kolem autonomních aut: až se rozhodneme řízení předat strojům, budeme mít malý předobraz mnohem většího problému zodpovědnosti.
Jan Bureš: Podtrhnu tu odpovědnost – s tím naprosto souhlasím, to musí zůstat principiálně lidské. Ten, kdo cokoli vytvoří, musí nést zodpovědnost vůči ostatním lidem jako otázku osobní volby – ať se jeho „track record“ vyvíjí dobře, nebo špatně.
Existuje ekonomický výzkum, který dokáže spočítat dopad AI na HDP – u nás nebo celosvětově?
Jan Bureš: Zatím ne, zatím je na to brzy. Spíš to teď stojí energii, než aby to přinášelo měřitelný benefit. Je to ale typické pro každou revoluční technologickou změnu – nejdřív se masivně investuje a dotuje, protože je vidět ten příběh do budoucna, ale reálná čísla přijdou později.
Co byste poradili člověku, kterému je dnes dvacet a volí kariéru, aby z něj AI za deset let neudělala nezaměstnatelného?
Ondřej Vaněk: Platí to, co vždycky – najít si práci, která vás baví a naplňuje. Pokud je vám blízká AI, měli byste ji umět dobře používat a být expertem v oboru, makat na sobě víc, než kdy dřív. Pokud vás naopak táhnou čistě lidské obory, platí, že čím lepší odborník v nich budete, tím víc vás to naplní a tím hůř vás nahradí. Určitě bych nedoporučoval taktiku „za chvíli přijde univerzální příjem, tak si dám nohy nahoru a pustím si Netflix“ – na to je skutečně příliš brzy.
