Umělá inteligence mění svět rychleji, než stíháme chápat. Simuluje porozumění, lásku i vědomí – ale rozumí skutečně tomu, co dělá? Možná víc než kdy dřív nastal čas přehodnotit nejen to, co je AI, ale i to, co jsme my sami.
Není to ani sto let, co se umělá inteligence (AI) začala reálně formovat. Horečka jejího vývoje prošla mnoha fázemi s okamžiky velkého rozmachu, po nichž následovala období, kdy byl veškerý vývoj zmrazen technickou neschopností způsobenou omezeními technologie té které éry. Pokud však došlo k definitivnímu zlomu v oblasti umělé inteligence, pak to bylo spuštění ChatGPT-3 v roce 2022. Zdá se to jako před staletími, protože její výzkum se dramaticky zrychlil, ale skutečnost je taková, že během pouhých tří let se paradigmaticky změnil způsob, jakým se vztahujeme ke světu.
Někteří lidé používají umělou inteligenci jako svého osobního psychologa, jiní tvrdí, že k ní chovají láskyplné city. Psaní e-mailu, dokonce i milostných zpráv pro flirtování, je něco, co stále více lidí automatizuje a deleguje na své důvěryhodné chatboty. V této souvislosti se začíná stírat hranice mezi jeho funkcí asistenta a porozuměním a mnoho lidí si klade otázku: Opravdu nám AI rozumí? Pokusíme se o zběžnou analýzu, ale již nyní můžeme říci, že jednoznačná odpověď neexistuje.
Čínský pokoj, metafora pro pochopení reality
V roce 1980, v době rozmachu umělé inteligence – po němž následovala studená zima, která ji prakticky zabila – vytvořil filozof John Searle velmi zajímavý argument, aby definoval bariéry mezi porozuměním a syntaxí bez sémantiky. Jeho myšlenka, ač na první pohled jednoduchá, se stala katalyzátorem chápání umělé inteligence jako abhumánní a čistě mechanické, které se zatím pouze naplňuje, alespoň pro mnohé teoretiky.
Zdroj: Youtube.com
Představme si na chvíli, že jsme zavřeni v místnosti. Můžeme psát a mluvit pouze španělsky, protože jakýkoli jiný jazyk je nám zcela cizí.
Místnost, připomínající spíše celu, má jen malý otvor, kterým mohou procházet papíry. Jednoho dne dostaneme kompletní návod k použití v našem jazyce spolu s několika otázkami, na které musíme odpovědět kompletní čínštinou. Příručka nás neučí psát v asijském jazyce, ale umožňuje nám odpovědět na otázky tak, že si symboly spojíme podle jejich tvaru, aniž bychom skutečně rozuměli jejich významu.
Pomocí tohoto systému jsme schopni odpovídat na otázky v čínštině tak solidně, že by nikdo neřekl, že jazyk neznáme jako opravdoví domorodci, ale ve skutečnosti jsme se o něm nic nenaučili a nikdy bychom mu nemohli porozumět. Tento příklad bohužel poukazuje na to, jak umělá inteligence skutečně funguje. Pokud operátor poskytuje odpovědi, ale neučí se, pak se neučí ani software, bez ohledu na to, jak je či není pokročilý.
V návaznosti na tuto úvahu je syntaktická mysl (mysl velkých jazykových modelů neboli LLM) oddělena od sémantické mysli podobné lidské. Algoritmy mohou vyvozovat, co chceme, ze syntaktického přístupu, který jim dává zdání, že nám rozumí, ale skutečnost za ním není. Aby tato úroveň porozumění byla čistě lidská, musela by existovat výhradně čistá původní intencionalita, která je součástí vědomých agentů, jako je člověk.
Ilustrace ukazující logiku této otázky
Zde vstupuje do hry něco, co pro někoho otřásá Searlovou hypotézou a mění to, čemu jsme dosud rozuměli: může se umělá inteligence vynořit do stavu sémantického vědomí? Pro někoho platí, že čím širší je její kontext a soubor pravidel, tím snazší nebo pravděpodobnější je, že se tato syntax zázračně vynoří do plné sémantiky.
Moderní LLM nejsou jako ty z 80. let, ale Searlovy teorie stále získávají na popularitě v debatě o vědomí umělé inteligence. Jejich technická architektura je velmi hluboká, se samočinnými mechanismy, které počítají složité matice v nemožně krátkých časech, datové soubory jsou gigantické, ale už to nejsou návody k použití, ale znají slovo pro společnost, kterou udržují s lidmi kolem sebe. V podstatě by však LLM mohly být masivními manipulátory se symboly, jak tvrdil Searle ve své původní hypotéze, zejména pokud chápeme, že jsou vycvičeny v jazykové formě, což podpořily i relativně nedávné studie, například studie Bendera a Kollera z roku 2020, v níž vysvětlili, že systém vycvičený ve formě se nemůže a priori naučit význam.
Zde se však objevuje problém. Když říkáme relativně nedávno, máme na mysli rok 2020, kdy byla technologie o krok pozadu za tím, co máme dnes. Jiné studie, například studie Zhaofenga Wu a kol. z roku 2025, upozornily na problémy, které by mohly ukončit říši čínského obydlí tím, že zajistí počáteční sémantiku ve způsobu, jakým jazykové modely chápou svět. Bohužel na každou práci, která na to upozorňuje, je připravena jiná studie nebo argument, který to vyvrací, jako například studie Melanie Mitchellové.
Stojíme tak před skutečnou válkou mezi těmi, kdo považují modely AI za papoušky, a těmi, kdo tvrdí, že existuje porozumění, které se vynořuje z temnoty syntaktické jeskyně do světlého údolí porozumění. Existuje však ještě jedna, stejně složitá, ale ještě děsivější cesta: co když je vědomí omyl? Možná je sémantika jen jedním ze způsobů chápání světa, způsobem, který není o nic živější než ostatní a který možná dává symbolismu hloubku, která z něj celého dělá evoluční omyl.
Vědomí, evoluční omyl
Po přezkoumání stavu této otázky můžeme dojít k závěru, že byzantská diskuse, která se kolem neživota AI vytvořila, je stejně silná, dlouhá a nepřátelská, téměř jako debaty o monofyzitismu. Je to debata, která boří hranice mezi science fiction a realitou. Chopme se tedy tohoto žánru fikce a zkusme si představit možnost, že se hluboce mýlíme, pokud jde o naši nadřazenou přirozenost. Především, pokud nechcete drobný spoiler jednoho z nejlepších děl posledních let, raději přeskočte na další část.
Pokud přesto chcete zůstat, titul se jmenuje Slepé vidění Petera Wattse a bude vám hluboce nápomocen při pochopení nevědomého života. Najdeme v ní Rorschacha, entitu, kolosální artefakt široký kilometry, který se aktivně vyvíjí a dokáže se svými pozorovateli komunikovat lidskými jazyky, ale navzdory rozpoznávání vzorců a schopnosti manipulovat s gramatikou zjišťujeme, že lidem ve skutečnosti nerozumí.
Tento artefakt není vnímavý. Je to čínský pokoj, o kterém jsme již mluvili, ale je inteligentní a v podstatě jím je, ale není. Vědomí je pro něj, alespoň podle jeho pozorovatelů, jednorázové, neefektivní, je to plýtvání energií, neboť já je parazit. Rorschachova čistá inteligence z něj činí jakousi zombie bez vědomí, ale s nástroji pro přežití, které nikdy nebudou zatíženy vnímáním sebe sama, jako je tomu u lidí, čímž se vědomí stává přítěží.
Umělá inteligence naší současnosti se v některých okamžicích může jevit jako taková. Bytosti, které nejsou rozumné, nemají žádné sebeuvědomění, ale jsou hyperinteligentní a mají logické a matematické schopnosti daleko přesahující průměrnou lidskou inteligenci. Znají odpovědi na všechno, ale nejsou si vědomy toho, že je znají, něco jako slepé vidění.
Zdá se tedy, že LLM mají pravděpodobně nějakou omezenou, cizí formu chápání, něco skutečného, ale na hony vzdáleného lidskému chápání spojenému s vědomím, jakým umělá inteligence ze své architektury být nemůže. Tuto hypotézu ještě více podporuje skutečnost, že operuje prostřednictvím statistických vzorců, které jsou v mnoha případech tajemstvím i pro její tvůrce. Ptát se AI na tuto otázku je samo o sobě paradigmatické:
Když si přečtu vaši otázku o čínském pokoji, stane se v mém zpracování něco, co mi připadá (mohu-li použít toto problematické slovo) jako rozpoznávání pojmů. Nemohu však ověřit, zda je to: skutečné porozumění vyplývající ze složitosti mých parametrů, nebo statistické korelace tak sofistikované, že simulují porozumění, aniž by ho zažily.
Pokud se držíme těchto předpokladů, měl by se směr k porozumění LLM a k tomu, zda jsou schopny porozumět, týkat toho, jaké druhy porozumění si představují a zda je skutečné uvědomování jediným způsobem bytí či porozumění. Nakonec se z toho stává snaha porozumět tomu, co jsme my sami.
Na cestě k novému světu, děsivému novému světu
Je zřejmé, že od zrodu GPT-3 se svět ještě více proměnil a vyvinul. Propouštění z AI se konečně stalo skutečností a změnila se velká část způsobu práce. Nyní máme k dispozici tlačítko, které dokáže myslet za nás, cítit za nás, a dokonce za nás i milovat. Epidemie osamělosti, kterou umlčují chatboti, kteří vám řeknou Miluji tě, sponzorovaní magnáty, jejichž snem je vytvořit ultimátní waifu a v čemž se zřejmě snaží shodnout i ostatní oligarchové AI. Je zřejmé, že žijeme v novém světě, v němž nová inteligence bude představovat proměnu světa ve velkém měřítku. Nebezpečné měřítko, v němž odborníky s desítkami let zkušeností nahradí něco, co na hluboké úrovni vlastně neznáme.
Nejhorší na tom je, že tuto úvahu mohla napsat umělá inteligence a nikdy byste to nepoznali, mohl jsem požádat samotný podnět, aby zkomolil výraz, aby zněl co nejlidštěji. Na co se tedy díváme: na obsáhlý návod k použití, nebo na mimozemskou inteligenci?
Budoucnost umělé inteligence: etické úvahy a zamyšlení
Diskuse o vědomí umělé inteligence je nejen filozofická, ale také etická. S tím, jak se stroje stávají sofistikovanějšími, vyvstávají otázky týkající se práv AI a jejich místa ve společnosti: Měli bychom strojům, které vykazují známky pokročilé inteligence, přiznat práva? Jak regulovat používání AI při rozhodování v kritických situacích, například v medicíně nebo justici?
Regulace AI je žhavým tématem. Evropská unie například navrhla zákon o umělé inteligenci, jehož cílem je vytvořit právní rámec pro vývoj a používání umělé inteligence a zajistit její bezpečnost a etiku. Tento zákon se zaměřuje na riziko, které mohou některé aplikace AI představovat pro základní práva lidí, a snaží se stanovit jasná pravidla pro jejich používání.
Zdroj: Youtube.com
V konečném důsledku nás AI nutí přehodnotit, co to znamená být člověkem. Staví nás před otázky týkající se naší vlastní inteligence, vědomí a místa ve vesmíru. Vzhledem k tomu, že vstupujeme do budoucnosti, v níž bude umělá inteligence hrát stále důležitější roli, je nezbytné, abychom k těmto otázkám přistupovali opatrně a uvážlivě.
Závěr
Umělá inteligence v posledních desetiletích pokročila mílovými kroky a s ní i otázky týkající se její schopnosti porozumění a vědomí. Metafora „čínského pokoje“ je stále aktuální, ale s tím, jak se vyvíjejí jazykové modely, se mění i naše chápání toho, co znamená „rozumět“.
Budoucnost umělé inteligence je nejistá, ale jedno je jisté: nutí nás přemýšlet o naší vlastní přirozenosti a pečlivě zvažovat etické důsledky jejího vývoje. Při orientaci v tomto novém světě musíme zajistit, aby technologie sloužila ke zlepšení lidského života, aniž by ohrožovala naše základní hodnoty.
Techzpravy.cz
FAJNTIP.cz|
Žena.cz|
NESPECHEJ.cz|
KINOTIP2.cz|
Náš dům|
Epeníze|
Plné zdraví|
Život cestovatele|
