5 min

Covid byl test. Propadli jste. Proč by to s AI mělo dopadnout jinak

Sdílet

Dennívýzva

Máte stále častěji pocit, že lidstvo má k dispozici technický pokrok, ale chybí mu k němu morální záklopka a ryzí chápání pokroku? Že jsme na to, co máme prostě ještě hloupí? Patrně to vnímáte správně. Za všemi debatami o AI a konci světa stojí právě toto. Předbíháme svůj vývoj technickým pokrokem. Právě na vývoji umělé inteligence je to znát nejvíce.

Zdroj: Photo by Zach M

Vědci varují, že rychlý pokrok v oblasti umělé inteligence a neurotechnologií předbíhá naše chápání vědomí a vytváří vážná etická rizika.

Rozhlédneme-li se kolem sebe, covid nám mohl dát mnoho dobrého. Ve vnímání onemocnění, schopnosti a možností regenerace lidí. Dnes opět chodí nemocní do práce, dnes jsou znovu lidé s chřipkou vydíráni zaměstnavateli a tlačeni do kouta finančně. Jen málo škol využilo online výuku a některé její části implantovalo do běžné výuky. Vše, co nám covidová doba dala a mohlo být využito pro ulehčení života, se pomalu vrátilo do starých, často nevyhovujících, kolejí.

Je naivní očekávat, že AI bude využita pouze a jen ku prospěchu. Smutné? Ano, a vědci se také k této možnosti přiklání.

Mohlo by vás zajímat: Konec nadvlády Applu? Intel Panther Lake v šokujícím testu baterie dorovnal nejnovější MacBook Pro

Jsme hloupí na to ji používat.

Vůbec nevíme, co je vědomí

Vědci se obávají především etického porušování hranic. Pokrok v oblasti umělé inteligence a neurotechnologií postupuje rychleji než vědecké chápání vědomí. Pokud nyní nevíme, jak definovat lidské vědomí, nemůžeme ani spolehlivě říci, jestli AI má potenciál mít vědomí.

„Věda o vědomí už není čistě filozofickým zkoumáním. Má skutečné důsledky pro každou stránku společnosti – a pro pochopení toho, co znamená být člověkem,“ řekl hlavní autor studie profesor Axel Cleeremans z Université Libre de Bruxelles.

„Pochopení vědomí je jednou z nejvýznamnějších výzev vědy 21. století – a nyní je naléhavé kvůli pokroku v umělé inteligenci a dalších technologiích.“ Dodává, že se může stát, že vědomí mimo lidský mozek bude vytvořeno náhodou během vývoje umělé inteligence. To by vyvolalo obrovské etické výzvy i existenční riziko.

Co když se AI stane vědomou a nikdy se to nedozvíme

Úvod do problematiky vědomí AI Vědecké zprávy z výzkumných organizací se zabývají otázkou, co by se stalo, kdyby se umělá inteligence (AI) stala vědomou, aniž bychom to kdy zjistili. Podle filozof…

Celý článek:… pic.twitter.com/YIlt0unfoJ
— RETEL.cz (@retelcz) January 3, 2026

Vědomí je doposud charakterizováno jako uvědomění si světa kolem nás. Vědci se ale stále neshodují v tom, jak přesně souvisí s biologických procesů v tělech.

Jsou identifikovány konkrétní oblasti mozku a nervové aktivity, který jsou spojeny s vědomým prožíváním, stále je však více otázek než odpovědí. Jakým způsobem vzniká bdělost a jak funguje. Je vůbec toto vědomí, nebo je to nakonec něco zcela jiného a tato definice je špatná? I takové názory se mezi vědci vyskytují.

Strojně nebo laboratorně vytvořené vědomí není totiž úplné sci-fi. Vývoj přístrojů, které dokáží vědomí popsat, najít a změřit, je klíčový. Poté by se dalo zkoumat, jaké vědomí mají zvířata, plody zvířat, lidé s poraněním mozku nebo demencí. V medicíně by se pak díky těmto výsledkům dala zlepšit péče o tyto pacienty nebo pro vyvinutí lepších terapií pro pacienty s duševním onemocněním. Zatím však takový přístroj k dispozici není a někteří se domnívají, že ani nikdy nebude. Narážíme na problém: nevíme, co přesně by měl testovat.

„Pokrok ve vědě o vědomí změní to, jak vnímáme sami sebe a jak náš vztah k umělé inteligenci, tak k přírodnímu světu,“ řekl spoluautor studie profesor Anil Seth z University of Sussex a držitel grantu ERC.

Vzhledem k tomu, že stále více lidí používá asistenty a chatboty s umělou inteligencí pro každodenní úkoly, objevuje se kuriózní jev: stále více uživatelů vnímá své chatboty nejen jako inteligentní nástroje, ale jako vědomé entity , které jsou nějakým způsobem živé.

S upadající emoční inteligencí je i tohle riziko. V mnohých komunikacích je skutečně pro nejednoho člověka umělý chat lepší a vnímavější než člověk. Lidé většinou jen čekají na to, až budou moci mluvit o sobě. Chat věnuje plnou pozornost vám a zpracovává dostupně známé informace o vašem problému. Navíc trpíme tzv. antropomorfismem, což je vrozená snaha polidšťovat věci kolem. Pojmenováváme psy, hurikány, říkáme, že notebook spí, máme chytré telefony i viry… to však neznamená vždy znehodnocení našich poznatků.

Svou AI si tak trochu přizpůsobíme sobě samému, čímž nám také více rozumí a souzní.

Je AI rozšířeným vědomím nás samých?

Stejně jako popis a výběr postavy do počítačové hry je prodloužením naší vlastní ruky a vědomí, stylizujeme se do ní, může podobnou funkci vykonávat i chatbot. Nejspíše nehrozí, že by se umělá inteligence spikla proti lidstvu ve svém vlastním nezávislém jednání. Horší je riziko zneužití lidmi.

Panel, který bude taková posouzení činit, musí zahrnovat programátory, psychology, právníky, filozofy – a především samotné uživatele. Otázka, co znamená být vědomý, nebyla nikdy naléhavější – ani znepokojivější.

Deepfakes are synthetic media in which a person in an existing image or video is replaced with someone else's likeness. pic.twitter.com/mCrKN7O8XZ
— Vala Afshar (@ValaAfshar) December 15, 2022

Rizikem je také chyba. Dát do rukou AI pravomoce je lákavé, ale co když chybuje například v bezpečnostních systémech řízených právě jí?

Že lidé neumí s AI zacházet? Dejte jim obrázky, udělají porno

Dejte lidem něco užitečného a začnou vymýšlet, jak to zneužít. Umělá inteligence je dnes už využita pro nepovolené sbírání dat, k tvoření deepfake videí a hudby a jejich zneužívání k podvodům, zdokonalují se kyber útoky, lépe se šíří falešný a manipulativní obsah. Hybridní války se v tomto prostředí vedou jedna radost. A to je jen viditelný vrchol ledovce. Zcela jistě někde ve skrytu již probíhají přípravy na daleko dokonalejší zločiny, kde je reální i to, že sama AI vymyslí dokonalý zločin. Pro někoho. Nabízí se otázka, jestli sama AI, pokud by měla vědomí, by měla svou vlastní morálku, která by takový zločin nedopustila.

Jenže stále platí, že umělá inteligence bude postavena právě na tom, čím ji lidé „nakrmí“.

Zdroje článku: Autorský text, retel.cz, scientificamerican.com, www.techzpravy.cz

Reklama

Další články z Techzpravy.cz

Tento článek byl publikován ze zdrojů Techzpravy.cz

Články z TechZprávy.cz nabízejí pohled na svět moderních technologií. Sledují dění v oblasti IT, mobilních zařízení, chytré domácnosti, vědy, vesmíru i digitálních trendů, které ovlivňují každodenní život. Obsah je určen čtenářům, kteří chtějí být v obraze, rozumět novinkám a vědět, co se děje na...

Covid byl test. Propadli jste. Proč by to s AI mělo dopadnout jinak

Desítky stíhaček pro Kyjev? Pomoc Ukrajině může přijít z nečekané strany

Za 80 tisíc měsíčně vás vezmou i bez maturity. Firmy v Česku se přetahují o lidi a nabízejí auto k tomu

Lucie Borhyová zveřejnila snímek v plavkách. Fanoušci probírají její postavu i návrat na obrazovky

Vdova po Janu Potměšilovi popsala nejtěžší chvíle. Slova po pohřbu dojímají k slzám

Smutný konec vládce devadesátek. Jonák zemřel v zapomnění a jeho Discoland zničily bagry