3 min

Šéf ChatGPT přiznal barvu: Vytváříme monstrum, které nás může zničit

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Dnes by Isaac Asimov oslavil 106. narozeniny. Jeho slavné Tři zákony robotiky jsou dnes aktuálnější než kdy dřív. Co na to říkají experti?

Asimovovy zákony selhávají? Roboti jsou chytřejší, než jsme si mysleli.

Zdroj: FOTO:FreePik.com

Dnes by oslavil 106. narozeniny muž, který sice nestvořil ChatGPT, ale dost možná předpověděl jeho osud. Isaac Asimov totiž popsal budoucnost, která se nám právě teď začíná nepříjemně vymykat z rukou. Jeho legendární zákony robotiky měly lidstvo chránit, jenže realita dneška vypadá spíš jako začátek hodně drsného thrilleru. Otcové umělé inteligence bijí na poplach a konečně přiznávají barvu, tenhle starý pán měl v mnoha ohledech pravdu a my teď možná hasíme požár, který jsme sami, v dobré víře, založili.

Isaac Asimov se narodil 2. ledna 1920 v ruském Petroviči, a i když většinu života prožil v Americe, jeho myšlenky neznaly hranice. Už ve čtyřicátých letech minulého století, kdy počítač zabral celou místnost a uměl sotva sčítat, Asimov formuloval pravidla, která měla zajistit, že nás stroje nezničí. Říká se jim Tři zákony robotiky a donedávna působily jako čistá fantazie. Dnes? Dnes by si je měl povinně přečíst každý vývojář v Silicon Valley.

Asimov a tři věty, které měly zachránit svět

Asimov věřil, že roboti, nebo umělá inteligence, chcete-li, musí mít v sobě napevno zakódované morální brzdy. Ve své povídce Runaround z roku 1942 je definoval naprosto přesně. Zní to jednoduše, ale dnes, kdy se potýkáme s deepfake videi a autonomními systémy, to má úplně jinou váhu:

Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby mu bylo ublíženo.

Robot musí poslechnout příkazy člověka, kromě případů, kdy by to porušilo první zákon.

Robot musí chránit sám sebe, pokud to není v rozporu s prvním nebo druhým zákonem.

Zní to jako dokonalá pojistka, že? Jenže realita je složitější. Asimov sám ve svých knihách často ukazoval, jak se tyto zákony dají obejít nebo logicky zamotat. A přesně to se děje dnes. Stroje sice nemají fyzická těla, která by nás napadla, ale mají algoritmy, které umí manipulovat našimi názory, a to je možná ještě nebezpečnější.

Kmotr AI varuje: Jsme jako batolata

Že Asimov nebyl paranoidní, potvrzují i ti nejpovolanější. Geoffrey Hinton, britsko-kanadský vědec, kterému se přezdívá „Kmotr umělé inteligence“ a který za svou práci získal Nobelovu cenu, v posledních letech totálně obrátil. Místo nadšení přichází varování.

Hinton otevřeně mluví o riziku, že umělá inteligence převezme kontrolu. „Představte si sebe a tříleté dítě. My budeme ta tříletá,“ řekl Hinton nedávno pro The Guardian. Podle něj existuje „deseti až dvacetiprocentní šance“, že AI povede k vyhynutí lidstva v příštích třiceti letech. Proč? Protože, jak sám říká: „Kolik příkladů znáte, kdy méně inteligentní věc ovládá tu inteligentnější?“. To je otázka, na kterou se těžko hledá uklidňující odpověď.

Sam Altman: Hra s ohněm?

Na druhé straně barikády stojí lidé jako Sam Altman, šéf OpenAI, který nám dal ChatGPT. I on si uvědomuje rizika, ale vidí je jinak. Altman přiznává, že „při vývoji AI lidstvo vytváří něco mocnějšího než ono samo, co se může vymknout naší kontrole a ohrozit přežití našeho druhu.“ Přesto věří v takzvanou „jemnou singularitu“, tedy že se technologie a společnost budou vyvíjet společně a my se naučíme s AI žít.

Je to fascinující paradox. Zatímco Asimov psal o zákonech, které by robotům zabránily nám ublížit, my dnes stavíme systémy, u kterých teprve zpětně vymýšlíme, jak je uhlídat. Altman sice volá po regulacích a tvrdí, že „naše budoucí konkurenceschopnost závisí na přijetí AI“, ale tempo vývoje je zběsilé.

Asimov nakonec do svých knih přidal ještě „Nultý zákon“: Robot nesmí ublížit lidstvu jako celku. Možná právě na ten bychom se v roce 2026 měli soustředit nejvíc. Protože jestli měl tenhle spisovatel v něčem pravdu, tak v tom, že technologie je dobrý sluha, ale příšerný pán.

Zdroj informací: autorské zpracování redakce Readzone.cz na základě veřejně dostupných informací z médií (ebsco, theguardian, aiifi.ai, weforum, dig.watch).

Reklama

Další články z ReadZone

Miliardář George Soros slaví 96 let. Zachránila ho falešná identita, podporoval Chartu 77 a vydělal na pádu libry

Celá kapela Mirai si kvůli vážné nemoci kytaristy oholila hlavu. Všechno začalo bleskovou operací

Kytarista skupiny Mirai Tomáš Javůrek prochází léčbou a kvůli ztrátě vlasů radikálně změnil vizáž. Zbytek...

Z původních Bažantů z Les Charlots tři zemřeli na rakovinu. Žijící Rego utekl před diktaturou a Fechner na 40 let zmizel

Francouzská skupina Les Charlots ovládla filmová plátna sedmdesátých let. Mimo pódia však členové pětice...

Kraus s Chýlkovou vyvrátili fámy společným videem. Herečka si měla do bytu nastěhovat mladého muže

Herec Jan Kraus slaví třiasedmdesáté narozeniny. Těsně před velkým dnem si vtipně vystřelil z fanoušků a...

Ulice: Nečekané přátelství, rodičovské zásahy a obavy o Rosťu

Seriál Ulice přináší po prázdninách nečekaný zvrat kolem zavřeného Království hraček. Záchrana starého...

Tento článek byl publikován ze zdrojů ReadZone

Web nabízí pestrou paletu článků o životním stylu, zdraví, vztazích, kultuře i aktuálních trendech. Obsah je kombinací praktických rad, odlehčených zajímavostí a inspirativních textů, které dokážou zaujmout široké publikum. Čtenáři tu najdou tipy do každodenního života, nápady pro volný čas i...

Šéf ChatGPT přiznal barvu: Vytváříme monstrum, které nás může zničit

Ukrajinský deník: Válka mě připravila o psa, manžela a teď i o auto

Spor Vémolových se vyostřuje. Karlos vysvětlil odtažení auta, s Lelou se přou i o peníze na děti

Přistání na Lukle má jeden zásadní problém. Když ho pilot pochopí pozdě, už není kam uhnout

Děti zatáčejí doleva výrazněji než dospělí. Studie z pěti kontinentů hledá vnitřní kompas, který řídí směr lidské chůze

Celá kapela Mirai si kvůli vážné nemoci kytaristy oholila hlavu. Všechno začalo bleskovou operací