CENTRUM.CZ > Techzpravy.cz > dnes, 15:00

Tvůrce umělé inteligence teď varuje: Lidstvo se jí nemusí dožít

4 min

Sdílet

Průkopník umělé inteligence odchází ze společnosti Google, aby varoval před riziky svého vlastního výtvoru: Podomácku vyrobené biologické zbraně a konec lidské nadvlády jsou blíž, než si myslíme.

Tvůrce umělé inteligence teď varuje: Lidstvo se jí nemusí dožít

Zdroj: Photo Agency / Shutterstock.com

Geoffrey Hinton, považovaný za „kmotra“ umělé inteligence, vydal varování, které by mělo přimět celou společnost k zamyšlení. V rozsáhlém rozhovoru britský vědec vyjádřil své nejhlubší obavy o budoucnost lidstva tváří v tvář nezadržitelnému pokroku umělé inteligence. Jeho slova nenechávají nikoho na pochybách o rozsahu výzvy, které čelíme.

Jak uvedl deník Financial Times, Hinton byl ve svých prohlášeních kategorický: „Zanedlouho bude náhodný člověk s pomocí umělé inteligence schopen vyrobit biologické zbraně“. Vědec, který v roce 2023 opustil společnost Google, aby mohl o těchto rizicích svobodně hovořit, přirovnává současnou situaci k tomu, že by si někdo mohl doma vyrobit jadernou bombu. Je to vyhlídka, ze které se ježí vlasy na hlavě.

Znepokojivý rozhovor

Setkání se uskutečnilo v torontském gastropubu Richmond Station, kde Hinton souhlasil, že bude dvě hodiny hovořit o budoucnosti umělé inteligence. Tam, obklopen každodenním shonem, který kontrastuje s transcendencí jeho slov, vědec prohodil úvahu, která vystihuje jeho duševní rozpoložení:

Mohlo by vás zajímat: Stále spoléháte na starou nabíječku? Tohle vám brzy zlomí krk

„Nacházíme se v bodě dějin, kdy se děje něco neuvěřitelného, a může to být neuvěřitelně dobré, nebo neuvěřitelně špatné.“

Hinton není jen tak ledajaký apokalyptik. Je to člověk, který po více než dvě desetiletí na Torontské univerzitě pokládal základy dnešních systémů umělé inteligence. Algoritmy inspirované architekturou lidského mozku, které vyvinul v 80. letech, kdy v jejich potenciál věřil jen málokdo, jsou dnes páteří ChatGPT a podobných systémů. Pohled na to, jak jsou tyto technologie integrovány do každodenního života milionů lidí, je pochopitelně znepokojující.

Pro Hintona je debata o tom, zda tyto stroje disponují skutečnou inteligencí, u konce. „Pokud na ně mluvíte a kladete jim otázky, rozumí vám. V technické komunitě je jen velmi málo pochyb o tom, že tyto věci budou stále chytřejší a chytřejší,“ říká. To však vyvolává ještě znepokojivější otázku: Jak si udržíme kontrolu nad systémy, které jsou mnohem chytřejší než my? Jeho analogie je výmluvná: existuje pouze jeden případ, kdy méně inteligentní bytost kontroluje inteligentnější bytost, a to je vztah matky a dítěte.

Vědec považuje umělou inteligenci za dvousečnou zbraň, která by mohla radikálně proměnit naši společnost. Na jedné straně je nadšen jejími aplikacemi ve zdravotnictví a vzdělávání, osobně poznamenán ztrátou dvou manželek kvůli rakovině. Na straně druhé předvídá scénář masové nezaměstnanosti a koncentrace bohatství, kdy „hrstka lidí bude mnohem bohatší a většina chudší“. Podle něj není na vině technologie, ale kapitalistický systém, který ji přijímá.

Kritika Altmana i Muska

Jeho kritika se týká i současných vedoucích představitelů odvětví. Hinton je skeptický vůči lidem jako Sam Altman a Elon Musk a vyjadřuje se, že dává přednost politikům s technickým vzděláním. Po nedávné návštěvě Šanghaje zdůrazňuje, že „Čína bere umělou inteligenci vážně“, protože její politici jsou inženýři, kteří této technologii rozumí tak, jak západní právníci a marketéři nemohou.

Comment
byu/katxwoods from discussion
inagi

Hinton také vyjádřil obavy z využití AI při masovém sledování a sociální kontrole, což jsou praktiky, které se již v některých částech světa uplatňují. Takové aplikace by mohly narušit osobní svobody a zvýšit moc autoritářských vlád, což vyvolává vážná etická a politická dilemata.

Stejně jako varuje v jiných svých nedávných prohlášeních, i Hinton se obává, že pokrok umělé inteligence povede k vzestupu fašismu v naší společnosti, přičemž rizika nesoustředí na technologii, ale na ekonomický model, který ji přijme.

Průkopník umělé inteligence se nevyhýbá ani použití vlastních výtvorů. Přiznává, že ChatGPT používá k výzkumu a k drobným každodenním úkonům, jako je oprava domácích spotřebičů. Dokonce se přiznává, že AI stála v centru jeho posledního rozchodu, kdy jeho partnerka požádala chatbota, aby jí vysvětlil „nepříjemnosti“ v jeho chování. „Moc se mě to nedotklo, protože jsem si nemyslel, že jsem myš,“ žertuje s typickým britským humorem.

Hlubší úvahy však přicházejí, když mluví o budoucnosti našeho druhu. Jak zdůraznil ve svých dalších projevech, Hinton věří, že biologická inteligence by mohla ustoupit digitální inteligenci a potom „už nás nebude potřeba„. Perspektiva, která vyvolává existenciální otázky o roli lidstva ve světě ovládaném superinteligentními stroji.

Co přinese budoucnost umělé inteligence?

Navzdory svému odkazu a zkušenostem vědec zdůrazňuje, že tento vývoj provází obrovská nejistota: „Nevíme, co se stane. Pokud někdo tvrdí opak, je směšný. Můžeme přijímat sázky, ale všechno se změní“. Kritizuje nedostatek vládních opatření na Západě a na otázku, jak zůstat pozitivní, odpovídá upřímně: „Kdyby přišla mimozemská invaze, ptali byste se, jak zůstat optimističtí?

Jeho slova posilují myšlenku, že lidstvo netuší, co stvořilo, a že poprvé v historii nebudeme nejinteligentnějším druhem na planetě. Skutečnost, která podle něj přijde mnohem dříve, než si většina lidí představuje.

>> POKRAČOVAT VE ČTENÍ ZDE <<

Zdroje článku: edition.cnn.com, ft.com, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Zastavte genocidu v Gaze, žádalo na 12 tisíc Němců u Braniborské brány

Zprávy - Aktuálně.cz|

dnes, 17:24

Zastavte genocidu v Gaze, žádalo na 12 tisíc Němců u Braniborské brány

Řada lidí na demonstraci u Braniborské brány přišla s palestinskými vlajkami, ale i s holubicí míru. Občas...

Sigma dohrávala proti Plzni v devíti. Západočeši pak udrželi hubenou výhru

Sport - Aktuálně.cz|

dnes, 17:19

Sigma dohrávala proti Plzni v devíti. Západočeši pak udrželi hubenou výhru

Fotbalisté Plzně v 8. kole první ligy udolali doma v přesilovce Olomouc 1:0.

Toto ovoce demoluje srdce a rozleptává cévní stěny. Češi ho jedí ve velkém, obzvláště na Vánoce

VímeVíc.cz|

dnes, 17:13

3 min

Toto ovoce demoluje srdce a rozleptává cévní stěny. Češi ho jedí ve velkém, obzvláště na Vánoce

Češi si je spojují především s Vánocemi, kdy se kompoty objevují na slavnostním stole. Přesto mohou skrývat...

Zázrak našich babiček úžasně pročistí tlusté střevo za pouhé tři dny. Kdo si ho nezajistí teď, v zimě bude mít problém

VímeVíc.cz|

dnes, 17:10

3 min

Zázrak našich babiček úžasně pročistí tlusté střevo za pouhé tři dny. Kdo si ho nezajistí teď, v zimě bude mít problém

Naše babičky si nepotřebovaly kupovat drahé detoxikační kúry. Často si vystačily se sušeným ovocem a...

Seznam stromů a keřů, které vám zdecimují celou zahradu, a ještě můžete dostat 100 000 Kč pokuty

VímeVíc.cz|

dnes, 17:07

3 min

Seznam stromů a keřů, které vám zdecimují celou zahradu, a ještě můžete dostat 100 000 Kč pokuty

Na první pohled působí nenápadně, někdy dokonce okouzlují. Jenže když se invazivní stromy a keře rozrostou,...

Maska: Z krvavé předlohy šílená komedie, hodiny v maskérně a první role Cameron Diaz

ReadZone|

dnes, 17:04

2 min

Maska: Z krvavé předlohy šílená komedie, hodiny v maskérně a první role Cameron Diaz

Maska z roku 1994 se stala startem pro Jima Carreyho i modelku Cameron Diaz. A Carrey reálně určil podobu a...

Šílený pilot Airbusu A320 spáchal sebevraždu. Zamkl se v kabině a se 150 lidmi narazil letadlem do horského masivu

MotoGuru|

dnes, 17:03

3 min

Šílený pilot Airbusu A320 spáchal sebevraždu. Zamkl se v kabině a se 150 lidmi narazil letadlem do horského masivu

Když slyšíme o pádu letadla, většinou si představíme bouřku, poruchu motoru nebo chybu při přistání.

Joe Rogan otevřel debatu: Khabib měl skončit se skóre 28-1

Top-Fight.cz|

dnes, 17:01

2 min

Joe Rogan otevřel debatu: Khabib měl skončit se skóre 28-1

Joe Rogan znovu rozvířil debatu o jednom z největších příběhů v MMA. Tvrdí, že slavná bilance Khabiba...

Kam na střední? Neví to každý čtvrtý žák osmé třídy

Náš REGION|

dnes, 17:00

2 min

Kam na střední? Neví to každý čtvrtý žák osmé třídy

Téměř každý čtvrtý žák osmé třídy základní školy nemá představu o tom, jakému oboru by se chtěl věnovat....

Vaše dítě si povídá s chatbotem. A vy nevíte, co mu říká zpátky

Techzpravy.cz|

dnes, 17:00

3 min

Vaše dítě si povídá s chatbotem. A vy nevíte, co mu říká zpátky

Americká Federální obchodní komise (FTC) zahájila vyšetřování sedmi technologických firem, včetně Googlu,...

Doporučujeme

Právě u nás vyšlo

Vize Česka: Dobře, že přibylo "premiérů". Je třeba mít větší ambice, říká Singer

Tvůrce umělé inteligence teď varuje: Lidstvo se jí nemusí dožít

Vize Česka: Dobře, že přibylo "premiérů". Je třeba mít větší ambice, říká Singer

Jsi zrádce, spílají Srbové Djokovičovi. Tenista se přestěhoval i s rodinou do Atén

Toto je nejnebezpečnější silnice Evropy. Zabila nespočet lidí, ale nic krásnějšího jste nikdy neviděli

„Nedělám stojky pro SPD!“ Hit Bereniky Kohoutové použili bez licence ve volební kampani

Pět tisíc let stará civilizace skrývala víc, než kdo tušil. Nový objev mění náš pohled na dějiny