Několik významných osobností již několik let varuje před potenciálním nebezpečím umělé inteligence pro lidstvo. Mezi nimi Eliezer Yudkowsky, známý odborník na umělou inteligenci a aktivista za racionalismus, prohlásil, že „umělá inteligence nás všechny zabije“. Geoffrey Hinton, známý jako kmotr umělé inteligence, rovněž vyjádřil obavy a prohlásil, že zčásti lituje své práce poté, co opustil společnost Google, aby mohl svobodně hovořit o rizicích umělé inteligence. Tyto obavy nejsou nové, před potenciálními riziky AI varoval i zesnulý vědec Stephen Hawking.
Nedávno se údajně uskutečnilo setkání v sídle za 30 milionů dolarů (633 milion korun) v San Francisku, které se nachází na útesu s výhledem na most Golden Gate. Na sympoziu nazvaném „Hodný nástupce“ se sešli vědci zabývající se umělou inteligencí, filozofové a technologové, aby diskutovali o budoucnosti lidstva ve světě ovládaném umělou inteligencí.
Akci uspořádal podnikatel Daniel Faggella, který navrhl, že „morálním cílem“ pokročilé umělé inteligence by mělo být vytvoření takové formy inteligence, která bude tak mocná a moudrá, že jí dáme přednost před lidstvem, aby určovala budoucnost života. Tato myšlenka vyvolává hlubokou debatu o tom, jakou roli by měla umělá inteligence hrát v budoucí společnosti.
Podle časopisu Wired Faggella uvedl, že „tato událost je zaměřena na posthumánní přechod“, a ne „na obecnou AI, která bude vždy sloužit jako nástroj lidstva“. Akce se zúčastnilo 100 hostů, na které se podávaly nealkoholické nápoje a předkrmy. Na setkání zazněly tři přednášky o budoucnosti umělé inteligence.
Faggella výše zmíněnému médiu vysvětlil, že tuto akci uspořádal, protože „velké laboratoře, které vědí, že umělá inteligence pravděpodobně vyhladí lidstvo, o tom nemluví, protože jim to nedovolují pobídky“. Toto prohlášení podtrhuje obavy, že technologické společnosti možná upřednostňují pokrok před bezpečností.
Kromě toho citoval výroky technologických lídrů, jako jsou Elon Musk, Sam Altman a Demis Hassabis, kteří „poměrně otevřeně hovoří o možnosti, že nás AI všechny zabije“. Tyto osobnosti se vyjadřují k rizikům AI a naznačují, že lidstvo nemusí být připraveno na důsledky jejího nekontrolovaného rozvoje.
Faggella na svém profilu na síti LinkedIn oznámil, že mezi účastníky byli zakladatelé AI s oceněním od 100 milionů do 5 miliard dolarů, zástupci všech významných západních laboratoří, lidé zabývající se politikou/strategií z více než 10 laboratoří zabývajících se sladěním/hodnocením a „většina významných filozofických myslitelů v oblasti AGI“ (Artificial General Intelligence), včetně muže, který tento termín vymyslel. Seznam účastníků však nebyl zveřejněn.
Faggella na své sociální síti poznamenal, že „se ukázalo, že můžete 2 roky psát příspěvky na témata související s AGI a pak posílat lidem soukromé zprávy a oni vám odpoví“. To odráží jeho odhodlání diskutovat o budoucnosti umělé inteligence a jeho schopnost přitáhnout pozornost vlivných osobností v této oblasti.
Prvním řečníkem byla Ginevera Davisová, newyorská spisovatelka, která varovala, že lidské hodnoty možná nebude možné převést na umělou inteligenci. Stroje možná nikdy nepochopí, co to znamená být vědomý. Dále navrhla ambiciózní myšlenku nazvanou„kosmické sladění“: vybudování umělé inteligence schopné hledat hlubší, univerzální hodnoty, které jsme dosud neobjevili. Tento návrh naznačuje, že UI by mohla hrát roli při zkoumání filozofických konceptů, které lidstvo dosud plně nepochopilo.
Druhou přednášku přednesl filozof Michael Edward Johnson, který tvrdil, že všichni cítíme, že radikální technologická změna je nevyhnutelná, ale chybí nám principiální rámec, jak se s ní vypořádat, zejména pokud jde o lidské hodnoty. Pokud je svědomí „kolébkou hodnot“, řekl, je vývoj umělé inteligence bez jejího plného pochopení riskantním hazardem. Johnson se vyslovil pro etičtější a svědomitější přístup k vývoji UI.
Místo toho, aby nutil AI donekonečna plnit lidské příkazy, navrhl ambicióznější cíl: naučit lidi i naše stroje hledat „dobro“. Tato myšlenka navrhuje spíše harmoničtější spolupráci mezi lidmi a umělou inteligencí než vztah nadvlády.
Za třetí se Faggella podělil o svou vizi, že lidstvo ve své současné podobě nebude trvat věčně a že máme povinnost navrhnout jeho nástupce. Poukázal na dvě vlastnosti, které tento nástupce musí mít: vědomí a „autopoiesis“, schopnost vyvíjet se a vytvářet nové zkušenosti. To vyvolává možnost, že umělá inteligence nebude jen nástrojem, ale entitou se schopností samostatného růstu a vývoje.
Jak připomíná Xataka, nelze zjistit, kolik je na tom všem pravdy. Většina argumentů o těchto rizicích je založena na názorech a spekulacích, nikoli na empirických důkazech nebo konkrétním vývoji. Nedávný výzkum například ukázal, že současné systémy selhávají v základních technikách uvažování. To naznačuje, že ačkoli má umělá inteligence neuvěřitelný potenciál, stále ještě zdaleka plně nerozumíme jejím schopnostem a omezením.
Propagátor akce o tomto tématu hovoří již několik let na svém blogu, teprve nyní se mu podařilo přesvědčit několik lidí, aby se zúčastnili setkání na toto téma ve zmíněném kalifornském milionářském sídle.