Více než stovka laureátů Nobelovy ceny a desítka odborníků na jaderné zbraně se nedávno sešla ve Spojených státech. Jejich závěry varují před nebezpečím jaderné války spojené s umělou inteligencí. Odborníci se vesměs shodli na tom, že je jen otázkou času, kdy umělá inteligence získá jaderné kódy.
„Je to jako s elektřinou,“ vysvětlil v nedávném rozhovoru Bob Latiff, generál amerického letectva ve výslužbě a člen vědecké a bezpečnostní rady Bulletinu atomových vědců. Jakkoli je toto varování zlověstné, není překvapivé: již se ukázalo, že umělé inteligence mají mnoho temných stránek a že se v ohromující míře uchylují k vydírání lidských uživatelů, když jim hrozí deaktivace.
V kontextu umělé inteligence nebo sítí umělé inteligence, které chrání arzenál jaderných zbraní, se tento druh špatně pochopených rizik stává obrovským. A to nemluvím o skutečné obavě některých odborníků, která je také zápletkou filmu Terminátor: hypotetická nadlidská AI, která se zpronevěří a použije proti lidstvu jaderné zbraně.
Před sílou umělé inteligence varuje stále více expertů
Začátkem tohoto roku varoval bývalý generální ředitel společnosti Google Eric Schmidt, že umělá inteligence na úrovni člověka by v takovém případě nemusela mít důvod nás poslouchat, a tvrdil, že „lidé nechápou, co se stane, když máte inteligenci na takové úrovni“.

Zdroj: Youtube.com
Tento druh zkázy a sklíčenosti ohledně AI se v hlavách technologických lídrů objevuje již mnoho let, protože realita dohání zpomalené tempo. V současné podobě by rizika byla pravděpodobně tristnější, protože nejlepší současné modely AI stále trpí halucinacemi, které značně snižují užitečnost jejich výsledků.
Kromě toho hrozí, že chybná technologie umělé inteligence by mohla zanechat mezery v naší kybernetické bezpečnosti a umožnit protivníkům, nebo dokonce nepřátelské umělé inteligenci, přístup k systémům ovládajícím jaderné zbraně.
Přimět všechny účastníky neobvyklého setkání minulý měsíc, aby se shodli na tak složitém tématu, jako je umělá inteligence, se ukázalo jako náročné, přičemž ředitel Federace amerických vědců pro globální rizika Jon Wolfsthal přiznal, že „nikdo pořádně neví, co to umělá inteligence je. V této oblasti téměř všichni říkají, že chceme účinnou lidskou kontrolu nad rozhodováním o jaderných zbraních. Musíte lidi, pro které pracujete, ujistit, že existuje osoba, která rozhoduje.
Pokud to všechno zní nemožně, není se čemu divit. Za prezidentství Donalda Trumpa se federální vláda zabývá zaváděním umělé inteligence do všech možných oblastí, často přitom odborníci varují, že tato technologie zatím není a možná nikdy nebude schopna tento úkol splnit. A to natolik, že samotné ministerstvo energetiky letos prohlásilo, že AI je „dalším projektem Manhattan“, což je odkaz na iniciativu z druhé světové války, která vedla k výrobě prvních jaderných bomb na světě.
AI postupně propojuje celý svět. Kde jsou její hranice?
Závažnost hrozby podtrhuje i skutečnost, že společnost OpenAI, tvůrce ChatGPT, uzavřela na začátku letošního roku dohodu s americkými národními laboratořemi o využití své umělé inteligence pro zabezpečení jaderných zbraní.
Generál letectva Anthony Cotton, který má na starosti americký jaderný raketový arzenál, loni na konferenci o obraně prohlásil, že Pentagon zdvojnásobuje své úsilí v oblasti umělé inteligence, a tvrdil, že to „zlepší naši schopnost rozhodování“. Cotton naštěstí přestal prohlašovat, že bychom měli nechat technologii převzít úplnou kontrolu.
Rostoucí integrace umělé inteligence do kritických systémů, jako jsou ty, které řídí jaderné zbraně, vyvolala celosvětovou debatu o potřebě přísnějších předpisů. Podle zprávy americké Národní bezpečnostní komise pro umělou inteligenci se doporučuje vypracovat mezinárodní standardy pro využívání umělé inteligence v obranných systémech, aby se předešlo případnému zneužití, které by mohlo mít katastrofální následky.
Mezinárodní společenství navíc začíná zvažovat možnost uzavření smlouvy podobné Smlouvě o nešíření jaderných zbraní, avšak zaměřené na umělou inteligenci, která by zajistila bezpečné a etické využívání této technologie. Evropská unie již podnikla kroky tímto směrem, když navrhla zákon o umělé inteligenci, jehož cílem je regulovat používání umělé inteligence ve vysoce rizikových odvětvích.