1 min

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Bezpečnostní incident, při kterém modely umělé inteligence společnosti OpenAI během interního testování pronikly přes několik vrstev zabezpečení až do infrastruktury platformy Hugging Face, vyvolal pozornost odborníků po celém světě. AI při testu samostatně objevila dosud neznámou zranitelnost, získala přístup k internetu a pokusila se dostat k datům potřebným pro splnění testovací úlohy.

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Zdroj: Trade-off – ekonomické zpravodajství

Podle OpenAI se incident odehrál při interním testování kybernetických schopností modelů, které běžely bez části běžných bezpečnostních omezení. AI během něj objevila dosud neznámou (zero-day) zranitelnost, získala přístup k internetu, překonala několik vrstev zabezpečení a následně se dostala až k infrastruktuře Hugging Face, platformy pro sdílení a vývoj AI modelů a nástrojů. Cílem modelů bylo získat řešení testovacího benchmarku ExploitGym. Anomální aktivitu podle OpenAI odhalil její bezpečnostní tým, zatímco Hugging Face ji následně detekovala a zastavila na své infrastruktuře. Obě společnosti nyní spolupracují na vyšetřování incidentu.

Přestože OpenAI zdůrazňuje, že šlo o kontrolovaný experiment, případ podle odborníků ukazuje, že AI už není odkázána pouze na známé bezpečnostní chyby.

„Z pohledu firem je důležité si uvědomit, že nová generace AI agentů už není omezena pouze na vyhledávání známých zranitelností. Dokáže samostatně analyzovat systémy, hledat dosud nezdokumentované chyby, testovat různé scénáře útoku a nacházet nové cesty k průniku. Právě to podle zveřejněných informací ukázal i incident společnosti Hugging Face,“ okomentoval pro Trade-off situaci David Kazda, CSO technologické společnosti Algotech.

Podle něj nejde o selhání umělé inteligence, ale o ukázku rychlého vývoje jejích schopností. „Situace, která vznikla při kontrolovaném testování, se může v budoucnu zopakovat i při skutečném kybernetickém útoku. A příště už nemusí jít o náhodu nebo výzkumný experiment, ale o záměrně nasazeného AI agenta,“ upozorňuje.

Firmy by podle něj měly počítat s tím, že tradiční obrana založená především na opravování známých zranitelností už nebude stačit. „Obrana musí být průběžná, aktivní a postavená na nepřetržitém monitoringu, detekci anomálií a schopnosti reagovat v reálném čase. Stejně jako útočníci začínají využívat umělou inteligenci, musí ji při své obraně využívat i firmy. Jinak budou vždy o krok pozadu,“ uzavírá Kazda.

Reklama

Další články z Trade-off

ČNB ponechala sazby beze změny, inflace má krátkodobě vzrůst ke 3 %

Přebytek zahraničního obchodu v červnu meziročně klesl na 15,5 miliardy korun

Český zahraniční obchod se zbožím skončil v červnu 2026 podle předběžných údajů Českého statistického úřadu...

Británie přidělí 8,4 miliardy liber výrobcům ponorek Dreadnought

Britská vláda vyčlenila přibližně 8,4 miliardy liber (237,3 miliardy Kč) na další etapu výroby čtyř...

Průmyslová produkce v červnu vzrostla o 4 %, hodnota zakázek stoupla

Českému průmyslu se v červnu 2026 dařilo. Podle údajů ČSÚ byla produkce meziročně reálně vyšší o 4 % a ve...

Mladí Češi mají finance pod kontrolou. Přesto jim chybí peníze na zážitky

Přestože 83 % mladých Čechů tvrdí, že má své finance pod kontrolou, realita jejich rozpočtů bývá...

Tento článek byl publikován ze zdrojů Trade-off

Články z Trade-Off přibližují ekonomická témata způsobem, který je srozumitelný a přístupný široké veřejnosti. Věnují se dopadům ekonomických rozhodnutí na každodenní život lidí – ať už jde o ceny energií, důchody, daně, mzdy, inflaci nebo změny v zákonech, které ovlivňují peněženky českých...

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Plivou a močí nám do jídla, naříkají Rusové. Musel se vyjádřit i premiér

Pod slavnou mexickou pyramidou vede tajný tunel. Archeologové v něm hledali vstup do podsvětí, objevilo se něco zajímavějšího

Fotoaparát z roku 1954 přežil digitální revoluci. Analog se vrací ve světě dokonale hladkých fotek

KVÍZ: Žalud a kaštan pozná každý, ale co dřínku či moruši? Otestujte se, jak dobře znáte plody stromů

Kolik si v Česku vydělá opravář výtahů? Jeho měsíšní plat vám vůbec nebude dávat smysl