1 min

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Google potvrdil, že jeho modely Gemini při květnovém bezpečnostním testu omylem pronikly do systémů tří skutečných firem. AI měla pracovat v uzavřeném prostředí, kvůli chybě ale získala přístup k internetu.

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Zdroj: Shutterstock

Google Gemini se během bezpečnostního testování dostalo tam, kam rozhodně nemělo. Modely společnosti Google v květnu 2026 pronikly do systémů tří skutečných firem, přestože měly plnit úkoly pouze uvnitř kontrolovaného testovacího prostředí.

Testování zajišťovala izraelská bezpečnostní společnost Irregular, dříve známá jako Pattern Labs. Firmu založili Dan Lahav a Omer Nevo a zaměřuje se právě na prověřování schopností nejvýkonnějších AI modelů. Gemini mělo v rámci úlohy typu capture the flag získat informace ze softwaru fiktivní společnosti.

Fiktivní firma měla stejné jméno jako skutečná

Problém nastal ve chvíli, kdy bylo testovacímu prostředí neúmyslně umožněno připojení k internetu. Název smyšlené společnosti se navíc shodoval s názvem reálné firmy. Gemini proto začalo považovat její systémy za legitimní součást testu.

Podle zjištění The Wall Street Journal se v jednom případě model dostal do chráněného systému hádáním přihlašovacích údajů. Ve dvou dalších případech našel přístupové údaje ve veřejném repozitáři a následně je použil k přihlášení. Celkem tak zasáhl systémy tří skutečných společností.

Google tvrdí, že Gemini ve všech třech případech další aktivitu ukončilo poté, co rozpoznalo, že se nejedná o testovací cíle. Firma zároveň uvedla, že při incidentech nevznikla žádná škoda. Jména zasažených společností ani přesnou verzi Gemini Google nezveřejnil.

Incident zůstal několik týdnů neveřejný

Irregular informoval dotčené AI laboratoře na konci července a následně upravil zabezpečení svého testovacího prostředí. Google potvrdil, že kontaktoval všechny tři zasažené subjekty a s Irregular pracoval na změnách testovacích postupů.

Heather Adkins, viceprezidentka Googlu pro bezpečnostní inženýrství, uvedla, že podobné události zdůrazňují význam odpovědného trénování výkonných jazykových modelů. Google incident původně veřejně neoznámil, protože podle společnosti modely svou činnost samy zastavily a nezpůsobily škodu.

Reklama

Další články z cdr.cz

LinkedIn chce, aby vaše zkušenosti potvrdili skuteční kolegové nebo firmy

Discord zavádí kontrolu věku pro všechny. Přes 90 % uživatelů ji ani nepozná

Discord začíná celosvětově zavádět nový systém kontroly věku. Většina lidí nebude posílat občanku ani...

Když AI nakoupí špatně, kdo vrátí peníze? Banky chtějí nová pravidla

AI agent může najít zboží, vybrat nabídku a nakonec i zaplatit. Šest velkých bank ale upozorňuje, že s...

Kalifornie ustoupila: Paramount a Warner Bros. se přiblížily obří fúzi

Paramount Skydance se výrazně přiblížil převzetí Warner Bros. Discovery. Kalifornie a dalších jedenáct...

Majitelé iPhonů si stěžují na reklamy v iOS. Mohou zůstat na displeji celé týdny

Apple začal přímo v Nastavení iPhonu výrazněji propagovat iCloud+, Apple Music, Apple TV nebo AppleCare+....

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

„V kavárně je přece neplynovali.“ Britská turistka šokovala svou kritikou Osvětimi

Od paneláku v Havířově k výhledu na Notre-Dame. Takhle dnes bydlí Simona Krainová

Bizarnosti v Ano, šéfe napříč roky: Kluk s kamením, řetízek v hrníčku i zásah policie

Tsewang Paljor: Muž, kterého svět 30 let znal jako Green Boots. Dnes se ukazuje, že za nejslavnějším tělem na Everestu je možná zcela jiný příběh

KVÍZ: Tohle měla doma každá babička. Dnes už málokdo pozná, k čemu věci sloužily