CENTRUM.CZ > Techzpravy.cz > 4. 9. 2025, 08:00

Umělá inteligence za klávesnicí: Kdo vlastně řídí váš prohlížeč

Sdílet

Pokud budou tyto testovací verze úspěšné, možná se za několik let stane prohlížení webu s kopilotem umělé inteligence normou. Dnes je však realita opatrnější: nástroj je stejně tak slibný jako děsivý.

Zdroj: igoriss / iStock

Pokud budou tyto testovací verze úspěšné, možná se za několik let stane prohlížení webu s pomocí AI novou normou. Dnes je však realita opatrnější: nástroj je stejně tak slibný jako děsivý.

Generativní umělá inteligence se vyvíjí závratnou rychlostí a každý týden se objevují nové způsoby integrace modelů, jako je Claude, Gemini nebo Copilot, do nástrojů, které nejčastěji používáme. A jednou z nejkontroverznějších (a nejšťavnatějších) hranic je webový prohlížeč, okno, přes které spravujeme velkou část svého digitálního života, od sociálních sítí po bankovní účty.

Na tomto ošemetném terénu společnost Anthropic uvedla předběžnou verzi aplikace Claude pro Chrome v podobě rozšíření, které umožňuje jejímu modelu umělé inteligence automatizovat prohlížení: čtení stránek, mačkání tlačítek, vyplňování formulářů nebo provádění úkolů přímo v prohlížeči. Sama společnost však varuje, že tento vynález je stejně užitečný jako nebezpečný.

Mohlo by vás zajímat: MediaTek Dimensity 9500: Nový král čipsetů je na obzoru

Co je Claude pro Chrome? Jedná se o experimentální rozšíření, které je k dispozici pouze asi 1 000 placených předplatitelů Claude Max s tarify 100-200 dolarů (2 100 – 4 200 Kč) měsíčně. To podle společnosti činí Claude „podstatně užitečnějším“ tím, že jej integruje do skutečného pracovního procesu. Přesto jej Anthropic nepovažuje za „připravené“ pro širokou veřejnost.

Velká Achillova pata novinky

Největším rizikem jsou útoky typu „prompt injection“. Zde zdánlivě nevinný text (e-mail, dokument, dokonce i příspěvek na sociálních sítích) obsahuje neviditelné příkazy, které by umělá inteligence mohla interpretovat jako legitimní. Není to poprvé, co se to v poslední době stalo.

Reálné příklady:

Škodlivý e-mail přikázal Claudovi, aby vymazal složku doručené pošty uživatele. Umělá inteligence poslechla bez potvrzení.
Při laboratorních testech se ukázalo, že jednoduchý skrytý fragment může požádat AI, aby získala citlivé údaje, například e-maily, nebo spustila toky pro obnovu hesel.

Anthropic Launches Claude for Chrome: The AI Browser Extension That Sees, Acts, and Talks with You!

Imagine having an AI assistant that not only chats but also interacts directly with the web pic.twitter.com/6UuUaxHdwC
— DataGlobal Hub (@DataGlobalHub) August 28, 2025

Společnost Anthropic přiznává, že bez obranných opatření byly útoky ve 123 provedených testech úspěšné ve 23,6 % případů. Se zmírňujícími opatřeními toto číslo kleslo na 11,2 %. U útoků specifických pro prohlížeč, jako jsou neviditelná pole ve formulářích, se jim dokonce podařilo snížit úspěšnost z 35,7 % na 0 %.

Obrany (a jejich limity)

Ke zmírnění rizik Claude pro Chrome zahrnuje:

Oprávnění pro jednotlivé stránky: Uživatel může AI udělit nebo odebrat přístup ke konkrétním stránkám.
Potvrzení s vysokým rizikem: Před zveřejněním, nákupem nebo sdílením osobních údajů musí Claude požádat o souhlas.
Automatické bloky: Nemá přístup k finančním stránkám, stránkám s kryptoměnami, stránkám pro dospělé nebo pirátským stránkám.

Přesto odborníci, jako je Simon Willison (který vymyslel termín prompt injection), označují zbývající 11,2% míru selhání za „katastrofální“ a tvrdí, že je nereálné očekávat, že koncoví uživatelé budou zvládat tak složitá rizika.

Znepokojivý vzorec: prohlížeče unesené umělou inteligencí

Claude pro Chrome nevzniká ve vzduchoprázdnu. Podobné experimenty, jako je Perplexity Comet, Gemini pro Chrome nebo Copilot pro Edge, se potýkají s vážnými zranitelnostmi. Tým Brave například předvedl, jak lze Comet podvést do účtů Gmailu a spustit obnovení hesla pomocí jednoduchých instrukcí skrytých ve vlákně Redditu.

Video k článku ZDE

Zdroj: Youtube.com

To vedlo některé pozorovatele k prohlášení, že samotný koncept prohlížeče řízeného umělou inteligencí by mohl být ze své podstaty nezabezpečený. Jakkoli to zní znepokojivě, Anthropic tvrdí, že sbližování prohlížečů a modelů AI je „nevyhnutelné“. Společnost doufá, že testovací práce s touto malou skupinou uživatelů odhalí vzorce útoků a navrhne lepší obranu před masovým rozšířením. Do té doby však rizika nejsou hypotetická. Jak shrnuje Willison:

„Nemyslím si, že je rozumné očekávat, že koncoví uživatelé budou správně rozhodovat o tak komplexních bezpečnostních rizicích.“

Budoucnost umělé inteligence v prohlížečích

Integrace umělé inteligence do webových prohlížečů není jen přechodným trendem, ale evolucí, která by mohla nově definovat způsob, jakým s webem komunikujeme. Možnosti umělé inteligence v oblasti personalizace a optimalizace uživatelského prostředí jsou obrovské. Umělá inteligence by například mohla pomáhat filtrovat nerelevantní obsah, navrhovat články na základě osobních zájmů nebo dokonce poskytovat dlouhá textová shrnutí.