2 min

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Sdílet

Dennívýzva

OpenAI rozšiřuje bezpečnostní funkci Lockdown Mode, která má snížit riziko úniku citlivých dat přes prompt injection útoky. ChatGPT kvůli ní omezí některé propojené funkce, včetně živého webu, agentního režimu a Deep Research.

Zdroj: Shutterstock

OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.

Reklama

Další články z cdr.cz

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

„Je to genocida hmyzu.“ Ekolog varuje před pastí, kterou máme na zahradě skoro všichni

Vorlíček chtěl po okupaci emigrovat, nakonec zůstal a natočil Popelku. Šafránkové do konce života neodpustil

Toto je nejlepší krabicové mléko ze supermarketů. Na celé čáře zvítězilo jedno z nejlevnějších

Monika Marešová: Leoš se synům začal věnovat až díky své druhé ženě

Vietnamští rodiče neřeknou „mám tě rád“. Lásku vyjadřují jinak, říká mladá generace