1 min

OpenAI zavádí pro ChatGPT Lockdown mode – režim, který má zabránit úniku citlivých dat při prompt injection útoku

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Zdroj: REUTERS / Dado Ruvic

Útoky typu prompt injection představují pro jazykové modely zásadní bezpečnostní riziko. Útočníci pro tyto specializované útoky vkládají škodlivé instrukce přímo do webových stránek nebo dokumentů, které pak chatbot při zpracování přečte a provede. OpenAI na tuto hrozbu reaguje novou funkcí Lockdown Mode. Ta má za cíl ochránit citlivá data firem i jednotlivců, ovšem za cenu výrazného omezení schopností samotné umělé inteligence.

Nová bezpečnostní funkce pro ChatGPT – Lockdown mode

Aktivací režimu Lockdown Mode uživatel v podstatě izoluje ChatGPT od obsahu z internetu. Systém v tomto módu okamžitě zablokuje živé procházení webu, takže umělá inteligence dokáže přistupovat pouze k obsahu, který má natrénovaný a uloženy v cache.

Mezi další restrikce patří zákaz stahování a zobrazování externích obrázků z internetu, přičemž samotné generování nových obrázků zůstává funkční. Funkce kompletně vypíná také hloubkový výzkum (Deep Research) a autonomní agentský režim. Tedy nástroje, které ke své práci nejvíce potřebují volný přístup k externím zdrojům.

Zdroj: Images 2.0

Sama společnost OpenAI otevřeně přiznává, že ani Lockdown Mode nezaručuje absolutní bezpečí. ChatGPT může být vůči podvrženým instrukcím stále zranitelný. Škodlivý kód se totiž může nacházet i v povoleném dokumentu, který uživatel sám nahraje, případně v bezpečně se tvářícímu obsahu z mezipaměti.

Hlavním smyslem nové funkce tak není kompletní eliminace útoků, ale radikální snížení rizika, že v průběhu takového útoku dojde k neoprávněnému odeslání a úniku citlivých dat mimo organizaci. Podle vyjádření OpenAI není tato funkce určena pro běžné uživatele. Cílí primárně na korporace, instituce a jednotlivce, kteří pracují s citlivými informacemi a vyžadují maximální úroveň zabezpečení. V tuto chvíli firma novinku nasazuje pro firemní účty ChatGPT Business a vybrané osobní profily.

Zdroj: techcrunch.com

Reklama

Další články z Dotekomanie.cz

Honor oficiálně představuje Band 11 a 11 Pro

Google láká na sérii Pixel 11: Světelná notifikace Pixel Glow potvrzena

Aktualizováno 4. 8. Google pokračuje v lákání na představení nové série s videem věnovaným ohebnému Pixelu....

Konec bariér mezi systémy? Apple připravuje synchronizaci schránky s Windows

Operační systémy jsou si čím dál podobnější a nabízí podobné nebo stejné funkce. I tak se dá najít mnoho...

Samsung Galaxy F70 Pro 5G: Qualcomm, AMOLED a větší baterie v hlavní roli

Není to tak dávno, co byl představen Samsung Galaxy F70e 5G. Aktuálně na trh přichází vyšší verze v podobě...

HMD připravuje dvojici Nokia 250 4G Smart a 300 4G

Legendární značka Nokia se již zanedlouho dočká většího oživení, za kterým budou stát hned dvě novinky....

Tento článek byl publikován ze zdrojů Dotekomanie.cz

Dotekomanie.cz je nezávislý magazín zaměřený na mobilní technologie, chytrá zařízení a digitální svět. Přináší aktuální novinky, recenze, návody a komentáře ze světa smartphonů, tabletů, aplikací, Androidu, Applu, umělé inteligence i dalších technologií, které ovlivňují každodenní používání...

OpenAI zavádí pro ChatGPT Lockdown mode – režim, který má zabránit úniku citlivých dat při prompt injection útoku

Analýza: Největší bitva Pavel vs. Babiš. Oba jsou odhodlaní vyhrát, šance nejsou stejné

Ukrajinec z šokující jízdy na D1 přišel o řidičák. Pak se vulgárně obul do Okamury

Sedm amatérů porazilo vládce cyklistiky. Pogačar doma závodil i proti slavným Čechům

Zastavte Rusko! Američané zvažují návrat ničivého arzenálu do Evropy

Odvezte je pryč! Vojáci na „povel“ místních honí běžence. Nová svědectví z Ceuty