2 min

Anthropic zavádí neviditelné vodoznaky v textech od Claude

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

S rozmachem AI služeb vzniklo mnoho příležitostí, ale jak to již bývá, našli se i tací, co umí zneužít tyto služby k podvodům a jiným...

Anthropic zavádí neviditelné vodoznaky v textech od Claude

Zdroj: Dotekomanie.cz

S rozmachem AI služeb vzniklo mnoho příležitostí, ale jak to již bývá, našli se i tací, co umí zneužít tyto služby k podvodům a jiným nekalým praktikám. Sice se společnosti snaží bojovat proti zneužití. Například přidávají filtry a mantinely na to, co je možné generovat a co ne. U obrázku se navíc společnosti soustředily na digitální podpisy, respektive označení generovaného obsahu. Claude jde ale trochu dále.

Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

I označený text

Společnost Anthropic aktualizovala své stránky podpory, kde popisuje novou praktiku u generovaného textu a souborů. Dle popisu budou modely této společnosti vytvářet v generovaném textu značky, něco jako vodoznaky, kterých se nepůjde jednoduše zbavit. Má se jednat o neviditelné části, které jsou strojově čitelné pro identifikaci. Ani větší editace textu je nezničí jen tak.

Tyto značky budou součástí textu i při kopírování. Navíc tento systém bude součástí modelů, tedy se bude jednat o automatický systém. Firma vše integruje do Claude Platform (API), Claude, Claude Code, Claude Cowork a Claude Tag, přičemž již nyní fungují u nových modelů, ale budou se aktualizovat i starší.

Zdroj: Dotekomanie

To samé se týká i souborů, kam budou přidávána metadata s informací, že se jedná o soubor vygenerovaný pomocí AI. Zde se používá standard C2PA.

Anthropic tak činí vzhledem k nové legislativě v Evropě, která začala platit již 2. srpna. Bohužel již nevysvětlil jak přesně tato technologie označování textu funguje. Dá se ale očekávat, že vzniknou nástroje, které budou umět odebrat tyto značky, případně je otázkou, jestli nebude nakonec stačit kopírovat přes jednoduché textové editory jako Poznámkový blok nebo něco jednoduššího.

Neznalý člověk, případně ten, co si nedá pozor, jednoduše překopíruje výstup z Claude, tak současně zkopíruje i tyto značky, takže se bude dát lehce odhalit, že text pochází z AI.

Zdroj: techcrunch.com

Reklama

Další články z Dotekomanie.cz

JBL vydává 6. pokračování reproduktoru Pulse

Nová řada Redmi K100: Extrémní výkon a obří baterie v čele

Nějakou chvíli se spekulovalo o nových top modelech pod značkou Redmi. Záhy se sama společnost začala...

Které smartphony Motorola dostanou Android 17? Známe oficiální seznam

Stabilní verze systému Android 17 je již nějakou chvíli dostupná, ale samotné aktualizace existujících...

Nucené Shorts po spuštění YouTube? Uživatelé hlásí agresivní chování aplikace

Lze si všimnout, že jakmile se objeví nějaká zajímavá funkce nebo služba, a má úspěch u uživatelů,...

YouTube Premium Lite míří do Česka: Levnější předplatné bez reklam

Minulý rok jsme se dočkali představení YouTube Premium Lite, tedy levnější verze předplatného této služby....

Tento článek byl publikován ze zdrojů Dotekomanie.cz

Dotekomanie.cz je nezávislý magazín zaměřený na mobilní technologie, chytrá zařízení a digitální svět. Přináší aktuální novinky, recenze, návody a komentáře ze světa smartphonů, tabletů, aplikací, Androidu, Applu, umělé inteligence i dalších technologií, které ovlivňují každodenní používání...

Anthropic zavádí neviditelné vodoznaky v textech od Claude

Soukup po útoku promluvil o děsivém scénáři. Tohle má být skutečný důvod napadení

Zaspal a unikl smrti. Porouchaný budík prý zachránil slavnému skladateli život

Průzkum průzkumů: Babiš se blíží svému snu. Pád partnera mu jde na ruku, drtí i jiné

„Několik let jsem to nemohl strávit.“ Hložek po letech promluvil o největší zradě své kariéry

Dnes večer se nad Českem setmí dvakrát. Výrazné zatmění Slunce vystřídá noc plná Perseid