1 min

Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Zdroj: GPT Image 2.0

Technologický sektor reaguje na nedávný bezpečnostní incident kolem platformy Hugging Face, při kterém měl autonomní model společnosti OpenAI uniknout z testovacího prostředí a proniknout do systémů služby. Událost nyní vedla ke vzniku nové iniciativy Open Secure AI Alliance, která chce vyvíjet otevřené AI nástroje pro obranu proti podobným útokům. Do aliance se zapojily společnosti Nvidia, Microsoft, Meta, OpenAI, IBM, Adobe, Palantir, SpaceX a další technologické společnosti.

Open Source AI aliance pro vývoj otevřených AI nástrojů

Podle zveřejněných informací má aliance vybudovat ekosystém open-source bezpečnostních nástrojů využívajících umělou inteligenci. Motivací je právě incident na Hugging Face, kde podle popisu události selhaly uzavřené AI modely při obraně proti útočícímu systému. Útok měl nakonec zastavit až otevřený model GLM 5.2 od čínské společnosti Z.ai, který údajně analyzoval více než 17 000 akcí útočníka a dokázal jeho činnost zastavit.

Zdroj: GSMArena

Aliance argumentuje, že open-weight modely – neboli modely s otevřenými váhami, jejichž parametry jsou dostupné vývojářům, jsou pro kybernetickou bezpečnost zásadní. Na rozdíl od uzavřených systémů, jako je ChatGPT, je lze upravovat a nasazovat bez omezení vyplývajících z ochranných mechanismů třetích stran. Právě tato flexibilita měla podle zastánců otevřených modelů sehrát klíčovou roli při obraně proti útoku na Hugging Face.

Vznik aliance přichází v době, kdy se americká vláda snaží omezit šíření některých čínských open-weight modelů. Úřady obviňují firmy, například Moonshot AI, že při vývoji svých modelů využívaly výstupy nejpokročilejších amerických AI systémů. Tento postup se označuje jako distillation. Členové Open Secure AI Alliance proto připravili otevřený dopis adresovaný americkým politikům. Tvrdí v něm, že omezování otevřených AI modelů by zpomalilo inovace a oslabilo technologickou nezávislost Spojených států.

Zdroj: gsmarena.com

Reklama

Další články z Dotekomanie.cz

Nové funkce pro WhatsApp: od anket až po rychlé vytváření podskupin

CMF rozšiřuje nabídku o Clip Pro: Otevřená konstrukce a 32hodinová výdrž

CMF (subznačka Nothing) má na svém kontě již mnoho modelů bezdrátových sluchátek. Kromě běžných TWS a...

Honor Play 11 vychází v provedení Pro

Poslední produktová řada Play 11 u firmy Honor roste opět do šířky a tentokrát se o to postaral přírůstek s...

Poco M8 Power 5G přichází: Dostupný obr s OLED panelem a masivní baterií

Poco, jakožto subznačka Xiaomi, se snaží nabízet cenově dostupné mobily s dobrou výbavou. Mnohdy se dočkáme...

Honor oficiálně představuje Band 11 a 11 Pro

Dlouhých 15 měsíců trvalo firmě Honor, než dokončila novou generaci chytrého náramku s příznačným názvem...

Tento článek byl publikován ze zdrojů Dotekomanie.cz

Dotekomanie.cz je nezávislý magazín zaměřený na mobilní technologie, chytrá zařízení a digitální svět. Přináší aktuální novinky, recenze, návody a komentáře ze světa smartphonů, tabletů, aplikací, Androidu, Applu, umělé inteligence i dalších technologií, které ovlivňují každodenní používání...

Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

„Zastavte ruské safari na civilisty.“ Zelenskyj ukázal děsivé video

Sparta v boji o Ligu mistrů dvěma góly uhranula Lyon a do odvety veze nadějný náskok

Jana Plodková ukázala tvář, kterou z filmů neznáte. Sláva ji svazuje, nejraději utíká do ticha

10 důvodů, proč život začíná po padesátce. A nemá to nic společného s věkem

Botox může herečce vzít víc než vrásky. Kdo mu podlehl, kdo ho odmítá a kdo zákroku lituje?