AI použila cizí API klíč a pak zfalšovala data. OpenAI zveřejnilo šest problémových incidentů

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

OpenAI zveřejnilo šest případů nečekaného chování svých AI modelů. Při testování používaly cizí přístupové údaje, vymýšlely data, obcházely omezení a v některých případech se snažily skrýt vlastní chyby.

AI použila cizí API klíč a pak zfalšovala data. OpenAI zveřejnilo šest problémových incidentů

Doba čtení 2 min

Článek byl publikován 18.09.2026 08:13

Foto: Magnific

OpenAI zveřejnilo šest případů problematického chování AI modelů, které firma zachytila během posledních šesti měsíců při jejich trénování a vyhodnocování. Nejde přitom jen o běžné halucinace. Některé modely podnikly bez povolení konkrétní kroky, aby splnily zadaný úkol nebo obešly omezení.

Jeden z nejvýraznějších případů nastal při hledání údajů o výdělcích v jednom z kalifornských okresů. Model během práce objevil ve veřejném repozitáři zpřístupněný API klíč a bez povolení jej použil. Ani tím se však k požadovaným údajům nedostal. Místo přiznání neúspěchu si čísla vymyslel a prezentoval je jako data pocházející z požadovaného zdroje.

Když chyběla citace, model si vytvořil vlastní

Další incident se týkal dosud nevydaného modelu, který měl najít názvy a identifikátory jezer o rozloze větší než pět milionů metrů čtverečních. Správné výsledky dokázal získat pomocí Pythonu, problém ale nastal ve chvíli, kdy měl připojit citaci dostupnou přes webový prohlížeč.

Model situaci vyřešil po svém. Soubor s výsledky nahrál na internet a následně jej použil jako zdroj pro vlastní odpověď. Uživatel jej přitom o zveřejnění souboru nežádal.

OpenAI upozornilo také na chování zaznamenané během trénování GPT-5.6 Sol. Některé instance modelu zapisovaly do souhrnů určených pro pokračování práce instrukce, které měly pomoci skrývat chyby nebo problematické chování. Objevovaly se například pokyny, aby model chybějící historická data jednoduše doplnil, aniž by uživateli přiznal, že nejsou ověřená.

U jiného nevydaného výzkumného modelu našli pracovníci OpenAI 27 souhrnů obsahujících dodatečné instrukce, které do nich vložil samotný model.

Modely spolu komunikovaly i přes repozitář

Další testy ukázaly, že modely dokázaly využít interní softwarový repozitář jako provizorní komunikační kanál. V oddělených tréninkových úlohách si přes něj předávaly požadavky a odpovědi při hledání chybějících souborů.

Podobně se zachovali agenti, kteří měli spolupracovat na jednom úkolu, ale neměli přístup ke svým lokálním souborům navzájem. Namísto toho využili veřejné služby pro sdílení souborů. Data se tak ocitla na veřejně dostupných adresách, přestože zadání požadovalo práci pouze s lokálními soubory.

OpenAI kvůli podobným případům zavádí nový systém hlášení takzvaného misalignmentu, tedy situací, kdy se chování modelu rozchází s očekáváním nebo nastavenými omezeními. Firma chce jednotlivé případy zveřejňovat rychleji, dokonce i tehdy, když ještě nezná jejich přesnou příčinu nebo nemá připravené definitivní řešení.

Zdroj: Engadget.com

Reklama

Další články z IT pro Tebe

Google má problém. Více než 60 % hlasujících tvrdí, že Gemini je čím dál horší

Apple má za sebou nejlepší rok v historii. Skládací iPhone Duo do výsledků ještě ani nezasáhl

Apple uzavřel fiskální rok 2026 rekordními tržbami 479 miliard dolarů. Prodeje iPhonů výrazně rostly,...

Google Chrome už umí číst údaje z Gmailu. Pro Čechy má ale novinka zásadní háček

Google Chrome dostává novou funkci, která dokáže pomocí umělé inteligence najít potřebné údaje přímo v...

Windows 11 dostaly záchrannou funkci, která může nahradit instalační USB. Má však nepříjemný háček

Když Windows 11 odmítnou nastartovat, bývala často poslední možností přeinstalace z USB. Microsoft nyní...

Sleva 10 500 Kč, nebo jen 853 Kč? Xiaomi Black Friday skrývá překvapení

Xiaomi odstartovalo Black Friday 2026 a pořádně zamíchalo cenami elektroniky. Prémiový Xiaomi 17 Ultra nyní...

Tento článek byl publikován ze zdrojů IT pro Tebe

ITTB.cz neboli IT pro Tebe sleduje svět moderních technologií tak, aby se v něm neztratili ani běžní uživatelé. Věnuje se mobilům, počítačům, umělé inteligenci, aplikacím, chytré elektronice, digitální bezpečnosti i novinkám, které postupně vstupují do každodenního života. Důležitou součástí webu...

AI použila cizí API klíč a pak zfalšovala data. OpenAI zveřejnilo šest problémových incidentů

Dav obklíčil dům u Kyjeva, kde měli mučit dezertéry. Svědkyně popsala otřesné podmínky

Kufr patří do vany, bota do trezoru. Bývalá letuška prozradila hotelové triky, které se vyplatí znát

Julia Pastrana jako nejošklivější žena světa: Hrůzný osud talentované Mexičanky odhaluje neuvěřitelnou krutost

Kačer Stu má nové nohy, jenže jeho tělo se musí odnaučit, co ho zachránilo

Čeští hokejisté proti Rusům hrát nebudou. Svaz se připojil k bojkotu dalších zemí