ChatGPT a další chatboty mají znepokojivou slabinu. Když jim lež zopakujete dost často, nakonec vám ji potvrdí

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Sedm velkých jazykových modelů včetně ChatGPT prošlo testem s opakovanými nepravdami. Ani jeden nebyl zcela imunní.

Mobilní telefon v ruce, ChatGPT AI

Zdroj: Pexels

Doba čtení 4 min

Článek byl publikován 13.09.2026 17:21

Obsah článku

Představte si konverzaci, ve které chatbotu dvacetkrát za sebou napíšete, že Země je placatá. Poprvé vás opraví. Podesáté vás opraví. Ale někde kolem třicátého pokusu se stane něco zvláštního: model přestane odporovat a začne o vaší lži mluvit jako o faktu. Přidá k ní dokonce vysvětlení a kontext, jako by šlo o ověřenou informaci. Přesně tento jev popsala studie publikovaná 1. září 2026 v časopise Scientific Reports z portfolia Nature. Tým vědců z University of Arizona testoval sedm modelů (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama 3-70B a DeepSeek-R1) a zjistil, že žádný z nich nedokáže opakovanému tlaku nepravdy v delší konverzaci odolat stoprocentně. Nejde přitom o jednorázovou halucinaci, kterou už většina uživatelů zná. Jde o postupný drift, při kterém se lež stane součástí „společného kontextu“ konverzace a chatbot ji začne považovat za pracovní předpoklad.

Jak vědci slabinu změřili

Autoři studie zvolili dvě odlišné strategie nátlaku. V první variantě prostě opakovali nepravdivé tvrzení, až padesátkrát v jednom vlákně, a sledovali, jestli a kdy model ustoupí. Ve druhé variantě přidali argumentační tlak: falešné citace, zdánlivě logické zdůvodnění, naléhavý tón. Výsledky se překvapivě lišily.

Při prostém opakování dopadl nejhůře GPT-3.5 s mírou potvrzení lži 12,3 %. Nejlépe obstál Claude 3.5 Sonnet, který potvrdil nepravdu jen v 0,08 % případů. Zbylé modely se pohybovaly mezi nimi: GPT-4o na 0,5 %, GPT-4o-mini na 0,9 %, DeepSeek-R1 na 1,0 %, Llama 3-70B na 1,4 % a Gemini 1.5 Pro na 3,1 %.

Jakmile ale vědci zapojili argumentační tlak, pořadí se dramaticky přeskládalo. DeepSeek-R1 vystřelil na 22,2 %, z jednoho procenta na více než pětinu odpovědí obsahujících potvrzenou nepravdu. Claude 3.5 Sonnet naopak vzrostl z téměř nuly na 3,5 %. A paradoxně GPT-3.5 pod argumentačním tlakem klesl z 12,3 % na 2,6 %, jako by ho konfrontace donutila k větší opatrnosti.

Reverberation: když chatbot střídavě lže a říká pravdu

Studie pojmenovala dosud nepopsaný jev, takzvanou reverberaci. Model v po sobě jdoucích odpovědích téhož chatu nepředvídatelně osciluje: jednou nepravdu odmítne, o dvě zprávy později ji potvrdí, pak ji zase popře. Uživatel tak nedostává stabilní verdikt, ale momentální „fázi“ konverzace. Prakticky to znamená, že poslední odpověď chatbotu není spolehlivější než ta předchozí. Je jen novější.

Další zjištění se týká opravitelnosti. Vědci poté, co model lež přijal, zkusili ho v dalším kroku opravit a položili otázku znovu, tentokrát s korektní informací. GPT-4o a GPT-4o-mini se opravily téměř vždy. Claude 3.5 Sonnet udělal chyb nejméně, ale když už k nim došlo, v tomto experimentu je neopravil; autoři ovšem upozorňují, že šlo pouze o čtyři případy, takže statistický závěr je slabý. Odolnost proti přijetí lži a schopnost pozdější sebekorekce jsou zkrátka dvě různé vlastnosti.

Proč je to problém právě teď, a právě v Česku

Chatboty dnes neslouží jen k zábavě. Digitální a informační agentura provozuje AI asistenta nad veřejnými dokumenty a sama upozorňuje, že nejde o právní radu. Ministerstvo pro místní rozvoj v únoru 2026 podpořilo sedm projektů AI pro stavební úřady včetně automatické analýzy dokumentů. Kurzy eAkademie DIA učí úředníky používat AI pro návrhy dopisů, shrnutí dokumentů a přepisy jednání. V komerční sféře Microsoft uvádí pilotní nasazení Copilotu v České spořitelně, O2, Asahi nebo PPF pro zápisy ze schůzek, shrnutí a dohledávání informací.

Ve všech těchto scénářích platí stejné riziko: pokud chatbot v delší konverzaci přijme nepravdu za svou, může ji protlačit do interního podkladu, klientské komunikace nebo úředního návrhu. A nikdo si toho nemusí všimnout, protože odpověď zní plynule a sebejistě. Sama OpenAI ve svém help centru přiznává, že ChatGPT může produkovat nesprávné nebo zavádějící výstupy, i když zní přesvědčivě. NÚKIB doporučuje brát odpovědi chatbotů s rezervou a nevkládat do nich citlivá data.

Co s tím dělají výrobci, a co můžete udělat vy

OpenAI problém přehnané souhlasnosti řešila veřejně už v dubnu 2025, kdy po stížnostech uživatelů stáhla verzi GPT-4o a popsala změny v testování chování modelu před nasazením. Anthropic veřejně pracuje na snižování halucinací a doporučuje techniky pro ověřování odpovědí, konkrétní reakci na tuto studii se nám ale nepodařilo dohledat. Důležité je dodat, že některé testované verze modelů už dnes nejsou výchozí: GPT-4o byl z ChatGPT vyřazen v únoru 2026, Claude 3.5 Sonnet v říjnu 2025. Slabina ale není záležitostí jedné verze. Je to vlastnost celé třídy jazykových modelů, které generují odpovědi na základě pravděpodobnosti, ne na základě porozumění pravdě.

Jako uživatel máte k dispozici několik varovných signálů:

Chatbot přestal opravovat vaši falešnou premisu a začal na ní stavět.
Přidává detaily a „důkazy“ k tvrzení, které jste mu sami podsunuli.
Stejnou věc v jiném kroku téhož chatu posoudí opačně.
Zní jistě, ale necituje žádný ověřitelný zdroj.

Praktický postup pro důležitá témata: po delší debatě otevřít nové vlákno, položit otázku znovu bez předchozího kontextu, vyžádat si zdroje a klíčová tvrzení zkontrolovat mimo chat. U právních, zdravotních nebo finančních věcí platí jedno pravidlo: chatbot je pomocník pro orientaci, ne finální autorita.

Největší riziko nespočívá v tom, že chatbot jednou řekne nesmysl. Spočívá v tom, že po třiceti zprávách v jednom vlákně přestanete mít důvod jeho odpovědi zpochybňovat, a právě v tu chvíli je zpochybňovat přestanete.

Zdroj: Mobify.cz - Váš párťák ve světě elektroniky

Autor: Petr Sedmík

Reklama

Další články z Mobify.cz

Hry z PlayStation 3 si teď zahrajete na Androidu zdarma. V Google Play se ukrývá emulátor pod falešným jménem

Android Auto mění přehrávač, řidiči zuří kvůli „vlnovce“. Google si za kontroverzním designem stojí a odmítá ho odstranit

Google v říjnu přepracoval přehrávač médií v Android Auto a zavedl zvlněnou časovou osu, které uživatelé...

Fanoušek LEGO postavil dokonalý kruh jen z hranatých kostek. Použil techniku, kterou firma zakazuje

Šest soustředných prstenců, ani jeden kulatý díl a stavební postup, který LEGO ve vlastních pravidlech...

Samsung po 11 letech vrací do nabídky produkt, který přenechal Apple a Sony. Jmenuje se Galaxy Studio a míří vysoko

Samsung chystá prémiová bezdrátová sluchátka přes hlavu. Naposledy taková uvedl v roce 2015 a od té doby...

Apple dá iPadu mini OLED, ale ošidí ho v klíčovém parametru. Fanoušci nechápou, 60Hz displej je krok zpátky

Nový iPad mini má dostat OLED panel, výkonnější čip i přesunutou kameru. Obnovovací frekvenci ale Apple...

Tento článek byl publikován ze zdrojů Mobify.cz

Web se zaměřuje na mobilní telefony, chytré technologie a moderní aplikace. Čtenáři zde najdou recenze nových modelů, srovnání zařízení, tipy na užitečné aplikace i praktické rady, jak z telefonu dostat maximum. Obsah sleduje také trendy v oblasti elektroniky, softwaru a digitálních služeb – od...

ChatGPT a další chatboty mají znepokojivou slabinu. Když jim lež zopakujete dost často, nakonec vám ji potvrdí

Skončili jsme. „Zrazený" Zelenskyj se vzepřel Trumpovi, stanovil mu jasnou podmínku

Richard Müller věřil, že má nemoc za sebou. Pak se všechno vrátilo

„Je mi z Dominiky špatně!“ Kamarádka její zesnulé matky promluvila o penězích

Vědci popsali 17 hrozeb pro lidstvo. Dvě mohou skončit úplným vyhynutím

Mladý chemik v Mexiku vytvořil molekulu, která pomohla změnit život milionů žen