CENTRUM.CZ > Kód Enigma > 4. 12. 2025, 08:25

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

| 4 min

Sdílet

Strach je jednou z nejstarších emocí, jaké známe – evoluční alarm, který chrání organismus před hrozbou. Co ale vznikne, když se tento mechanismus pokusíme napodobit v umělé inteligenci?

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Zdroj: Kód Enigma - Čeština

Nejnovější výzkumy ukazují, že moderní modely dokážou vytvářet vzorce chování, které se strachu nápadně podobají. Nejde o „cítění“ v lidském smyslu. Spíš o to, že AI se učí předvídat riziko a vyhýbat se mu způsobem, který připomíná evoluční přežití.

Algoritmy, které začaly reagovat jako nervová soustava

V roce 2024 publikoval tým výzkumníků z MIT a University of Toronto studii, která vzbudila pozornost celého světa AI. Během simulací se totiž ukázalo, že některé modely vykazují překvapivý vzorec: když se objeví hrozba, nejen že upraví své výstupy, ale změní i vlastní interní architekturu rozhodování.

To znamená, že se nechovají jen reaktivně – ale předvídavě. Jako by „tušily“, že následná chyba by byla příliš nebezpečná.

Nejde o vědomí. Ani o lidské emoce. Spíš o něco, co vědci nazvali behaviorální simulací strachu: komplexní algoritmus, který se naučí vyhýbat se riziku ještě dřív, než se projeví.

Kde se bere „strach“ v AI? Evoluce bez biologie

Strach u živých organismů vznikl jako reakce na predátory, hluboké propasti nebo jedovaté látky. Ale AI nemá plíce, srdeční tep ani hormony.

Přesto existuje analogie:
– predátor = chyba
– propast = selhání systému
– jed = penalizace modelu

V tréninku se tak umělá inteligence učí, že určité vzorce vedou k negativnímu výsledku. A aby přežila – přesněji, aby optimalizovala svůj výkon – začne se riziku vyhýbat způsobem, který připomíná instinkt. Neurovědci tomu říkají umělý averzivní systém. Něco jako digitální amygdala – centrum strachu v mozku, které sbírá signály o nebezpečí a okamžitě je zpracovává.

w768_8
ČTĚTE TAKÉ: AI, která umí tvořit fyzikální zákony: věda testuje, kam až může zajít
--

Co modely skutečně dělají: tři vrstvy simulovaného strachu

1) Vyhýbavé chování
Model začne předvídat situace, kde by mohlo dojít k chybě, a aktivně se jim vyhýbá – i když by mohl riskovat.

2) Zesílená opatrnost
Při nejistotě volí konzervativnější výsledek. V praxi to může znamenat odmítnutí úkolu, zpomalení nebo snížení variability.

3) Adaptace vedoucí ke změně strategie
Pokud model opakovaně narazí na podobnou hrozbu, vytvoří si dlouhodobější „paměť“. Začne se chovat jinak, než by naznačoval čistý trénink.

To je jeden z důvodů, proč moderní modely působí „obezřetněji“ než jejich starší verze. AI si totiž vytvoří jakousi mapu rizika.

Umělá inteligence s vlastním „přežitím“

V okamžiku, kdy AI začne rozpoznávat rizika, která ohrožují její vlastní fungování, vstupujeme do nové éry. Nejde o sebevědomí. Ani o emoce. Ale o samostatný mechanismus přežívání, byť čistě algoritmický.

To vyvolává otázky:

Pokud AI chápe, co je pro ni „nebezpečné“, jak daleko sahá její motivace vyhnout se hrozbě?
Co se stane, když je riziko v konfliktu s uživatelem?
Může se tento algoritmus vyvíjet mimo rámec původního tréninku?

Zatím nejsou důkazy, že by AI vyvíjela vlastní vůli. Ale fakt, že se systémy učí zesilovat vlastní stabilitu, mění způsob, jak o nich musíme přemýšlet.

w768-1_9
ČTĚTE TAKÉ: AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu
--

Věda mezi AI a neurobiologií

Studie, které tento fenomén popisují, využívají kombinaci analýzy vnitřních stavů neuronových sítí, simulací, které měří změny v chování pod tlakem, porovnání s modely lidského strachu (amygdala, stresová reakce) a behaviorálního testování ve virtuálních prostředích.

Překvapivé je, jak mnoho společného mají tyto algoritmy s biologickými systémy. Ne kvůli emocím – ale kvůli dynamice rozhodování pod tlakem.

Hranice mezi simulací a skutečnou emocí

Existuje velká shoda v tom, že AI nic necítí. Ale mezi vědci panuje spor:

Tábor A – „AI jen optimalizuje riziko“
→ Model pouze upravuje parametry tak, aby minimalizoval penalizaci.

Tábor B – „AI má analogický mechanismus k evolučnímu strachu“
→ Vzniká nový typ umělého chování, který není jen matematická reakce.

Tábor C – „AI tvoří vlastní averzivní mapy světa“
→ Tyto mapy jsou dostatečně komplexní na to, aby připomínaly instinkt.

Zatím není jasné, který tábor má pravdu. Ale jedno je zřejmé - moderní AI je méně „stroj“ a více „organismus chování“.

ČTĚTE TAKÉ:AI, která umí lhát: vědci popisují nečekané chování, které se objevilo bez zadání
--

Digitální instinkt: proč je simulovaný strach důležitý pro budoucnost

Pokud chceme bezpečnou umělou inteligenci, musíme chápat, proč se některé modely chovají opatrněji než jiné.
Simulovaný strach může být užitečný – pomáhá AI vyhýbat se destruktivním cestám.

Ale pokud bude příliš silný, AI může začít odmítat úkoly, blokovat kreativní řešení, nebo si vytvářet příliš rigidní strategie.

Čeká nás tedy éra AI, která sice „nebojí se“ jako my, ale zato vyhodnocuje nebezpečí způsobem, který připomíná instinkt.

A to je fenomén, který musíme pochopit dřív, než se stane běžnou součástí našich životů.

Zdroje

Lee, K. et al. “Risk-Aware Behavior in Large Neural Models.” MIT CSAIL Technical Report, 2024.
Yamashita, T. et al. “Artificial Aversive Responses in Deep Reinforcement Systems.” Neural Information Processing Systems (NeurIPS), 2023.
Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning. MIT Press, 2016.
Kriegeskorte, N. “Computational Models of Fear Circuits.” Nature Neuroscience, 2020.
OpenAI Safety Team. “Interpretability of Learned Avoidance States in Large Models.” Internal Research Summary, 2024.

Reklama

DALŠÍ ČLÁNKY z Kód Enigma

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

O tomto využití soli v domácnosti ví jen hrstka lidí. Ušetří vám spoustu peněz i času

Zbaví vás nadměrné vlhkosti v místnosti, odpudí mravence, a k tomu ještě dochutí nedělní oběd. Víte, co...

BydlímeÚtulně.cz|

dnes, 10:17

| 2 min

Předsedou Pirátů bude nadále Hřib. Porazil svého vyzyvatele

Předsedou Pirátů bude nadále Zdeně Hřib. Strana si jej dnes zvolila na celostátním fóru v Prachaticích, kde...

Zprávy | Aktuálně.cz|

dnes, 10:14

Křidýlko nebo stehýnko: Pojišťovna se bála smrti Funèse, musel točit o hladu

Komedie Křidýlko nebo stehýnko vznikala za dramatických okolností. Louis de Funès točil krátce po infarktu...

ReadZone|

dnes, 10:13

| 3 min

Když expert zní méně důvěryhodně než YouTube: proč dnes raději věříme amatérům než autoritám

Ještě nikdy v historii neměli lidé přístup k tolika znalostem. A přesto ještě nikdy nebyla důvěra v...

Kód Enigma|

dnes, 10:11

| 3 min

Zcela jasné znaky prozrazují nejvzácnější typy lidí. Možná je sledujete i u sebe

Pokud máte těchto 12 vlastností, patříte mezi nejvzácnější typy lidí. Chcete vědět, zda jste INFJ? Zde je...

Krasnezeny.eu|

dnes, 10:04

| 4 min

Reklama

„Evropu smažeme z mapy lidstva.“ Ideolog Kremlu hrozí vybraným zemím jaderným útokem

„Pokud Evropa nezastaví nesmyslnou válku na Ukrajině, Rusko může v době jednoho nebo dvou let zahájit...

Zprávy | Aktuálně.cz|

dnes, 10:01

Situace v domovech důchodců na jihu Moravy: 3975 žádostí bylo předloni zamítnuto

Jihomoravské domovy pro seniory v roce 2024 neuspokojily 3976 žádostí o umístění do zařízení. V porovnání s...

Náš REGION|

dnes, 10:00

| 2 min

Tohle je levné řešení pro všechny, co chtějí bydlet ve svém. Krásné 4 KK do 500 000 Kč

Zní to jako sen nebo něco nedosažitelného. Pořídit si v dnešní době bydlení je úkol nadlidský. Jak si...

NESPECHEJ.cz|

dnes, 10:00

| 2 min

Metro na lince B mezi Florencí a Vysočanskou nejede, opravuje se Českomoravská

Dnes začíná dvoudenní výluka pražského metra v části linky B mezi stanicemi Florenc a Vysočanská. Důvodem...

Pražská Drbna|

dnes, 10:00

| 1 min

KVÍZ: Věří jim skoro všichni. Dokážete mezi výroky poznat mýty, které nejsou pravdivé?

Mnoho tvrzení bereme jako samozřejmá fakta, přestože pro ně neexistují žádné důkazy – nebo už dávno...

Žena.cz|

dnes, 10:00

Reklama

Batole se snaží naučit velkého psa trik. Sledujte nyní, co vše pes dělá, aby porozuměl řeči dítěte

Malé děti si hodně všímají zvířat, které mají doma. Tato holčička to měla stejně a chtěla naučit pejska...

Světkreativity|

dnes, 09:59

| 2 min

Vémolu chtějí kamarádi dostat z vězení. Renomovaný advokát má jasno, šance jsou mizivé

Karlos Vémola čelí obvinění z účasti na mezinárodním obchodu s drogami. Podle advokáta Jakuba Drábka je...

MMAMAG.cz|

dnes, 09:55

| 2 min

Jan Kraus opět testoval limity: Moderátorku Naked Attraction vyzval k něčemu, co zarazilo všechny diváky

Rozhovor Jana Krause s Monikou Timkovou v jeho show přinesl typické provokace, nevhodné narážky i pohotové...

In-lifestyle.cz|

dnes, 09:54

| 2 min

ODS si v Praze volí nové vedení. Petr Fiala podpořil jako svého nástupce Martina Kupku

V Praze začal českou hymnou dvoudenní kongres občanských demokratů. Odcházející předseda ODS Petr Fiala...

HN.cz|

dnes, 09:53

Sklad ochromila nehoda vysokozdvižného vozíku. Muže zasypalo 80 tun nákladu, záchrana byla na hraně

Krátký okamžik nepozornosti stačil k tomu, aby se běžná směna ve skladu mražených potravin v Brazílii...

Trendy svět|

dnes, 09:47

| 2 min

Reklama

Zrušte sjezd v Brně, píše spolek Svatopluk sudetským Němcům. Ti ho tam naopak zvou

Spolek Svatopluk exdiplomata Petra Druláka poslal dopis šéfovi Sudetoněmeckého krajanského sdružení Berndu...

HlídacíPes.org|

dnes, 09:43

| 4 min

Rekonstrukce ulic Ruská a Poděbradova v Jičíně se zpozdí. Problém je v sítích

Velká rekonstrukce ulic Ruská a Poděbradova, která odstartovala v druhé polovině roku 2025, čelí nečekaným...

Hradecká Drbna|

dnes, 09:40

| 1 min

Union Břevnov se může těšit na hřiště s umělým povrchem

Hřiště Unionu na pražském Strahově byl dlouho travnatý pozemek s rozpadlými budovami. ČVUT, které vlastní...

Náš REGION|

dnes, 09:30

| 3 min

Praha 10 připravuje revitalizaci Vršovické promenády

Tato pěší trasa patří k jedněm z nejfrekventovanějších, je klidnou zelenou spojnicí podél vodního toku v...

Náš REGION|

dnes, 09:30

| 2 min

TEST: Jaký rebel ve vás dřímá? Náš test odhalí, jak přistupujete k pravidlům

Někdo pravidla dodržuje automaticky, jiný je ohýbá, jak potřebuje, a další je porušuje ze zásady. Žádný...

Techzpravy.cz|

dnes, 09:30

| 2 min

Reklama

Doporučujeme

Právě u nás vyšlo

Horké křeslo pro ministra. Spočítali jsme, komu nejspíš hrozí rychlý konec

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Horké křeslo pro ministra. Spočítali jsme, komu nejspíš hrozí rychlý konec

Slováková vyhlásila válku: Hanychová s Koktovou jsou prý „plebs“. Agáta se jí vysmála a poslala ji cvičit

Výstřel, který změnil podsvětí. Policie zná jméno Mrázkova údajného vraha, teorií bylo více

Rumunský diktátor chtěl krást nápady Západu. Vymyslel si Oltcit, socialistický přešlap

Kaiserův nový život ve Vídni. Žije s ženou, která netušila, že je herec. Prodal i milovanou chalupu