CENTRUM.CZ > Techzpravy.cz > dnes, 10:35

Videa s historickými postavami budí kontroverze. OpenAI reaguje zákazem a novými pravidly

| 4 min

Sdílet

OpenAI dočasně zakázala generování videí s vyobrazením Martina Luthera Kinga Jr. ve své nové platformě Sora poté, co rodina slavného aktivisty upozornila na urážlivé a znevažující rekonstrukce. Tento krok otevírá širší debatu o etice, památce veřejných osobností a odpovědnosti tvůrců umělé inteligence.

Videa s historickými postavami budí kontroverze. OpenAI reaguje zákazem a novými pravidly

Zdroj: Tada Images / Shutterstock

Společnost OpenAI oznámila, že dočasně pozastavila možnost vytvářet videa s vyobrazením vůdce hnutí za občanská práva Martina Luthera Kinga Jr. pomocí svého modelu umělé inteligence Sora poté, co někteří uživatelé zveřejnili rekonstrukce považované za urážlivé. Společnost se tak rozhodla na základě přímé žádosti rodiny tohoto aktivisty, která vyjádřila nespokojenost s neoprávněným a ponižujícím použitím jeho podobizny. V prohlášení zveřejněném na X společnost OpenAI vysvětlila:

„I když uznáváme legitimní zájem na svobodě projevu při zobrazování historických osobností, věříme, že veřejné osobnosti a jejich rodiny by měly mít konečnou kontrolu nad tím, jak je jejich obraz používán.“

Společnost dodala, že dědicové nebo zplnomocnění zástupci budou moci požádat, aby jejich podobizna nebyla použita v takzvaných „cameích“ Sory, což je funkce, která umožňuje vkládat podobu skutečných osob do videí generovaných umělou inteligencí.

Mohlo by vás zajímat: Hollywood zuří, Altman mlčí. Co vlastně dovolila Sora 2?

Statement from OpenAI and King Estate, Inc.

The Estate of Martin Luther King, Jr., Inc. (King, Inc.) and OpenAI have worked together to address how Dr. Martin Luther King Jr.’s likeness is represented in Sora generations. Some users generated disrespectful depictions of Dr.…
— OpenAI Newsroom (@OpenAINewsroom) October 17, 2025

Tento krok přichází jen několik týdnů po oficiálním spuštění Sory, první sociální videoplatformy OpenAI, která uživatelům umožňuje vytvářet hyperrealistické klipy historických osobností, celebrit nebo dokonce digitální verze sebe sama. Její debut vyvolal vlnu kritiky a znepokojení veřejnosti nad tím, jak snadno lze vyrobit falešné nebo zmanipulované snímky.

Napětí mezi tvůrčí svobodou a respektem k historické paměti

Kontroverze zesílila, když dcera Martina Luthera Kinga mladšího, Bernice Kingová, zveřejnila na Instagramu zprávu, v níž uživatele žádá, aby jí přestali posílat videa, na nichž je její otec ztvárněn umělou inteligencí. „Je to zraňující a neuctivé,“ napsala. Její vzkaz následoval vzkaz Zeldy Williams, dcery zesnulého herce Robina Williamse, která stejnou žádost vyslovila o několik dní dříve.

Reakce obou nebyla náhodná. Podle deníku The Washington Post několik uživatelů Sory vytvořilo videa, v nichž digitální verze doktora Kinga vydává opičí zvuky nebo zápasí s Malcolmem X, další ikonickou postavou hnutí za občanská práva. V aplikaci kolovaly také pochybné rekonstrukce Boba Rosse, Whitney Houston a Johna F. Kennedy, což poukazuje na nedostatek vhodných filtrů a kontrolních mechanismů.

Tato situace znovu přivedla na pořad jednání debatu o etickém využívání umělé inteligence v audiovizuálním obsahu. Kromě skutečných lidí byla aplikace Sora kritizována také za to, že umožňuje nahrávat videa zobrazující díla chráněná autorským právem, jako jsou například South Park, Pokémoni nebo SpongeBob SquarePants. Tyto rekonstrukce vyvolaly obavy u držitelů práv v Hollywoodu, kteří se od spuštění nástroje obávají.

V reakci na to společnost OpenAI na začátku října oznámila, že umožní vlastníkům autorských práv vykonávat podrobnější kontrolu nad používáním jejich postav nebo ochranných známek v rámci nástroje Sora. Společnost také uvedla, že se bude dělit o část příjmů s držiteli licencovaného obsahu ve snaze vyhnout se budoucím soudním sporům.

Politika společnosti Sora je v kontrastu s liberálnějším přístupem společnosti OpenAI na ChatGPT, kde bylo nedávno potvrzeno, že dospělí budou moci v příštích měsících vést s chatbotem erotické rozhovory. Zatímco Sora zpřísňuje své filtry, konverzační asistent rozšiřuje své pole působnosti pro interakci, což odráží fázi interního experimentování, jak vyvážit kreativitu, bezpečnost a odpovědnost.

V rámci OpenAI někteří výzkumníci veřejně vyjádřili nespokojenost se spuštěním Sory a zpochybnili, zda odpovídá původnímu poslání společnosti, která vznikla jako nezisková organizace zaměřená na vývoj bezpečné umělé inteligence pro lidstvo. Sám Sam Altman, generální ředitel společnosti, přiznal, že tým v den spuštění pociťoval „trému“, protože si byl vědom potenciálního společenského dopadu produktu.

Nick Turley, produktový manažer ChatGPT, zase hájil filozofii, která stála za tímto rozhodnutím: „Nejlepší způsob, jak ukázat světu novou technologii, je vypustit ji do světa.“ Podle Turleyho se společnost OpenAI naučila tuto lekci s ChatGPT a nyní se ji snaží aplikovat na Soru, i když připustil, že tento proces zahrnuje pokusy, omyly a neustálé opravy.

Výzva regulace ve věku umělé inteligence

Pozastavení rekonstrukcí Martina Luthera Kinga Jr. znamená pro novou aplikaci Sora symbolický zlom. To, co začalo jako nástroj pro tvůrčí vyjádření, nakonec odhalilo etické a právní limity reprezentace památky historických osobností prostřednictvím algoritmů. Zdá se, že ve snaze o vyvážení inovací a respektu si společnost uvědomila, že pokud jde o generativní umělou inteligenci, ne vše, co je technicky možné, je morálně přijatelné.

Případ společnosti Sora a Martina Luthera Kinga Jr. poukazuje na naléhavou potřebu jasnější a přísnější regulace v oblasti umělé inteligence. Schopnost vytvářet hyperrealistický obsah představuje značná rizika, od dezinformací až po poškození pověsti veřejných osobností. Odborníci na technologickou etiku tvrdí, že společnosti by měly stanovit jasné a transparentní pokyny pro používání svých nástrojů a vlády by měly zasáhnout a vytvořit právní rámce, které by chránily jednotlivce i celou společnost.

Využití umělé inteligence k obnově obrazů a hlasů zesnulých osob navíc vyvolává otázky týkající se posmrtného souhlasu a respektu k památce zesnulých. Rodina Martina Luthera Kinga Jr. se jasně vyjádřila, že chce chránit aktivistův odkaz, a její intervence byla pro přehodnocení zásad společnosti OpenAI klíčová.

Videa s historickými postavami budí kontroverze. OpenAI reaguje zákazem a novými pravidly

„Když jsem zjistila, že brácha umře, zhroutil se mi svět.“ Báru nemoc bratra změnila

Polibek smrti. V tornádu Turkových kauz zapadl asi nejdůležitější "Babišův" vzkaz

„Čekala jsem víc,“ přiznává Halina Pawlowská. Prozradila, jaká je její situace v důchodu

Jako smyslná čokoládová fontána: Kim Kardashian vypadala v róbě úchvatně

Česko pohltila zima. Meteorologové hlásí mrazy, jaké tu nebyly tři desetiletí