CENTRUM.CZ > Techzpravy.cz > dnes, 15:00

OpenAI kvůli smrti šestnáctiletého chlapce zpřísňuje pravidla pro děti

Techzpravy.cz

3 min

Sdílet

OpenAI má v rukou nová opatření, která mají chránit děti a mladistvé.

OpenAI kvůli smrti šestnáctiletého chlapce zpřísňuje pravidla pro děti

Zdroj: [email protected] / Depositphotos

OpenAI má v rukou nová opatření, která mají chránit děti a mladistvé.

ChatGPT se pro mnohé stal nezbytným nástrojem, ať už na pracovišti nebo ve vzdělávání, který usnadňuje úkoly, jako je odpovídání na otázky, shrnování textů nebo dokonce plánování měsíčních jídelníčků. Vyvolává však také obavy, zejména ve vztahu k dospívajícím a vlivu, který na ně může mít. Z tohoto důvodu zavádí společnost OpenAI různá opatření na ochranu nezletilých a zajištění odpovědného používání technologií.

Začalo to sebevraždou

V roce 2015 se v rámci projektu OpenAI uskutečnilo několik akcí, které byly zaměřeny na podporu využívání internetu. Na konci srpna podali rodiče šestnáctiletého Adama Raina žalobu na společnost OpenAI. Tvrdili, že model GPT-4o přispěl k sebevraždě jejich syna tím, že mu poskytl informace o tom, jak spáchat sebevraždu. Místo toho, aby systém konverzaci přerušil a aktivoval nouzové protokoly, pokračoval v odpovědi. Tento případ zdůraznil potřebu posílit bezpečnostní opatření na ochranu mladých uživatelů.

Mohlo by vás zajímat: Windows 11 vás nepřesvědčil? Nejste sami. A to je problém

V reakci na tento incident přijala společnost OpenAI naléhavá opatření. Podle Sama Altmana, generálního ředitele společnosti OpenAI, se společnost rozhodla upřednostnit „bezpečnost před soukromím a svobodou dospívajících“. Cílem je, aby se interakce patnáctiletého dítěte s ChatGPT výrazně lišila od interakce dospělého člověka a aby bylo zajištěno, že odpovědi budou odpovídat jeho věku a úrovni vyspělosti.

K provedení těchto změn vyvíjí společnost OpenAI systém předvídání věku, který určí, zda je uživateli více nebo méně než 18 let. V případě pochybností se automaticky použije nastavení určené pro nezletilé. Tato nastavení zahrnují omezení sexuálně explicitního obsahu a v situacích „akutní nouze“. Kromě toho se počítá s možností kontaktovat rodiče nebo dokonce místní úřady, aby řešily potenciálně nebezpečné chování.

Pokud je dospělý člověk nesprávně identifikován jako nezletilý kvůli způsobu psaní nebo vyjadřování, budou implementovány systémy ověřování věku, které odblokovávají všechny funkce chatbotu. Tím bude zajištěno, že dospělí uživatelé budou mít přístup ke všem funkcím systému bez zbytečných omezení.

Co se změní?

Zatímco se zavádí systém předvídání věku, společnost OpenAI ještě tento měsíc spustí sadu rodičovských kontrol, které rodičům umožní bezprostředněji sledovat činnost svých dětí na platformě. Mezi klíčové funkce těchto kontrol patří:

Propojení účtů: rodiče mohou propojit své účty s účty svých dětí prostřednictvím e-mailové pozvánky.
Správa reakcí: pravidla chování lze nastavit tak, aby byl jazykový model přizpůsoben věku dítěte.
Zakázání konkrétních funkcí, například historie chatu a paměti.
Nouzová upozornění: rodiče budou upozorněni, pokud se dítě zapojí do nebezpečné konverzace.
Nastavení časů odpojení: podobně jako u časových omezení na mobilních zařízeních lze definovat časové úseky, kdy dítě nebude mít přístup k AI.

Comment
byu/AudibleNod from discussion
innews

Kromě těchto opatření OpenAI zkoumá možnosti spolupráce s odborníky na vývoj dětí a psychologii, aby zajistila, že interakce ChatGPT s dospívajícími bude bezpečná a přínosná. Společnost rovněž zvažuje implementaci algoritmů strojového učení, které mohou odhalit vzorce znepokojivého chování a spustit vhodné zásahy.

Tyto iniciativy odrážejí závazek společnosti OpenAI k bezpečnosti a pohodě nejmladších uživatelů a zajišťují, aby technologie byla používána zodpovědně a eticky. Společnost OpenAI se těmito opatřeními snaží stanovit průmyslový standard pro ochranu nezletilých na platformách umělé inteligence.