CENTRUM.CZ > Techzpravy.cz > dnes, 17:00

Komentář: Měly být naše konverzace s AI monitorovány?

Sdílet

Společnost sleduje soukromé interakce a může upozornit úřady, pokud zjistí hrozby, což vyvolalo kritiku kvůli nedostatečné transparentnosti a rizikům pro soukromí.

Zdroj: [email protected] / Depositphotos

Společnost sleduje soukromé interakce a může upozornit úřady, pokud zjistí hrozby, což vyvolalo kritiku kvůli nedostatečné transparentnosti a rizikům pro soukromí.

Společnost OpenAI přiznala, že sleduje konverzace uživatelů s ChatGPT a upozorňuje úřady v případech, které považuje za dostatečně závažné. Toto odhalení, učiněné v publikaci o potenciální psychické újmě, kterou může její konverzační umělá inteligence způsobit, vyvolalo vlnu kritiky ze strany odborníků na digitální soukromí a uživatelů na sociálních sítích.

Když OpenAI identifikuje uživatele, kteří se zdají mít v plánu ublížit ostatním, konverzace jsou přezkoumány specializovaným týmem, který může zablokovat účty a dokonce upozornit úřady, pokud je vnímána bezprostřední hrozba vážné fyzické újmy. To vyvolává zásadní otázku: kdo definuje práh hrozby a jak zajistí, aby toto kritérium splňovalo jasné právní normy?

Lidští moderátoři a stížnosti na policii: fungování systému

Lidští moderátoři analyzují tón a obsah konverzací, což je v rozporu se slibem umělé inteligence schopné řešit složité problémy bez přímého zásahu. Vyvstávají také otázky, jakým způsobem získává OpenAI přesnou polohu uživatelů, aby ji mohla sdílet se záchrannými složkami, a jaká jsou ochranná opatření proti zneužití třetími stranami, například swattery, kteří by mohli tento systém využít k vyprovokování neoprávněných policejních zásahů.

Mohlo by vás zajímat: Komentář: Konec vlastnictví filmů a videoher? Fyzické kopie některých děl již dnes prakticky neseženete

Kritika se snesla rychle. Výzkumníci, právníci a technologové poukázali na nebezpečí zapojení ozbrojených policejních složek do situací, kdy by agresivní zásah mohl zhoršit krizi duševního zdraví. „Ach ano, zapojit policii. Určitě to pomůže,“ komentoval nevesele John Darnielle, spisovatel a hudebník, čímž vyjádřil nespokojenost, kterou tento krok vyvolal mezi mnoha uživateli a odborníky.

OpenAI tvrdí, že se omezuje na případy potenciálního poškození třetích stran – prozatím s výjimkou případů sebepoškození, ale existuje jasný precedens, jak má technologický dohled tendenci růst pod tlakem veřejnosti, firem nebo vlády. Současný vývoj umělé inteligence se řídí podobnými vzorci, jakých jsme již byli svědky v případě aktivní spolupráce technologického průmyslu s vládními agenturami, jak odhalil Edward Snowden.

To je v rozporu s nedávnými prohlášeními generálního ředitele OpenAI Sama Altmana, který tvrdil, že soukromí uživatelů by mělo být na stejné úrovni jako soukromí terapeuta, právníka nebo lékaře. Pro právníky a veřejné obhájce představuje tento nedostatek důvěrnosti značné riziko, zejména pro právníky, kteří využívají umělou inteligenci k poradenství nebo analýze v trestních věcech, jak se stalo v minulosti, kdy byly tisíce soukromých konverzací indexovány na Googlu.

Tento kontext ještě zhoršují nedávné problémy OpenAI. Společnost musela zavést rodičovskou kontrolu po soudním sporu souvisejícím se smrtí teenagera, který používal ChatGPT, zatímco několik případů psychických zhroucení spojených s AI upozornilo na psychologické nebezpečí masivního používání těchto nástrojů.

Zdá se, že společnost OpenAI se rozhodla, že řešením psychologických a sociálních problémů jejího nástroje je více lidského dohledu a možnost policejního zásahu. Někteří odborníci to považují za předvídatelnou situaci, kdy je společnost povinna zavést překážky škodlivému obsahu, ale považují to za autoritářské řešení, které neřeší základní problém.

Tento skandál se přidává k dalším problémům společnosti s ochranou soukromí, jako je prodej uživatelských dat z platforem, jako jsou Tumblr a WordPress, za účelem trénování jejích modelů umělé inteligence, což vytváří problematickou historii v oblasti nakládání s osobními údaji uživatelů.

Comment
byu/Over-Independent4414 from discussion
inOpenAI

Uvedená fakta ukazují na rizika spojená se zaváděním produktů umělé inteligence, kterým plně nerozumíme, které z uživatelů dělají testovací subjekty a nabízejí improvizované odpovědi na závažné problémy. Jsme stále více pod dohledem, a to i v těch nejosobnějších chvílích před obrazovkou, a budoucnost umělé inteligence vyžaduje hlubokou debatu o soukromí, právech a omezeních, kterou OpenAI opět vynesla do popředí.

Co můžeme v budoucnu očekávat?

Sledování na platformách umělé inteligence je neustále se vyvíjející téma. Technologické společnosti, jako je OpenAI, čelí výzvě, jak vyvážit bezpečnost a soukromí uživatelů. Zásadní jsou jasná a transparentní pravidla, která chrání práva uživatelů, aniž by byla ohrožena veřejná bezpečnost.

Kromě toho je zásadní vzdělávání a zvyšování povědomí o odpovědném využívání umělé inteligence. Uživatelé musí být informováni o tom, jak jsou jejich údaje využívány a jaká bezpečnostní opatření jsou zavedena na ochranu jejich soukromí. Správnou rovnováhu mezi technologickými inovacemi a právy jednotlivců lze nalézt pouze prostřednictvím otevřeného a společného dialogu mezi společnostmi, vládami a uživateli.

Když jsem četl o tom, jak OpenAI sleduje konverzace v ChatGPT a předává je úřadům, přišlo na mě trochu úzko. Nejde jen o to, že to odporuje dřívějším proklamacím o soukromí na úrovni „terapeuta“, ale především o alarmující trend, kdy technologické giganty přebírají roli morální policie. Kdo a jak definuje „bezprostřední hrozbu“? To, že se lidští moderátoři pletou do našich soukromých interakcí, a navíc hrozí zapojení ozbrojených složek do situací, které mohou být jen krizemi duševního zdraví, je děsivá představa. Vidím v tom potvrzení obav, které jsme měli už od dob Edwarda Snowdena – jakmile jednou dohled začne, jen málokdy se zastaví. Místo řešení kořenů problémů s AI se uchylujeme k autoritářským metodám.

Zdroje článku: Autorský text, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Na fitko se vykašlala. Od té doby zhubla 7 kilo díky úplné maličkosti, kterou dělá ráno doma v pyžamu

SportDeník|

2. 9. 2025, 01:30

Na fitko se vykašlala. Od té doby zhubla 7 kilo díky úplné maličkosti, kterou dělá ráno doma v pyžamu

Ráno bývá pro většinu lidí nejtěžší část dne. Vstát, rozlepit oči a začít fungovat, to není jen o pevné...

Stačí vám jen jedna minuta denně. Tento cvik je těžší než dřepy a kliky dohromady, s tělem umí ale zázraky

SportDeník|

2. 9. 2025, 01:13

Stačí vám jen jedna minuta denně. Tento cvik je těžší než dřepy a kliky dohromady, s tělem umí ale zázraky

Zařaďte tento efektivní cvik, který se rozšířil díky armádním trenérům. Zvládne rozhýbat celé tělo,...

Listy lísky: Přirozená pomoc při potížích s močovými cestami

Plné zdraví|

2. 9. 2025, 01:00

Listy lísky: Přirozená pomoc při potížích s močovými cestami

Lískové keře jsou u nás poměrně běžné. Obvykle si jich všímáme jen tehdy, kdy se objevují lískové oříšky....

Éterické oleje v domácnosti jsou víc než jen vonítkem, mají i řadu praktických využití

Naše zahrada|

2. 9. 2025, 01:00

Éterické oleje v domácnosti jsou víc než jen vonítkem, mají i řadu praktických využití

Éterické oleje v domácnosti jsou víc než jen vonítkem, mají i řadu praktických využití. Pokud jste i vy...

Tohle teď stojí strašné peníze a celebrity se po tom můžou utlouct. Naše babičky ho pily každý den a teď si klepou na čelo

SportDeník|

2. 9. 2025, 00:17

Tohle teď stojí strašné peníze a celebrity se po tom můžou utlouct. Naše babičky ho pily každý den a teď si klepou na čelo

Zelený ječmen je superpotravinou, která se pro své blahodárné účinky využívá už celá léta. Snižuje únavu,...

Andělská poselství na úterý: Zvony zvoní pro ty, kdo jsou připraveni cestovat za světlem. Mějte odvahu odhalit své skutečné poslání

FAJNTIP.cz|

2. 9. 2025, 00:05

Andělská poselství na úterý: Zvony zvoní pro ty, kdo jsou připraveni cestovat za světlem. Mějte odvahu odhalit své skutečné poslání

Andělská poselství přicházejí v podobě jemných pohlazení a tichých šeptů. Dnešní úterý je dnem, kdy bychom...

Chcete vědět, jaké je venku počasí? Teploměr nepotřebujete, stačí poslouchat cvrčka

Zvirecizpravy.cz|

dnes, 23:38

Chcete vědět, jaké je venku počasí? Teploměr nepotřebujete, stačí poslouchat cvrčka

Pravidlo, které zná skoro každý: jakmile začnou létat nízko vlaštovky, je čas roztáhnout deštníky. Ptáci...

Když se objeví tento flek na zdi, okamžitě volejte odborníka. Oprava vyjde na desítky tisíc

Techsvět|

dnes, 23:36

Když se objeví tento flek na zdi, okamžitě volejte odborníka. Oprava vyjde na desítky tisíc

Když se na zdi objeví nenápadný šedý nebo tmavý flek, může jít o signál vážného problému. Plíseň v...

Ani Brňané, ani Jihočeši. Bezkonkurenčně nejpřátelštější lidé žijí v tomto zapadlém koutu Moravy

Život cestovatele|

dnes, 23:17

Ani Brňané, ani Jihočeši. Bezkonkurenčně nejpřátelštější lidé žijí v tomto zapadlém koutu Moravy

Lidé ve vesnicích se navzájem znají, proto tam často panuje mnohem uvolněnější atmosféra než ve velkých...

ATT vyhrálo dvě etapy na Tour de Kurpie. Z Polska dovezlo 113 UCI bodů

SportWin|

dnes, 23:17

ATT vyhrálo dvě etapy na Tour de Kurpie. Z Polska dovezlo 113 UCI bodů

Cyklisté ze stáje ATT Investments se účastnili závodu Tour de Kurpie (2.2), který nabídl čtyři etapy....

Doporučujeme

Právě u nás vyšlo

"Budu doufám v pořádku," řekl Babiš po útoku holí. Ruším program, má mít klid

Komentář: Měly být naše konverzace s AI monitorovány?

"Budu doufám v pořádku," řekl Babiš po útoku holí. Ruším program, má mít klid

Markéta Pekarová Adamová si na výlet vybrala outfit, ve kterém ji nikdo neměl poznat

"První noc, kdy jsem si nic nevydělala, jsem o sobě pochybovala," říká prostitutka

"Noční můra bodyguardů." Expert o útoku berlí na Babiše, zmínil klíčový problém

V Číně našli 2200 let starou hrobku vladaře. Vstoupit do ní nemohou, uvnitř číhá smrt