Internetová encyklopedie čelí ohrožení své důvěryhodnosti kvůli odkazům a textům generovaným umělou inteligencí.
Pokud něco hledáte na internetu, je velmi pravděpodobné, že vám jako první nabídne odpověď umělá inteligence Gemini. A jako by to nestačilo, pokud budete rolovat dolů a rozhodnete se zadat další odkazy, prchající před umělou inteligencí ve prospěch těch autoritativních webových stránek s obsahem psaným specializovanými lidmi, najdete stále více textů vytvořených v AI.
Není žádnou novinkou, že umělá inteligence klame, ani to, že nabízí údaje, které se zdají být pravdivé, ale nejsou, od nepravdivých informací až po citáty, které nikdy neexistovaly. A to je problém pro ty, kteří hledají kvalitu. Protože pokud už Wikipedie měla problém s internetovými crawlery, na obzoru se objevil další: internet (a samotná Wikipedie) bude plný falešných článků generovaných umělou inteligencí.
Zdroj: Youtube.com
Protože lidé teď mohou žádat nováčka Groka, aby se zbavil pochybností, jako by byl mistrem pravdy, ale Wikipedii trvalo roky, než si vydobyla své postavení a opustila stigma encyklopedie psané jakýmkoli způsobem amatéry, aby pochopila rozsah a hodnotu svého projektu. A pozor, protože i Wikipedie se potýkala se souhrny s umělou inteligencí a pod tlakem svých editorů musela říci „ne, díky“.
Wikipedie bojuje proti používání umělé inteligence v rychlém sledu
Wikipedie se proto musela pustit do práce s týmem dobrovolníků ochotných bojovat proti tomuto smetí generovanému umělou inteligencí nazvaným WikiProject AI Cleanup. Pro Marshalla Millera, produktového manažera nadace Wikimedia, jde o analogii k imunitnímu systému:
„Jak se internet mění a přicházejí věci jako AI, tento imunitní systém se přizpůsobuje novým výzvám a nachází způsob, jak je zpracovat. V tomto případě se jedná o „reakci imunitního systému.“
Jak to dělají? Jedním ze způsobů je, jednoduše řečeno, zrychlené sledování. Tato skupina wikipedistů se rozhodla pro zrychlené odstraňování těchto špatně napsaných článků, jak uvádí 404 Media. Odhalit takový obsah a vyčistit ho však vyžaduje spoustu času a prostředků v podobě zkušených editorů. Ti jsou navíc zavaleni nekvalitními návrhy, říká jeden z recenzentů.
Proces mazání ve Wikipedii není tak rychlý a jednoduchý jako kliknutí na tlačítko: jakmile je jednou označen jako potenciálně smazatelný, přechází do jakési sedmidenní karantény zvané diskusní období, kdy členové komunity rozhodují, zda jej smazat, či nikoli. Toto nové pravidlo rychlého mazání umožňuje správcům tento krok přeskočit, pokud byl článek zjevně vytvořen umělou inteligencí a nebyl zkontrolován zadavatelem. Tento postup rychlého odstranění uvádí tři signály, které je třeba zkontrolovat:
- Že se jedná o psaní zaměřené přímo na uživatele, s takovými skandujícími frázemi jako „Tady je váš článek na Wikipedii o“ nebo „Doufám, že je pro vás užitečný!“.
- S nesmyslnými citacemi a nesprávnými odkazy na autory a publikace.
- S neexistujícími odkazy, nefunkčními odkazy, neplatnými kódy ISBN nebo identifikátory digitálních objektů, které nelze vyřešit.
Protože výše uvedené nestačí, připravil tým WikiProject AI Cleanup seznam frází a formátovacích prvků, které AI běžně připravuje, včetně nadměrného používání dlouhých pomlček, nadužívání slova „dále“, propagačního jazyka nebo problémů s formátováním.
Nadace Wikimedia, která je zodpovědná za tvorbu Wikipedie, ale nikoli za tvorbu jejích zásad, se již v otázkách spojených s umělou inteligencí střetla se svými dobrovolníky, například v případě souhrnů generovaných umělou inteligencí, jejichž experiment musel být po kritice ze strany komunity zastaven. Používá ji však již k identifikaci témat obsahujících vandalismus. Ve skutečnosti se nadace umělé inteligenci nebrání, pokud generuje kvalitní a přesný text. Pro Millera je používání AI dvousečná zbraň:
„Umožňuje lidem generovat méně kvalitní obsah ve velkém měřítku, ale AI může být také nástrojem, který pomůže dobrovolníkům v jejich práci, pokud ji dobře využijeme a budeme s nimi spolupracovat při hledání nejlepšího způsobu jejího použití.“
Identifikace generovaných článků je klíčová
Mezi další iniciativy, které mají udržet používání AI na uzdě, patří uvádění procenta textu generovaného chatboty nebo podávání ruku při konstruktivních úpravách, aby ti, kdo sledují důvěryhodnost obsahu, mohli věnovat pozornost relevantnějším úpravám nebo pokrýt více obsahu.
Zdroj: Youtube.com
Kromě toho komunita Wikipedie zkoumá možnosti využití nástrojů AI ke zlepšení detekce problematického obsahu. Tyto nástroje by mohly pomoci identifikovat vzory v textu generovaném umělou inteligencí, které nejsou snadno odhalitelné lidmi. Klíčové je vyvinout algoritmy, které se dokáží učit z minulých úprav a neustále zlepšovat svou přesnost.
Wikipedie také zvažuje, že bude své editory vzdělávat v tom, jak identifikovat obsah generovaný umělou inteligencí a jak s ním zacházet. To by mohlo zahrnovat semináře a online zdroje, které by poskytovaly návod, jak rozlišovat mezi autentickým a strojově generovaným obsahem.
V neposlední řadě je zásadní spolupráce s dalšími technologickými platformami. Spoluprací se společnostmi vyvíjejícími technologie umělé inteligence může Wikipedie zajistit, že její obavy budou vyslyšeny a že budou vyvinuta řešení, která ochrání integritu jejího obsahu.
Techzpravy.cz
Trendy svět|
Techsvět|
Volty|
KINOTIP2.cz|
Fajnstyl.cz|