Vzestup ChatGPT způsobil, že se její přítomnost ve třídách v posledních letech exponenciálně znásobila. Příběhy souvisejícími s nástrojem společnosti OpenAI se totiž nehemží jen studenty, ale konverzačního bota začali k zadávání zkoušek využívat i samotní učitelé. Tentokrát se však ChatGPT nedostal do zpráv kvůli tomu, co dělá ve třídě, ale kvůli důsledkům jeho nevybíravého používání mimo třídu.
Čerstvý absolvent právnické fakulty byl bez soudu propuštěn za to, že použil ChatGPT k napsání právního spisu plného chyb a falešných citací. Po odhalení soud v Utahu nařídil sankce za to, že obsahoval první falešnou citaci nalezenou v tomto státě, což je situace vzniklá zneužitím umělé inteligence. Spis tedy nejenže obsahoval nesprávně citované případy, ale nejméně jeden z nich byl vymyšlený.
Důsledky používání ChatGPT Jak vyplývá z původní zprávy, firma se omluvila a objasnila, že absolventka byla nelicencovaným advokátním koncipientem , a argumentovala také tím, že na použití umělé inteligence neupozornila. Do té doby společnost neměla žádné interní zásady týkající se používání umělé inteligence, ale po incidentu se rozhodla to změnit. Společnost ChatGPT se tak opět stala protagonistou existence falešných svědectví u soudu , což je aspekt, který již způsobil nejednu bolest hlavy lidem, kteří se touto oblastí zabývají.
Advokát Bednář, který spis podepsal, si neověřil právní citace a chyba se ještě zvětšila. Jako sankci bude muset nejen zaplatit poplatky protistrany, ale bude také nucen věnovat 1 000 eur (v přepočtu asi 25 tisíc korun) nevládní organizaci poskytující právní pomoc: organizaci „A spravedlnost pro všechny“. Tato organizace již několik let podporuje odpovědné používání modelů umělé inteligence, ale požaduje, aby byl v právních dokumentech zajištěn dohled a přesnost.
V návaznosti na všechny kontroverze varovala před riziky spoléhání se na neověřenou umělou inteligenci, která může vést k právním omylům, pokud nedojde k včasné nápravě. Učitelé i instituce tak nabádají své studenty či pracovníky, aby slepě nedůvěřovali nástrojům, jako je ChatGPT . Každý týden se však setkáváme s novým kontroverzním případem týkajícím se umělé inteligence, protože mnozí nevěnují dostatek času zkoumání pravdivosti informací, které sdílí.
Úloha umělé inteligence v oblasti práva Umělá inteligence, jako je ChatGPT, má potenciál změnit mnoho odvětví, včetně právního průmyslu. Její využívání je však třeba pečlivě řídit. Nástroje umělé inteligence mohou být užitečné pro úkoly, jako je přezkoumávání dokumentů nebo prověřování, neměly by však nahrazovat lidský úsudek. Umělá inteligence zatím není schopna pochopit kontext nebo záměr zákonů a předpisů, což může vést k významným chybám, pokud není řádně monitorována.
Kromě toho AI v právní sféře vyvolává etické otázky a otázky odpovědnosti: kdo nese odpovědnost, pokud AI udělá chybu – vývojář, uživatel, nebo oba? To jsou otázky, které musí právní odvětví a regulační orgány s rozvojem technologie řešit. Je proto zásadní, aby advokátní kanceláře a další organizace stanovily jasné zásady používání AI a zajistily, aby zaměstnanci byli vyškoleni k efektivnímu a etickému používání těchto nástrojů.