CENTRUM.CZ > Techzpravy.cz > dnes, 01:00

ChatGPT versus zákon: Právník skončil s pokutou za neověřené údaje

Sdílet

Umělá inteligence si vymyslela falešné případy a rozsudky, které si právník neověřil, aby je použil ve svůj prospěch

Zdroj: Photo by Tingey Injury Law Firm

Umělá inteligence si vymyslela falešné případy a rozsudky, které si právník neověřil, ale přesto je použil ve svůj prospěch.

Jeden z hlavních problémů umělé inteligence se projevuje, když nástroje založené na ní trpí halucinacemi. V podstatě k tomu dochází, když umělá inteligence předkládá vymyšlené informace jako pravdivé, což je aspekt, který dává vzniknout nejrůznějším situacím poznamenaným nekompetentností umělé inteligence. Příběh právníka z advokátní kanceláře Semrad je však jedním z nejpřekvapivějších, které jsme v posledních měsících zažili, neboť se týká řady zákonů a judikátů vymyšlených ChatGPT.

Právník v tomto případě spoléhal na model umělé inteligence OpenAI při vyhledávání právních předpisů souvisejících s bankroty a ekonomickými neúspěchy. Přitom narazil na zcela vymyšlené případy, které nakonec vedly Michaela Sladea (soudce v případu) ke zjištění, že nejenže poskytnuté právní citace neexistují, ale že ani nesouvisejí s údajnými problémy. Příkladem tak může být „In re Jager“, jeden z citovaných případů, který neexistuje, a proto se k němu vztahují vymyšlené citace.

Mohlo by vás zajímat: Terapeutka, která nikdy nespí: AI klon ordinuje 24 hodin denně

Problém zneužití umělé inteligence

Thomas Nield, právník, proti němuž byla tato situace namířena, přiznal, že použil nástroje umělé inteligence, a tvrdil, že výsledky nekontroloval, což ho vedlo k přesvědčení, že umělá inteligence nebude chybně fabulovat citace. Ve skutečnosti uvedl, že se omlouvá a že udělal chybu, že umělou inteligenci nikdy nepoužil, a poznamenal, že to byl on, kdo se nahlásil advokátní komoře státu Illinois. Advokátní kancelář se zase postavila proti používání umělé inteligence bez ručního ověřování údajů, což je jeden z hlavních problémů, který stojí za touto akcí.

Ačkoli tedy stáhla žádosti o platbu a došlo k online školení, soudce konstatoval, že „by měly být vyvozeny důsledky“, aby bylo Nieldovo jednání potrestáno. Slade uložil finanční pokutu ve výši 5 000 eur (asi 125 000 Kč), kterou bude muset právník zaplatit úředníkovi konkurzního soudu. Zároveň nařídil Nieldovi a dalšímu vedoucímu advokátovi, aby se osobně zúčastnili zasedání o umělé inteligenci na Národním kongresu konkurzních soudců.

V souvislosti s celým rozruchem soudce kritizoval neznalost rizik používání umělé inteligence bez dalšího ověřování údajů, neboť se domnívá, že tato otázka je již více než dva roky předmětem velké debaty nejen ve společnosti obecně, ale zejména v jeho oboru. Poukázal také na to, že ChatGPT nemá přístup k právním databázím, a proto nevytváří spolehlivé právní citace, i když uznal, že je ideální pro napodobování vyprávěcích či hudebních stylů. V této souvislosti vydal varování, že budoucí podobná porušení budou závažnější, a zdůraznil, že právníci by neměli přenechávat svůj právní výzkum umělé inteligenci.

Comment
byu/lurker_bee from discussion
intechnology

Význam ověřování informací lidmi

Tento případ zdůrazňuje, že je třeba, aby si odborníci, zejména v kritických oblastech, jako je právo, zachovali aktivní roli při ověřování informací generovaných nástroji umělé inteligence. Ačkoli AI může být mocným nástrojem pro zpracování velkého množství dat a generování poznatků, její schopnost rozlišovat mezi pravdivými a smyšlenými informacemi zůstává omezená. Proto je pro zajištění přesnosti a spolehlivosti výsledků nezbytný lidský dohled.

Kromě toho tento incident zdůrazňuje důležitost průběžného školení v používání nových technologií. Odborníci si musí být vědomi možností a omezení nástrojů, které používají, a instituce musí poskytnout zdroje a školení, aby zajistily, že jejich zaměstnanci budou moci tyto technologie používat efektivně a eticky.

Ačkoli umělá inteligence má potenciál změnit mnoho aspektů našeho každodenního života, její používání musí být doprovázeno jasným pochopením jejích omezení a závazkem k ověřování a odpovědnosti ze strany lidí.

Zdroje článku: pcgamer.com, timesofindia.indiatimes.com, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Jihočeské památky lákají více návštěvníků díky chladnějšímu počasí

Budějcká Drbna|

dnes, 15:00

Jihočeské památky lákají více návštěvníků díky chladnějšímu počasí

Jihočeské památky za první měsíc prázdnin navštívilo více lidí než ve stejném období loni. Projevilo se...

Vánoční strom pro Prahu? Nejvíce návrhů chodí z Libereckého kraje

Liberecká Drbna|

dnes, 14:49

Vánoční strom pro Prahu? Nejvíce návrhů chodí z Libereckého kraje

Praha stále hledá vánoční strom na Staroměstské náměstí. Zatímco loni přišlo pětačtyřicet návrhů, letos...

Ferrari sází na mráz v žilách. Vasseurův klid prý porazí i bodovou propast

SportWin|

dnes, 14:48

Ferrari sází na mráz v žilách. Vasseurův klid prý porazí i bodovou propast

Sezona plná zklamání, jediný titul v nedohlednu a obrovský tlak médií. Přesto Ferrari udělalo zdánlivě...

Meteorologové varují před silnými bouřkami. Přijít by měly dnes večer

Hanácká Drbna|

dnes, 14:47

Meteorologové varují před silnými bouřkami. Přijít by měly dnes večer

Český hydrometeorologický ústavy dnes vydal výstrahu před vydatným deštěm a silnými bouřkami. Zasáhnout by...

Voda místo červeného koberce. Filipínská svatba se konala ve znamení monzunu

Zprávy - Aktuálně.cz|

dnes, 14:44

Voda místo červeného koberce. Filipínská svatba se konala ve znamení monzunu

Jade Rick Verdillo a Jamaica si řekli ano v zaplaveném kostele Barasoain na Filipínách během monzunu....

Modernizace vlakové dopravy mění vše, co jste znali. Odteď se cestující budou obsluhovat sami

Život cestovatele|

dnes, 14:42

Modernizace vlakové dopravy mění vše, co jste znali. Odteď se cestující budou obsluhovat sami

Slovensko od 1. srpna rozšiřuje počet vlaků, které fungují v samoobslužném režimu, a podobný systém využívá...

Panelák v plamenech. V Opavě hořelo, záchranáři ošetřili devět lidí

Ostravská Drbna|

dnes, 14:40

Panelák v plamenech. V Opavě hořelo, záchranáři ošetřili devět lidí

Rušné ráno zažili obyvatelé panelového domu v opavských Kateřinkách, kde v sobotu časně ráno vypukl požár v...

Nepřišla ani koruna. "Zatopení" starostové a podnikatelé tepou Fialovu vládu

Zprávy - Aktuálně.cz|

dnes, 14:33

Nepřišla ani koruna. "Zatopení" starostové a podnikatelé tepou Fialovu vládu

Aktuálně.cz zjišťovalo přímo v terénu, kudy se prohnaly povodně, jak vláda postiženým místům pomohla. Na...

Milujete svůj pot? Nejste sami – ale říct to nahlas si nikdo netroufne

NESPECHEJ.cz|

dnes, 14:30

Milujete svůj pot? Nejste sami – ale říct to nahlas si nikdo netroufne

Úplně se o tom nemluví, ale někteří lidé voní sami sobě. Hlavní roli hraje zdravý, čerstvý, živočišný pot....

Devět zraněných při požáru v paneláku v Opavě. V akci i vyváděcí masky

Zprávy - Aktuálně.cz|

dnes, 14:12

Devět zraněných při požáru v paneláku v Opavě. V akci i vyváděcí masky

Hořelo v bytě v pátém patře domu. Při zásahu hasiči našli uhynulého psa, dalšího se jim podařilo zachránit.

Doporučujeme

Právě se děje

Evropa má eso v rukávu, kterým může zastavit Putina. Zaplaťte Američanům, radí ekonom

ChatGPT versus zákon: Právník skončil s pokutou za neověřené údaje

Evropa má eso v rukávu, kterým může zastavit Putina. Zaplaťte Američanům, radí ekonom

Ochotská oznámila pohlaví miminka, Burešová se uzdravuje a Gondíková řve strachy

Dar nebo dědictví musíte nahlásit. Za opomenutí hrozí vysoké pokuty

Jennifer Lopez ukázala, že i trapas může být show: „Jsem ráda, že jsem měla kalhotky“

Bizarní výjev v ženské profilize. Na palubovce znovu přistál vibrátor