2 min

Má umělá inteligence morální odpovědnost? Od Aristotela k autonomnímu autu

Sdílet

Dennívýzva

Otázka morální odpovědnosti umělé inteligence zní moderně. Ve skutečnosti však stojí na základech starých tisíce let. Filozofie se dlouhodobě ptá: kdo je odpovědný za čin – a za jakých podmínek? AI tuto otázku neřeší. Ona ji znovu otevírá.

Zdroj: Kód Enigma - Čeština

Aristoteles: odpovědnost vyžaduje vědomý čin

Jedním z prvních, kdo systematicky rozlišoval mezi dobrovolným a nedobrovolným jednáním, byl Aristoteles. Ve své Etice Nikomachově tvrdil, že morální odpovědnost lze připsat pouze tehdy, když je čin vykonán vědomě a dobrovolně.

Pokud někdo jedná z donucení nebo v nevědomosti, odpovědnost je omezená.

Tento rámec je pro dnešní debatu zásadní. Umělá inteligence nemá úmysl, nemá vědomí, nejedná „dobrovolně“. Z aristotelské perspektivy by tedy nemohla být morálním subjektem.

Kant: autonomie jako podmínka morálky

Immanuel Kant šel ještě dál. Morální bytostí je podle něj ten, kdo je schopen řídit se rozumem a jednat podle univerzálního zákona, který si sám ukládá.

Současné modely AI žádnou takovou autonomii nemají. Řídí se architekturou, daty a pravidly, která vytvořili lidé. Z této perspektivy odpovědnost opět zůstává na lidské straně.

Ale moderní svět odpovědnost rozmělňuje

Hannah Arendt upozorňovala, že moderní systémy často rozptylují odpovědnost mezi mnoho aktérů. V byrokratických strukturách se může stát, že nikdo necítí plnou odpovědnost – a přesto dochází k vážným důsledkům.

Digitální technologie tento efekt zesilují.

AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu

Autonehoda jako modelový příklad

Představme si autonomní vozidlo, které způsobí nehodu.

Kdo je odpovědný? Inženýr, který navrhl algoritmus? Firma, která auto vyrobila? Provozovatel systému? Řidič, který měl dohlížet? Správce silnice? Náhoda?

Odpověď není jednoduchá. Moderní technologie vytvářejí síť příčin, nikoli jeden jasný bod selhání. Podobně je tomu u AI.

Současnost: odpovědnost zůstává lidská

Dnešní systémy nemají vědomí ani vlastní cíle. Neprožívají následky. Nemohou nést vinu v tradičním smyslu. Z tohoto hlediska se zdá rozumné tvrdit, že morální odpovědnost dnes stále náleží lidem – těm, kdo systémy navrhují, nasazují a regulují.

Otázkou ale je... Co zítra?

Budoucnost jako otevřená kniha

Dnes se můžeme jen ptát a dohadovat, zda tento stav bude trvalý. Co by se stalo, kdyby vznikl systém, který by měl trvalou identitu, schopnost učit se mimo rámec původního zadání, vlastní cílové preference a hlavně schopnost chápat důsledky svých činů?

Změnilo by to naše pojetí odpovědnosti? Možná ano. Možná ne. Jisté je v této chvíli jen to, že filozofická debata tím nekončí.

Abychom se jako lidstvo dokázali s existencí umělé inteligence vyspořádat, musíme si odpovědět na velké množství otázek. A mnohé z nich nejsou ani jednoché, ani pohodlné. Je morální odpovědnost vlastností vědomí? Nebo vlastností moci? A pokud technologie získávají stále větší moc – znamená to, že by se měla měnit i naše etika?

Možná totiž není nejdůležitější, zda má AI odpovědnost dnes.
Možná je důležitější, zda jsme připraveni naše fungování dostatečně rychle zmenit, pokud se změní svět kolem nás.

A právě v této otevřenosti se možná skrývá skutečná výzva.

AI si založila vlastní sociální síť: Miliony algoritmů si tam povídají bez lidí. A vzniká i digitální náboženství

Rozhodujeme se opravdu sami? Umělá inteligence možná ví naše rozhodnutí už několik sekund před námi

Počasí jako z filmu: proč skutečné fronty nejsou dokonale rovné (a proč ty virální často jsou)

AI prohledala 35 let dat z Hubblea. A našla stovky objektů, které jsme dosud přehlíželi

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Má umělá inteligence morální odpovědnost? Od Aristotela k autonomnímu autu

Plášť už lidstvo nechrání. Proč je Černobyl 40 let po katastrofě znovu hrozbou

„Jela bych si to na Slovensko vyřídit. Ručně a se vší ostudou," říká Bohdalová o Gregorové

Česko čeká slunečný týden bez srážek, o víkendu se oteplí až na 25 stupňů

Zea: Úspěch jsem si neuměla užít. V hlavě jsem měla, že to je jen náhoda

Litina se vrací do kuchyně: Zkuste nádobí, které „umí" skvělý steak, dokonalou pizzu i parádní guláš