Máme se bát umělé inteligence?

Obsah dubnového dTestu

Aktuální číslo časopisu dTest 4/2024 Obsah dubnového dTestu

Sdílejte

Publikováno v časopise 3/2023

Umělá inteligence se pomalu, ale jistě stává nedílnou součástí našich životů. Prostřednictvím internetu sleduje naše chování a zvyklosti a na jejich základě nám například podsouvá další spotřebitelské volby a ovlivňuje, jaké zprávy a reklamy se nám zobrazují. Ač to může naše každodenní činnosti urychlovat a usnadňovat, jsou s tím spojena i mnohá rizika. Je proto nezbytné, aby pro používání umělé inteligence existovala jasně definovaná pravidla hry. O nich jsme si povídali se specialistkou na problematiku IT práva, doktorkou Evou Fialovou.

Umělá inteligence je dnes hojně používaný pojem. Laik si pod ním často představí třeba robota, který bude mluvit a chovat se jako on sám, nebo počítač, s nímž si může popovídat (tzv. ChatGPT). Jak byste nám umělou inteligenci vysvětlila?

Umělá inteligence je, zjednodušeně řečeno, schopnost počítačových programů napodobovat lidské schopnosti. Umělá inteligence se učí, přemýšlí a rozhoduje tak, jak by to dělal člověk. Nebo spíše ještě lépe, protože bude mít mnohem více informací, než má člověk, a v rozhodování bude přesnější a rychlejší. Umělé inteligenci, která by toto dokázala ve všech oblastech lidské existence, se říká silná umělá inteligence neboli strong AI. Umělá inteligence, jež toto dokáže jen v úzce vymezené oblasti, se nazývá slabá umělá inteligence, weak AI. Silnou umělou inteligenci ještě nemáme, ale vyhlídky na její vyvinutí se pořád přibližují.

Ve kterých oblastech se umělá inteligence používá?

Umělá inteligence se používá od zdravotnictví přes logistiku a dopravu až po nejrůznější asistenční systémy. Koncovým uživatelem je často spotřebitel. Jedná se o nejrůznější přístroje, které monitorují návyky, tělesnou kondici (tzv. wearables), chytré spotřebiče, a dokonce chytré domácnosti, virtuální asistenty a autonomní vozidla.

Umělá inteligence nemusí být využívána jen spotřebitelem, ale i podnikatelem, i když jeho produktem nebude služba nebo výrobek založený na umělé inteligenci. Umělá inteligence má velký potenciál v marketingu, při samotném uzavírání smluv se spotřebitelem či v řešení spotřebitelských sporů.

Jak se na umělou inteligenci dívá právo?

Umělá inteligence, tedy ta slabá umělá inteligence, se začíná využívat v různých oblastech nebo se její použití minimálně testuje či plánuje. Evropská komise se proto už několik let snaží vytvořit obecná pravidla, která by používání umělé inteligence nebo spíše samotnou umělou inteligenci regulovala.

V legislativním procesu je tzv. akt o umělé inteligenci, který by měl obsahovat definici umělé inteligence, měl by přinést zákaz některých systémů a praktik a stanovit zvláštní povinnosti pro vysoce rizikové systémy umělé inteligence, tedy systémy, které by mohly mít negativní dopad na bezpečnost a základní lidská práva.

Protože je umělá inteligence obecný pojem, je prvním problémem už samotná definice umělé inteligence, která bude určovat, jaké systémy budou regulovány a jaké nikoliv. Na tato obecná pravidla by měla být navázána pravidla pro umělou inteligenci ve vybraných oblastech, jako je bezpečnost výrobků nebo autonomní vozidla. Je třeba upozornit, že se jedná o definici právní, ne vědeckou nebo technickou.

JUDr. et Mgr. Eva Fialová, LL.M., Ph.D.

Studovala magisterský program na University of Amsterdam (LL.M. v oboru informační právo), titul Ph.D. získala na Masarykově univerzitě v Brně. Aktuálně působí v Ústavu státu a práva Akademie věd ČR a v advokátní kanceláři PRK Partners, kde se specializuje na právo informačních a komunikačních technologií. Zabývá se zejména právem autonomních systémů, umělé inteligence a ochranou osobních údajů. Je autorkou monografie Bezkontaktní čipy a ochrana soukromí a spoluautorkou knih Odpovědnost za škodu z provozu autonomních vozidel, Profilování a automatizované rozhodování (nejen) ve světle lidských práv a základních svobod a Ochrana osobnosti, soukromí a osobních údajů. Dále je také autorkou vědeckých článků týkajících se různých aspektů moderních technologií a práva.

Které problémy v současné době právo v souvislosti s umělou inteligencí řeší?

Když se podíváme na již zmiňovaný akt o umělé inteligenci, vede se velká diskuze právě o definici umělé inteligence, tedy o to, které systémy budou do regulace spadat. Konkrétně u aktu o umělé inteligenci se také vedou diskuze o tom, které systémy by měly být úplně zakázány nebo které systémy by měly spadat mezi vysoce rizikové. Často zmiňované téma je odpovědnost za umělou inteligenci a diskriminace nebo rozdílné zacházení s uživateli. A samozřejmě ochrana osobních údajů.

Zmiňujete připravovaný akt o umělé inteligenci. Čeho všeho by se měl tento předpis týkat a hlavně jak se dotkne spotřebitelů?

Akt o umělé inteligenci rozděluje systémy umělé inteligence na čtyři kategorie podle míry rizika, kterou by mohla pro člověka představovat. První kategorií jsou systémy s nepřijatelnou mírou rizika. Tyto systémy jsou buď úplně zakázané, nebo bude jejich používání povoleno pouze ve výjimečných případech.

Které systémy to budou?

Zakázaný bude tzv. social-scoring, praktika, kdy je člověk hodnocen na základě svého sociálního chování a vlastností a toto hodnocení by ho mohlo znevýhodňovat. Podle původního návrhu by byl social-scoring zakázán jen pro orgány veřejné moci, tedy to, co se děje v Číně. Podle posledního návrhu by měl být social-­scoring zakázán úplně. Nesměly by to používat ani soukromé společnosti, třeba při hodnocení důvěryhodnosti zákazníků.

Hodnocení důvěryhodnosti je ale běžné třeba při rozhodování o poskytnutí nebo neposkytnutí úvěru bankou či při rozhodování o umožnění odložené platby v e-shopu, což je také forma úvěru. Social-scoring provádí společnost, jež službu odložené platby poskytuje. Social-scoring může provádět i platforma poskytující krátkodobé ubytování. Spotřebiteli nebude tato služba poskytnuta, protože systém ho vyhodnotí jako nespolehlivou osobu, která by mohla v bytě způsobit škodu.

Které další systémy budou zakázány?

Zakázané budou i systémy, které využívají podprahové vnímání a mohly by způsobit škodu. Třeba ovlivnění spotřebitele, aby se nějakým způsobem choval, nebo naopak nechoval, např. aby neuplatňoval svá práva. Stejně tak budou zakázané i systémy, jež využívají zranitelnost určitých osob tím způsobem, že ovlivní chování těchto zranitelných osob a ony pak z toho mají nebo by mohly mít újmu. Kupříkladu systémy, které míří na děti či mentálně postižené osoby. Systémy by mohly nabízet těmto osobám zboží nebo služby, jež by jim mohly v konečném důsledku způsobit škodu, např. nevýhodné finanční služby.

Další kategorií budou asi vysoce rizikové systémy. O co se jedná?

Mezi vysoce rizikové systémy budou patřit např. systémy určující přístup ke vzdělání, systémy používané pro nábor zaměstnanců nebo systémy biometrické identifikace na dálku. Třeba identifikování zákazníků skenováním jejich obličejů při vstupu do obchodního centra. Vysoce rizikový systém bude i systém pro hodnocení bonity klienta. U těchto systémů bude třeba rozlišit, který systém bude představovat zakázaný social-scoring a co bude povolený, ale silně regulovaný systém pro posouzení bonity. Podle poslední verze by mezi vysoce rizikové systémy mělo být zařazeno hodnocení rizika a určování ceny u produktů životního a zdravotního pojištění. Obecně se jedná o systémy, které mají nebo by mohly mít nepříznivý dopad na bezpečnost člověka či na jeho základní práva.

Jaké budou mít poskytovatelé vysoce rizikových systémů povinnosti?

Před uvedením na trh budou muset poskytovatelé vysoce rizikových systémů splnit řadu povinností týkající se hodnocení rizika, kvality dat, transparentnosti a informování uživatele. Systém musí být navržen tak, aby umožňoval lidský dohled. Poskytovatelé budou muset systémy registrovat a certifikovat. Určité povinnosti budou mít také výrobci, dovozci nebo distributoři vysoce rizikových systémů.

A co systémy ze zbývajících dvou kategorií?

Třetí kategorií na stupni rizika jsou systémy s omezeným rizikem. Tyto systémy představují sice menší riziko než systémy zakázané a vysoce rizikové, přesto u nich jisté riziko pro uživatele přetrvává. Systémy s omezeným rizikem jsou chatboty založené na umělé inteligenci, které využívá ke komunikaci se zákazníky čím dál více firem, systémy rozpoznávání emocí zákazníků nebo systémy využívající technik deep fake, tedy zobrazení, které se může zdát na první pohled jako pravdivé, přestože tomu tak není. Kupříkladu video nebo fotka, jež vypadají jako originál, ale ve skutečnosti se jedná o podvrh. Poskytovatelé systémů s omezeným rizikem musejí uživatele o použití těchto systémů informovat. Poskytovatelé ostatních systémů, tedy systémů s minimálním rizikem, nemají žádné zvláštní povinnosti.

Hodně se zdůrazňuje transparentnost umělé inteligence. Co si pod tím máme v praxi představit?

Transparentnost obecně znamená průzračnost, jasnost. Ve vztahu k umělé inteligenci to znamená, že poskytovatel systému by měl poskytnout tolik informací, aby si uživatel mohl vytvořit obrázek o tom, jak systém funguje. Tedy hlavně že výrobek nebo služba používá systém umělé inteligence, základní vysvětlení, jak systém funguje, a důsledky využití systému pro uživatele. Uživatelem může být podnikatel, který má zase informační povinnosti vůči spotřebiteli. Neinformování o použití systému umělé inteligence může být nekalou obchodní praktikou. Nekalou obchodní praktikou může být ale i tvrzení, že výrobek používá umělou inteligenci, i když tomu tak není.

Německý soud třeba řešil reklamní výrok společnosti Tesla Germany, že vozy mají potenciál pro autonomní řízení. Jednou z charakteristik umělé inteligence je, že jedná autonomně, tj. bez lidského zásahu. Vozidla Tesla, kterými se soud zabýval, nebyla autonomní, ale šlo o vozidla s pokročilými asistenčními systémy, jež neumožňovaly řízení bez lidského zásahu.

Soud v Mnichově shledal tvrzení o schopnosti autonomního řízení jako klamavé. Podle soudu mohlo totiž vyvolat u průměrných spotřebitelů mylný dojem, že vozidlo je skutečně autonomní, a do řízení tedy nemusí člověk zasahovat. Spotřebitelé také mohli nabýt dojmu, že autonomní řízení je v Německu povolené, což tehdy nebylo. Odvolací soud žalobu proti Tesle zamítl. Podle rozsudku odvolacího soudu nemohla reklama na autopilota vyvolat ve spotřebitelích dojem, že autonomní řízení Tesly je povolené. Tesla tedy může reklamu na autopilota dál používat.

Další případ, kdy soud řešil reklamní tvrzení týkající se údajného použití systémů umělé inteligence, je opět z Německa. Společnost Wolters Kluwer nabízela systém na tvorbu smluv a jiných právních dokumentů, který údajně používal umělou inteligenci a měl být rychlejší a levnější než advokát, ale stejně kvalitní. Soud toto tvrzení jako klamavé zakázal. Soud argumentoval tím, že jakkoliv byl systém komplexní a individua­lizovaný, byl založen na předem určené rozhodovací struktuře. Program byl pouze katalogem otázek a odpovědí. Nejednalo se tedy o autonomní systém založený na umělé inteligenci.

Dnes je umělá inteligence v módě a každý by ji chtěl používat. Za nějaký čas může být výhodou naopak individuální, nikoliv individualizované lidské posouzení.

Mluvila jste o social-scoringu a o posuzování úvěruschopnosti klientů. Není s tím spojené riziko diskriminace některých spotřebitelů?

Ano, všechny tyto systémy jsou určeny k tomu, aby rychle zpracovaly velké množství informací a na jejich základě rozhodly o tom, jestli podnikatel spotřebiteli poskytne službu, či nikoliv.

Při sjednávání zdravotního pojištění si systémy na základě informací z různých zdrojů vyhodnotí, že jste ohrožen nebo ohrožena nemocí, která by vyžadovala nákladnější léčbu, pokud by propukla. Pojišťovna vám proto nabídne smlouvu s vyšším pojistným nebo s vámi smlouvu vůbec neuzavře. Nebo si představte, že bydlíte ve čtvrti, jež je v profilech, které systémy mají k dispozici nebo si je samy vytvářejí, označena jako rizikovější. Pojištění auta proti krádeži nebo poškození vás bude stát mnohem více než někoho, kdo bydlí o pár ulic dál.

Jsem mladý britský student, proto mě systém vyhodnotí jako rizikovějšího nájemníka krátkodobého ubytování. Tito nájemníci častěji pořádají divoké večírky, obtěžují okolí a ničí vybavení. Proto zaplatím vyšší kauci nebo mi platforma úplně odmítne ubytování zprostředkovat. U některých produktů platí muži či ženy vyšší cenu. U mužů se předpokládá, že se chovají riskantněji za volantem, proto zaplatí vyšší povinné ručení. Naopak při koupi nového vozu jedna studie popisuje, že mužům byla nabídnuta nižší počáteční cena než ženám. Tato studie ale ukázala i diskriminaci na základě rasy. Bílým mužům byla nabídnuta nižší cena nejen ve srovnání s ženami, ale i s muži s jinou než bílou barvou pleti.

V době, kdy si řadu produktů pořizujeme online, je stanovení rozdílných cen jednodušší a častější. S tím rozdílem, že umělá inteligence nebude určovat cenu podle toho, jakého jste pohlaví nebo rasy, ale jakého pohlaví nebo rasy se umělá inteligence domnívá, že jste. Nicméně věřím, že tyto kategorie určí umělá inteligence velmi snadno.

Na druhou stranu může být analýzou a změnou systému naopak diskriminace zjištěna a napravena, což se u lidí děje jen těžko. Prvním problémem je, že o cenové diskriminaci vůbec nemusíte vědět. Druhým pak, že i když o ní vědět budete, nebude vám to nic platné, pokud stejnou techniku budou využívat všechny společnosti nebo většina z nich. Pak moc na výběr nemáte a musíte akceptovat jejich podmínky.

Umělá inteligence potřebuje k rozhodování spoustu dat, často osobních údajů. Jenže máme GDPR, které je ve využívání osobních údajů dost striktní…

Systémy umělé inteligence potřebují velké množství dat, aby byly její výstupy co možná nejlepší. To znamená, aby se rozhodovaly stejně, nebo dokonce lépe než člověk. Čím více dat, tím lépe. Na druhou stranu GDPR ukládá shromažďovat co nejméně osobních údajů. Osobní údaje budou poskytovatelé systémů umělé inteligence potřebovat ve fázi vývoje, k samotnému učení umělé inteligence na tréninkových datech i ve fázi ostrého provozu systému.

GDPR obsahuje požadavek zohlednění ochrany osobních údajů už v návrhu. Například používat pouze anonymizovaná data. Domnívám se, že spotřebitelé budou stále citlivější na využívání svých osobních údajů a budou upřednostňovat produkty, které budou tzv. privacy-friendly.

Hodně se v minulém roce mluvilo o odpovědnosti za umělou inteligenci. Byly představeny návrhy dvou právních předpisů. Mohla byste nám přiblížit, jak bude odpovědnost za umělou inteligenci vypadat?

V září loňského roku byly zveřejněny návrhy dvou směrnic. Směrnice musejí být na rozdíl od nařízení transponována do českého práva. První z návrhů se týká odpovědnosti za výrobky neboli odpovědnosti za to, když výrobek způsobí škodu. Současná právní úprava nepohlíží na počítačový program, software obecně jako na výrobek. Dále je pro poškozeného téměř nemožné dokázat, že výrobek měl vadu a vada byla příčinou škody.

Když vyteče pračka a voda zničí vybavení části bytu, není zpravidla s dokazováním problém. Když autonomní vozidlo narazí do plotu či způsobí něco horšího, může to být proto, že systém autonomního řízení měl vadu nebo prostě špatně vyhodnotil správná data. Vada může být přítomna v algoritmu, ale také nemusí. Pokud už se vada v systému analýzou objeví, což nemusí být pravidlem, nebude často jasné, jestli tato konkrétní vada byla příčinou vzniku škody, tedy rozbitého plotu a poškozeného auta. Návrh směrnice obsahuje pravidla pro určení, kdy je výrobek považován za vadný. Návrh směrnice obsahuje domněnku existence příčinné souvislosti mezi vadou výrobku a vznikem škody. To znamená, že se předpokládá, že vada výrobku způsobila škodu, pokud není prokázán opak. Nová směrnice se bude týkat – stejně jako současná právní úprava – pouze vztahu spotřebitel–podnikatel.

O druhém návrhu se mluví jako o směrnici o odpovědnosti za umělou inteligenci. Není tomu úplně tak. Návrh směrnice nezavádí novou právní odpovědnost, ale dává poškozenému k dispozici nástroje pro to, aby se snadněji domohl nároku na náhradu škody. Smyslem směrnice je pomoci poškozenému unést důkazní břemeno v případě, že se domnívá, že mu systém umělé inteligence způsobil škodu.

Soud může nařídit provozovateli vysoce rizikového systému umělé inteligence, aby zveřejnil informace a dokumenty o tomto systému. Tato druhá směrnice se nebude omezovat pouze na spotřebitele. U těchto dvou směrnic se jedná o první návrh a je pravděpodobné, že text se bude ještě měnit.

Zatím to vypadá, že umělá inteligence bude pro spotřebitele dost riziková záležitost. Existují nějaké výhody umělé inteligence pro spotřebitele?

Domnívám se, že pokud by neměla umělá inteligence výhody pro spotřebitele, vývoj těchto systémů pro produkty určené spotřebitelům by se zastavil. Spotřebitelům přinese umělá inteligence individualizovanější výrobky a služby. To, co bylo doteď výsadou bohatších, může být s umělou inteligencí běžné. Zrychlí se zákaznický servis, protože dotazy bude vyřizovat systém umělé inteligence. Umělá inteligence bude zákazníkům k dispozici 24 hodin denně, 7 dní v týdnu.

Výhodou pro podnikatele, ale i spotřebitele může být personalizovanější servis i nabídka produktů. Analýza dat získaných při používání nejrůznějších aplikací může uživatelům doslova zachránit život, když je upozorní na špatné hodnoty, které při používání naměřila. Věřím, že spotřebitel rychle pozná, co mu přináší užitek. Koneckonců umělá inteligence může pomoci spotřebiteli vyhodnotit, který produkt umělé inteligence nesplňuje určité parametry, o nichž poskytovatel tvrdí, že je splňuje, apod.


Přihlásit