Ne děravé regulaci umělé inteligence

Obsah dubnového dTestu

Aktuální číslo časopisu dTest 4/2024 Obsah dubnového dTestu

Sdílejte

Vydáno: 8.9.2023   

Celkem 118 evropských organizací chránících spotřebitele a občanská práva, včetně dTestu, vydalo společné prohlášení k navrhovanému znění Aktu o umělé inteligenci. Důvodem je upravený návrh Aktu o umělé inteligenci, kterým se vytváří mezera v pravidlech pro vysoce rizikové systémy umělé inteligence. Mezera musí být zacelena a principy vysoké úrovně ochrany fyzických osob musí být zachovány.

Evropská unie vstupuje do závěrečné fáze jednání o Aktu o umělé inteligenci. Velké technologické společnosti a další průmyslové subjekty lobbují za zavedení významné mezery do procesu klasifikace vysoce rizikových systémů umělé inteligence, která by celý právní předpis zpochybnila. Akt EU o umělé inteligenci ve své původní podobě obsahoval seznam vysoce rizikových systémů umělé inteligence, včetně například systémů používaných k hodnocení studentů, k posuzování úvěruschopnosti fyzických osob, k hodnocení uchazečů o zaměstnání a k určování, kdo získá přístup k sociálním dávkám. Navržený právní předpis dále vyžadoval, aby vývojáři a poskytovatelé těchto vysoce rizikových systémů umělé inteligence zajistili, že jejich systémy jsou bezpečné a poskytují veřejně přístupné informace o tom, jak jejich systémy fungují.

Akt o umělé inteligenci bude mít formu nařízení. V systému evropského práva to znamená, že akt bude přímo účinný ve všech zemích Evropské unie a v zemích Evropského sdružení volného obchodu. Informace z Evropského parlamentu k Aktu o umělé inteligenci naleznete zde

Tyto podmínky však oslabila nebezpečná mezera zavedená do procesu klasifikace vysoce rizikových způsobů použití umělé inteligence v článku 6. V původním návrhu Evropské komise byl systém umělé inteligence považován za vysoce rizikový, pokud měl být použit k jednomu z vysoce rizikových účelů uvedených v příloze III. Aktu. Rada a Evropský parlament však navrhují, aby vývojáři těchto systémů sami rozhodli, zda jimi vytvářený systém je vysoce rizikový. Pokud by návrh článku 6 zůstal v posledním navrženém znění, umožnil by Akt o umělé inteligenci vývojářům umělé inteligence rozhodnout o vyjmutí vysoce rizikových systémů ze všech hmotněprávních pravidel. Akt o umělé inteligenci by:

- Zavedl vysokou právní nejistotu ohledně toho, které systémy jsou považovány za „vysoce rizikové".
- Vedl k roztříštěnosti jednotného trhu EU, neboť členské státy si různě vykládají, co je „vysoké riziko".
- V důsledku toho by orgány členských států čelily vážným problémům při prosazo-vání právních předpisů, protože by neměly dostatek prostředků na dostatečnou kontrolu sebehodnocení vývojářů.
- Umožnil bezohledným vývojářům vyhnout se základním požadavkům Aktu o umělé inteligenci. Naopak, zodpovědní vývojáři umělé inteligence by se tím ocitli v nevýhodě.

118 spotřebitelských a občanských organizací naléhavě žádá evropské zákonodárce, aby tyto návrhy zrušili a vrátili původní znění článku 6, které předtím Evropská komise navrhla. Akt o umělé inteligenci musí upřednostňovat práva fyzických osob, kterých se systémy umělé inteligence dotýkají, a zajistit, aby vývoj a používání umělé inteligence byly odpovědné a transparentní.
 


Přihlásit