Evropská unie chystá zákon o umělé inteligenci

Obsah květnového dTestu

Aktuální číslo časopisu dTest 5/2024 Obsah květnového dTestu

Sdílejte

Vydáno: 23.5.2023   

Členové EP se zasazují o posílení ochrany spotřebitelů v zákoně o umělé inteligenci, což by byl první zákon zabývající se umělou inteligencí na světě, jak upozornila evropská spotřebitelská organizace BEUC. Návrhy výborů řeší zásadní otázky, přesto nezohledňují všechny důsledky.

Text schválený výborem pro občanské svobody (LIBE) a výborem pro vnitřní trh a ochranu spotřebitele (IMCO) Evropského parlamentu zohledňuje klíčové problémy, které nebyly zahrnuty do stanoviska osmadvacítky z loňského prosince. Poslanci ve výborech hlasovali pro řadu zásadních rozhodnutí:

  • Zákaz vzdálené biometrické identifikace, například rozpoznávání obličeje, pro použití soukromými subjekty ve veřejných prostorách. Evropská komise již dříve zakázala její použití veřejnými orgány na veřejných prostranstvích.
  • Zákaz použití společenského bodování (tzv. systému sociálního kreditu) soukromými subjekty. Jde o systém umělé inteligence, který posuzuje důvěryhodnost jednotlivce na základě jeho sociálního chování nebo jeho preferencí, emocí, zdraví či inteligence.
  • Právo žádat o kolektivní odškodnění v případě, že systém umělé inteligence způsobí újmu skupině spotřebitelů.
  • Spotřebitelská práva při používání umělé inteligence včetně práva být informováni o rizicích, práva na stížnost u příslušných orgánů, práva soudně žalovat dozorčí orgán v případě jeho nečinnosti.
  • Zvláštní pravidla pro generativní umělou inteligenci, jako je ChatGPT, například povinnost vývojářů identifikovat, omezovat a zmírňovat rizika pro zdraví, bezpečnost a základní práva před uvedením systému na trh.

Doporučení výborů mají však také negativní stránky, upozornila organizace BEUC. Nedefinovaly jasně vysoce rizikový systém umělé inteligence, což poskytne vývojářům příliš mnoho prostoru pro rozhodování, zda lze jejich systém považovat za vysoce rizikový či nikoli. Podle BEUC by měla být zavedena certifikace třetí stranou. Zásady, které by se měly vztahovat na veškerou umělou inteligenci bez ohledu na rizikovost, budou pro její méně nebezpečné varianty pouze dobrovolné. Nezakazuje se monitorování emocí spotřebitelů při používání umělé inteligence, což může vést k vážnému porušení soukromí a omezení schopnosti nezávislého rozhodování.

Poté, co EP odhlasuje návrh výborů, proběhnou jednání s členskými státy ohledně finální podoby zákona. Nadcházející španělské předsednictví chce dosáhnout politické dohody do konce roku.

Přihlásit