Duch ve stroji – rizika generativní umělé inteligence z pohledu spotřebitele a jejich řešení

Obsah dubnového dTestu

Aktuální číslo časopisu dTest 4/2024 Obsah dubnového dTestu

Sdílejte

Vydáno: 20.6.2023   

Forbrukerrådet (norská spotřebitelská organizace) dnes zveřejnila podrobnou zprávu "Ghost in the machine – Addressing the consumer harms of generative AI" (Duch ve stroji – rizika generativní umělé inteligence z pohledu spotřebitele a jejich řešení). Zpráva popisuje hrozby, právní rámec a možné způsoby ochrany práv spotřebitelů v souvislosti s překotným rozvojem generativní umělé inteligence. Spotřebitelské organizace z celé EU a USA v souvislosti se zveřejněním zprávy apelují na politické zástupce i regulační orgány, aby nečekali na připravovaný Akt o umělé inteligenci a zasadili se o využívání současných nástrojů k ochraně spotřebitelů v dané oblasti.

Pokud máte otázky k tomuto tématu, můžete se obrátit na naši bezplatnou spotřebitelskou poradnu, a to elektronicky na www.dtest.cz/spotrebitelska-poradna nebo telefonicky na číslo 299 149 009.

Zpráva norské spotřebitelské organizace konstatuje, že dokud nebude platit Akt o umělé inteligenci z dílny Evropské unie, musí úřady aktivně zkoumat, kde mohou nové produkty a služby založené na generativní umělé inteligenci poškozovat spotřebitele, a prosazovat stávající právní předpisy o ochraně údajů, bezpečnosti a ochraně spotřebitele. Podnikatelé a jiné osoby, kteří v rámci své profese nasazují prostředky umělé inteligence, nemohou být zproštěni povinnosti dodržovat stávající předpisy a spotřebitelé by neměli být manipulováni nebo klamáni jen proto, že tato technologie je nová. Společně s dalšími organizacemi chránícími spotřebitele se domníváme, že technologie není nekontrolovatelná síla, ale musí být přizpůsobena a formována základními právy, předpisy a společenskými hodnotami. Jsme na místě řidiče, pokud se tak rozhodneme. Mnoho výzev, kterým čelíme, lze navíc řešit pomocí zákonů, které již máme.

K zajištění právní ochrany spotřebitelů je rovněž nezbytné, aby příslušné dozorové orgány disponovaly potřebnými zdroji a kompetencemi, které jim umožní sledovat technologický vývoj a vymáhat dodržování stávajících předpisů vůči komukoliv, kdo by chtěl při své podnikatelské činnosti neoprávněně využívat generativní umělou inteligenci.

Zpráva proto také vyzývá k:

  • posílení práv spotřebitelů tak, aby bylo zajištěno, že nová technologie bude využívána férově a bude pro spotřebitele bezpečná a spolehlivá;
  • přijetí strategie zastřešující téma umělé inteligence, která by zohlednila nedávný vývoj, kladla důraz na základní práva a stanovila jasné mantinely pro používání generativní umělé inteligence ve veřejném sektoru;
  • vytvoření vyhovujícího právního rámce pro případy, kdy stávající zákony nedostačují.

Dozorové orgány musí aktivně jednat

Vytvoření kvalitního mezinárodního právního rámce v oblasti regulace umělé inteligence bude trvat několik let, a to i přesto, že práce na příslušných právních dokumentech neustále postupuje. Evropský parlament 14. června schválil text návrhu nařízení na regulaci umělé inteligence, tzv. Akt o umělé inteligenci. Návrh však musí projít dalšími fázemi legislativního procesu – nyní bude projednán Evropskou komisí a Radou. Nařízení bude mít významný dopad na vývoj a využívání umělé inteligence. Nicméně lidé tuto technologii používají již nyní a poškozování práv spotřebitelů nelze v některých případech vyloučit. Proto je důležité, aby vnitrostátní orgány mezitím vyplnily mezeru důsledným prosazováním současných předpisů.

Zpráva norské spotřebitelské organizace je v angličtině dostupná zde.


Přihlásit