Umělá inteligence z pohledu spotřebitele

Obsah srpnového dTestu

Aktuální číslo časopisu dTest 8/2022 Obsah srpnového dTestu

Vydáno: 22.4.2022   

Je to rok, co Evropská komise zveřejnila návrh nařízení o umělé inteligenci. Z hlediska spotřebitelů se toto téma může jevit jako relativně odtažité, opak je však pravdou. Spotřebitelé a jejich inteligentní zařízení vytvářejí obrovská množství dat, jednání prakticky každého z nás je různým způsobem monitorováno a vyhodnocováno. A právě umělá inteligence je ideální pro zpracování všech těchto údajů. Zaměřili jsme se na hlavní otázky, na které by se měl spotřebitel předem zeptat, než začne používat zařízení využívající prvky umělé inteligence.

Spotřebitelský problém? Volejte poradnu dTestu na telefonním čísle 299 149 009. Naši poradci jsou připraveni vám pomoci každý všední den od 9 do 17 hodin.

Používáte chytrý mobilní telefon, počítač, uvažujete o chytré domácnosti nebo takovou domácnost už máte? Jezdíte autem a chodíte po ulicích? Pak je důležité vědět, že počítačové programy zpracovávají údaje, které vaše chování vytváří, a to různým způsobem a k různým účelům. S umělou inteligencí je to jako s ohněm. Je to dobrý sluha, ale zlý pán. Spotřebitelé si musí být vědomi základních principů umělé inteligence a současných i budoucích pravidel jejího používání.

Už v současné době je zpracování údajů fyzických osob významně regulováno, zejména obecným nařízením o zpracování osobních údajů, které je i u nás známé pod anglickou zkratkou GDPR. Tato pravidla musí zachovávat i každý systém, který se sám učí a optimalizuje, tedy systém využívající umělou inteligenci. Tyto systémy nemohou libovolně zpracovávat vaše osobní údaje, například nemohou bez právního důvodu sledovat vaše chování na ulici a spojovat toto chování s jinými daty. Návrh nového nařízení o umělé inteligenci jde však dále. Důvodem pro připravovanou evropskou regulaci umělé inteligence je zachování základních práv a hodnot Unie, při zachování konkurenčních výhod, které rozvoj systémů užívajících umělou inteligenci mohou společnosti přinášet. Některé praktiky, jako například takzvaný „social scoring“ známý z Číny, má být chystaným nařízením jednoznačně zakázán.

A co by vás jako spotřebitele mělo při výběru zařízení nebo aplikace z pohledu rizik spojených s umělou inteligencí zajímat? První otázkou, kterou si musíte položit je, zda zařízení nebo aplikace někam po internetu předává data. Druhou otázkou je, zda vám vadí možnost, že zařízení nebo aplikace za vás do větší nebo menší míry může rozhodovat. Pokud vám to vadí, musíte si zjistit, zda vám byla dostatečně, jasně a srozumitelně vysvětlena kritéria pro toto rozhodování a zda s těmito kritérii souhlasíte. Je možné, že průměrný spotřebitel bude mít s hodnocením dopadů zařízení a aplikací užívajících nástroje umělé inteligence potíže. To je však pouze špička ledovce. Umělá inteligence může zpracovávat a hodnotit celou řadu údajů, která se spotřebitelů dotýkají nepřímo. Představte si třeba svůj životopis zaslaný velké korporaci. Je možné, že velké množství žádostí o práci vyhodnotí program bez účasti člověka s použitím kritérií, které se tento program naučil používat. Budou tato kritéria v souladu se zákonem? To nevíme.

Společně s ostatními evropskými spotřebitelskými organizacemi usilujeme o posílení práv spotřebitelů ve vztahu k umělé inteligenci. Snažíme se nařízení doplnit o popis dalších zakázaných praktik, zajistit transparentnost a práva spotřebitelů na obranu a odškodnění v případech, kdy bude umělá inteligence používána v rozporu s tímto nařízením. Nové technologie vyžadují důvěru spotřebitelů, nesmí napomáhat k dehumanizaci společnosti.

Chcete-li poradit ohledně svých práv při užívání chytrých zařízení, můžete se obrátit na naši bezplatnou spotřebitelskou poradnu elektronicky na www.dtest.cz/spotrebitelska-poradna.


Přihlásit