Umělá inteligence přináší otázky i v oblasti ochrany osobních údajů

Obsah květnového dTestu

Aktuální číslo časopisu dTest 5/2024 Obsah květnového dTestu

Sdílejte

Vydáno: 25.5.2023   

Obecné nařízení o ochraně osobních údajů (GDPR) je účinné již pět let. Přineslo do vztahů mezi správci, zpracovateli, subjekty osobních údajů a dozorovými orgány nové povinnosti a práva. S nástupem generativní umělé inteligence se však otevírají další otázky, na které musí provozovatelé systémů umělé inteligence řádně odpovědět. Evropský parlament v současnosti projednává návrh aktu o umělé inteligenci, který by měl tyto otázky pomoci řešit.

Před rokem jsme se ve vztahu k ochraně osobních údajů zabývali rozhodnutím Evropského soudního dvora, kterým bylo spotřebitelským organizacím umožněno podávat zástupné žaloby i ve věcech týkajících se ochrany osobních údajů spotřebitelů. Bohužel, za rok jsme se u hromadných žalob posunuli spíše k horšímu, protože rizika pro spotřebitelské organizace spojená s těmito řízeními, pokud systém hromadného řízení projde legislativním procesem tak jak je navrhován, budou fungovat jako obrovská překážka podání jakékoliv hromadné žaloby. Hrozí tak situace, že do českého právního řádu přibude předem nefunkční systém hromadného řízení, který ani v oblasti ochrany osobních údajů spotřebitelům nic nepřinese.

Dlouhodobě se snažíme o posílení práv spotřebitelských organizací při ochraně osobních údajů spotřebitelů. Spotřebitel často stojí sám proti obrovským nadnárodním korporacím a jejich technicky i právně složitým výrobkům a službám. Mezi odbornou veřejností je dobře známa stížnost dTestu na společnost Google ve věci zneužívání lokalizačních údajů fyzické osoby ze strany této společnosti. Ani čtyři a půl roku od podání stížnosti nemáme v rukou rozhodnutí irského dozorového orgánu ve věci této stížnosti. Prokazuje se tím, že vymahatelnost práv spotřebitelů, nejenom v oblasti ochrany osobních údajů, je velmi komplikovaná.

V současné době je velkým tématem nástup generativní umělé inteligence, zejména z hlediska možné manipulace se zdrojovými daty, které systémy umělé inteligence používají, dále v oblastech ochrany osobních údajů a autorských práv. Demokratické společnosti mohou být umělou inteligencí ovlivňovány v řadě oblastí při rozhodování osob, podnikatelů i veřejných institucí.

Veřejná diskuse o regulaci umělé inteligence tak pozměnila i debatu o Aktu o umělé inteligenci, který je aktuálně projednáván v Evropském parlamentu. Výbor pro občanské svobody (LIBE) a Výbor pro vnitřní trh a ochranu spotřebitelů (IMCO) Evropského parlamentu v oblasti ochrany osobních údajů například navrhují:

  • Zcela zakázat biometrickou identifikaci na dálku, jako je rozpoznávání obličeje, ve veřejně přístupných prostorách.
  • Zakázat sociální scoring, pokud je používán soukromými subjekty, což znamená, že systém umělé inteligence nesmí vyhodnocovat důvěryhodnost jednotlivce na základě sociálního chování nebo preferencí, emocí, zdraví nebo inteligence.
  • Stanovit vývojářům umělé inteligence povinnost identifikovat, snížit a zmírnit rizika pro zdraví, bezpečnost a základní práva před uvedením systému umělé inteligence.

Máme stále výhrady k vymáhání práv spotřebitelů podle GDPR. Ale je nesporné, že po pěti letech účinnosti můžeme GDPR hodnotit pozitivně, protože je robustním nástrojem chránícím spotřebitele. Očekáváme totéž od Aktu o umělé inteligenci a v dTestu si zejména přejeme, aby v debatě o hromadných žalobách, které jsou potřebné pro zajištění vymahatelnosti práv spotřebitelů, vzali i naši zákonodárci tato práva vážně.

Další informace můžete získat v článku Umělá inteligence, spotřebitel v ohrožení. Můžete se obrátit na bezplatnou spotřebitelskou poradnu dTestu elektronicky na www.dtest.cz/spotrebitelska-poradna nebo telefonicky na čísle 299 149 009. Můžete podpořit i naši kampaň Za hromadné žaloby.


Přihlásit