Evropská vize digitální budoucnosti: Regulace internetu, umělá inteligence a sběr dat

© Shutterstock

Evropská komise dnes zveřejnila dlouho očekávanou a komplexní strategii s názvem Evropa v digitálním věku (Europe fit for the digital age). Na první pohled nic neříkající název v sobě obsahuje vizi směřování EU v digitální oblasti na příští desítky let.

Strategie v sobě neobsahuje žádnou zákonodárnou iniciativu, ukazuje však směry, kterými se současná Komise v této oblasti v příštích měsících vydá a jaké legislativní návrhy můžeme v oblasti digitální agendy v brzké době očekávat.

Oblast technologií a digitální ekonomiky a společnosti je pro novou Komisi jednou z priorit. V dnes vydaném dokumentu stojí, že internet a digitální technologie jsou nedílnou součástí našich životů, ať už pracovních, či soukromých. A tato propojenost a symbióza mezi technologiemi a lidmi se bude zcela jistě dále prohlubovat. Z toho důvodu je nejvyšší čas vytvořit zcela nová legislativní pravidla, která se vypořádají s podmínkami a prostředím, ve kterém dnešní digitální společnost žije.

Oblastí, na které bude třeba se zaměřit, je mnoho. Samotná strategie prozatím uvádí několik základních, na které se bude Komise v příštích měsících soustředit. Jedná se zejména o umělou inteligenci, internetové firmy a online platformy, digitální daň, oblast dat, kyberbezpečnost, ochrana médií a demokratických institucí či moderní vzdělávání.

A co Komise v těchto oblastech zamýšlí? Jaké jsou její plány a kdy představí konkrétní legislativní návrhy?

Internetové firmy a online platformy

Hlavním cílem v této oblasti je podle Komise nastavení jasných a jednoznačných pravidel v internetovém prostředí, konkrétně pak na trhu s digitálními službami. V současné době existuje legislativa regulující tradiční trhy a průmyslová a jiná odvětví. Nikdo se dnes již nepozastaví nad faktem, že je regulováno bankovnictví, pojišťovnictví, finanční trhy, automobilový sektor, doprava, zdravotnictví či stavebnictví.

Prostředí internetu, ve kterém vládnou internetoví giganti a různé online platformy, je však stále do jisté míry „divokým západem“ bez jasných pravidel.

„Je třeba vyjasnit roli a zodpovědnost online platforem s cílem učinit internet bezpečnějším místem. Nemůžeme dále tolerovat online prodej nelegálního a nebezpečného zboží a online šíření nezákonného obsahu. Internetové firmy musejí jednat zodpovědně a bojovat proti takovému nezákonnému obsahu, zároveň však musejí chránit svobodu slova,“ stojí v dnes zveřejněných dokumentech.

Z toho důvodu Komise ke konci roku 2020 představí balíček legislativních návrhů s názvem Digital Services Act. Konkrétní obsah a forma návrhů zatím není známá, už teď je ale jasné, že Digital Services Act – v případě, že bude přijat – vytvoří celoevropská závazná pravidla pro regulaci nenávistného a nezákonného obsahu (hate-speech, hate crime), politické reklamy a jejího zadávání na internetu včetně sociálních sítí (political advertising) nebo obsahu spojeného s terorismem.

Doposud funguje mazání takového ilegálního obsahu na principu dobrovolnosti ze strany internetových firem jako je Facebook, Youtube, Twitter apod., a to na základě přistoupení k tzv. Etickému kodexu (Code of Conduct). Podle nové legislativy by však princip notice and take down (zaznamenat a smazat nezákonný obsah) byl povinný a právně vynutitelný. A také dosah nových pravidel bude větší. Kromě známých firem a platforem včetně Googlu, Facebooku či Youtube se jim nevyhnou ani menší poskytovatelé internetových služeb či cloudová úložiště.

Jedním z motivů vytvoření právního rámce je mimo jiné i zjištění související třeba se zneužíváním dat společností Cambridge Analytica, šířením dezinformací a fake news (nejen) v předvolebním období či šířením záběrů teroristických útoků na sociálních sítích.

Ochrana médií a demokratických institucí

Tato problematika se do velké míry dotýká i agendy místopředsedkyně Komise Věry Jourové (ANO), která má na starosti evropské hodnoty a transparentnost. To jsou oblasti, do kterých spadá mimo jiné šíření dezinformací a lží, zasahování do demokratických voleb, problematika zadávání a šíření politické reklamy včetně cílené reklamy pomocí algoritmů a psychologického profilování na základě osobních dat uživatelů/voličů či ochrana osobních dat.

O těchto tématech Jourová před pár dny jednala i se zakladatelem Facebooku Markem Zuckerbergem. „Diskutovali jsme mimo jiné o tom, jak se platformy vypořádávají s výzvami jako jsou dezinformace či zasahování do voleb. Shodli jsme se na potřebě větší transparentnosti dat a algoritmů, které platformy využívání. Jen tak bude společnost vůči online manipulaci a propagandě více imunní,“ uvedla Jourová po jednání.

„Setkání bylo také příležitostí k tomu, abych panu Zuckerbergovi připomněla GDPR, tedy naše přísná pravidla na ochranu osobních údajů, která obsahují i pravidla pro přenositelnost dat. Od Facebooku očekávám pilné dodržování těchto pravidel, minimálně v Evropě,“ dodala eurokomisařka.

Podle Jourové jsou časy „gentlemanských dohod“ u konce. Podle ní už nadále nelze spoléhat na dobrou vůli ze strany internetových firem či na etické kodexy.

„V dlouhodobém horizontu musíme naši společnost obrnit proti online manipulaci a zasahování do našich demokratických procesů. Musíme investovat do digitální gramotnosti, do prosazování kvalitní a nezávislé žurnalistiky a mediálního pluralismu,“ prohlásila Jourová a dodala, že to vše musí probíhat při zachování základních lidských práv a svobod včetně svobody slova.

„Mám na starosti vytvoření Akčního plánu pro demokracii v Evropě (European Democracy Action Plan) a pracuji ruku v ruce s místopředsedkyní Komise Margrethe Vestagerovou na vytvoření Digital Services Act. Tyto nástroje nám pomohou vypořádat se s výzvami, o kterých jsme s panem Zuckerbergem mluvili,“ dodala Jourová.

Součástí Digital Services Act tedy nebude jen regulace nezákonného a nenávistného obsahu, ale bude zahrnovat i boj proti dezinformacím a zasahování do demokratických voleb či ochranu demokratických institucí v EU. Spojitost zde ale můžeme najít i se snahou o zachování plurality médií a posilování kvalitní a nezávislé žurnalistiky založené na faktech, a nikoli na lživém a manipulativním obsahu. To vše pak souvisí i s reformou vzdělávání, které se podle Komise rovněž musí přizpůsobit novému digitálnímu prostředí. To nesouvisí jen s mediální gramotností, ale také s posilováním gramotnosti digitální.

Bližší informace a konkrétní kroky v těchto oblastech by měly přinést tři akční plány, které Komise představí pravděpodobně v druhé polovině tohoto roku. Bude se jednat o už zmíněný Democracy Action Plan, jehož vytvoření má na starosti Věra Jourová, a dále o tzv. Media Action Plan a Digital Education Action Plan.

20 let stará směrnice

Digital Services Act bude ale mít ještě větší dosah. Nahradí totiž 20 let starou evropskou směrnici zvanou e-commerce, která stanovuje pravidla pro fungování online služeb na jednotném trhu, nicméně nevytváří prakticky žádnou efektivní regulaci technologického sektoru.

Vedle výše zmíněného důrazu na nezákonný obsah je tak ambicí Digital Services Act i stanovení nových pravidel hospodářské soutěže v prostředí internetu včetně většího důrazu na zneužívání dominantního postavení na trhu, jeho monopolizaci a na jiné protisoutěžní jednání.

Od nové Komise v tomto ohledu můžeme očekávat větší důraz na vymáhání pravidel hospodářské soutěže ve vztahu k internetovým gigantům. S tím už do jisté míry začala předchozí Komise pod vedením Jean-Claude Junckera.

Příkladem může být pokuta Googlu ve výši 1,5 miliardy eur, udělená v loňském roce ze strany Komise za zneužití postavení na trhu. Jednalo se přitom již o třetí podobnou finanční sankci  udělenou této společnosti od roku 2017. Dá se tedy předpokládat, že nová Komise bude v důsledném vymáhání soutěžního práva ze strany internetových společností pokračovat.

Digitální daň

Velkým tématem v souvislosti s vymáháním pravidel hospodářské soutěže v internetovém prostředí je i stanovení tzv. digitální daně. Tomuto tématu se EURACTIV.cz věnuje dlouhodobě, bližší informace můžete nalézt například v následujících článcích či rozhovorech:

Digitální firmy daní tam, kde je to výhodné. Unie to chce změnit

Evropská unie potřebuje novou legislativu pro danění digitálních firem, jako je Google nebo Facebook. Byznys se však obává negativních dopadů. 

EU se nedohodla na zavedení digitální daně, Visegrád se proto chystá jednat na vlastní pěst

Evropský plán na zdanění digitálních gigantů ztroskotal kvůli odporu některých členských států. Komise proto navrhuje, aby Rada EU rozhodovala o této oblasti kvalifikovanou většinou. Země V4 nový způsob hlasování odmítají a digitální společnosti chtějí místo toho danit po svém.

Marcel Kolaja: Celoevropské řešení je jediná šance, jak vynutit digitální daň

Nová Evropská komise nebude chtít směrnici o copyrightu znovu otevírat. Uvidíme, co přinese polská žaloba u Soudního dvora, říká v rozhovoru pro EURACTIV.cz Marcel Kolaja. V nejbližší době se chce zaměřit na regulaci teroristického obsahu na internetu.

Rakousko chce dohodu o digitální dani do konce roku. Existuje i vhodnější řešení, upozorňuje expert

Členské země v Radě tento týden řešily, jak přistoupit ke zdanění digitálního obsahu v EU. Předsedající Rakousko by chtělo dohodu ještě letos, musí ale přesvědčit skeptičtější země.

V souvislosti s novou strategií je však nutno zmínit, že členské státy se na zavedení celoevropské digitální daně v loňské roce neshodly, mnohé státy – včetně České republiky – se proto rozhodly jednat na vlastní pěst a postupně digitální daň zavádí na národní úrovni.

Zároveň se v tomto ohledu vyčkává na výsledek jednání na úrovni OECD. Komise uvedla, že nová iniciativa na zavedení digitální daně bude v blízké době představena, bližší informace však neposkytla. Je ale zřejmé, že nový návrh ze strany Komise bude záviset právě na výsledku vyjednávání na úrovni OECD.

Umělá inteligence

Důležité místo v nové strategii má i umělá inteligence. Komise, politici i mnozí odborníci totiž zastávají názor, že výzkum, vývoj i následná aplikace této přelomové technologie jsou sice nezbytné, neobejdou se však bez moderní a promyšlené právní regulace. Aktuální informace se můžete dočíst v následujících textech:

Dobrý sluha, ale zlý pán. Unie bude regulovat umělou inteligenci

Rozpoznávání obličejů, bezpečnější ulice nebo také příležitost pro evropské a české firmy. To všechno představuje umělá inteligence, tedy technologie, která dokáže napodobovat lidskou inteligenci. 

Mikuláš Peksa: Zelená ekonomika není hrozba, ale obrovská příležitost pro české firmy

Nově zvolený pirátský europoslanec Mikuláš Peksa se chce v Evropském parlamentu zaměřit na rozvoj a regulaci umělé inteligence, ale i na prosazování zelenější ekonomiky. Ta je podle něj příležitostí i pro české firmy. Evropskou unii kritizuje především za slabou zahraniční politiku, která pramení ze zásady jednomyslného hlasování v Radě.

Unie se připravuje na éru umělé inteligence. Lidé mohou kvůli ní přijít o práci, ale také získat nové příležitosti

Evropané se obávají, že roboti je v budoucnu připraví o práci. Unie se proto chce umělé inteligenci postavit čelem a chystá strategii, která má zajistit, aby z nových technologií těžili všichni.

Klíčovým dokumentem v této oblasti je Bílá kniha o umělé inteligenci (White Paper on artificial intelligence). Ta určuje možnosti budoucího legislativního rámce, který by měl stanovit pravidla jednak pro výzkum a vývoj AI, jednak by měl klást důraz i na zachování základních lidských práv a svobod, ochranu osobních údajů a etické otázky.

Velké kontroverze v tomto ohledu vzbuzuje například technologie rozpoznávání obličejů. Původně se spekulovalo o tom, že EU zakáže využívání technologií rozpoznávání obličejů, a to z důvodu porušování pravidel na ochranu osobních údajů. Nyní se ale zdá, že od zákazu pomalu ustupuje. Není ale zatím jasné, zdali od něj upustí úplně.

„Původně to vypadalo, že Komise měla v úmyslu dočasně zakázat technologie rozpoznávání obličeje ve veřejných prostorech. Pokud ale během interního konzultačního procesu tento zákaz zmizel, je to z pohledu základních práv výrazný krok zpět,“ říká místopředseda Evropského parlamentu Marcel Kolaja (Piráti, Greens/EFA).

Na nebezpečí této technologie upozorňuje i David Nosák z bruselské pobočky amerického think-tanku Center for Democracy and Technology.

„Rozpoznávání obličejů je velmi důležitá součást AI a můžeme počítat s tím, že Komise s ní nějakým způsobem bude pracovat. Na jednu stranu tato technologie může být použita k verifikaci a identifikaci v oblastech, ve kterých to nemusí budit žádné znepokojení, tedy pokud jde např. o odemykání vlastního telefonu pohledem do kamery. Na druhou stranu zde máme veřejný prostor, ve kterém se tato technologie může rychle proměnit v nástroj sledování, který bude porušovat základní lidská práva a svobody,“ uvádí.

„Dobrým příkladem je v tomto ohledu Čína, kde již byla zaznamenána řada případů využití této technologie pro boj s politickými odpůrci. Musíme tedy nalézt rovnováhu mezi výhodami, které AI přinese, a mezi zachováním individuálních svobod a soukromí,“ dodává.

Vedle rozpoznávání obličejů se Bílá kniha zaměří i na další oblasti. Komise chce klást důraz na budování testovacích a technologických center v zemích EU, která by měla vedle výzkumu a vývoje technologií AI spolupracovat s podnikateli, firmami, veřejným sektorem i s univerzitami a vědeckými institucemi.

Samotná Bílá kniha by měla nastartovat celoevropskou diskuzi o tom, v jakých odvětvích a v jaké míře najde AI své uplatnění. Do konzultací by se dle Komise měla zapojit celá řada odvětví od zdravotnictví, přes dopravu, finančnictví, veřejnou správu až po oblast kultury či školství.

„Umělá inteligence bude využívána v mnohem větší míře v mnoha nejrůznějších zařízeních. Nejen ve smart automobilech, ale třeba i ve videohrách, není možné požadovat ve všech úrovních stejné zabezpečení. Mít pro všechna tato zařízení stejnou regulaci, jak o tom strategie uvažuje v jedné ze tří částí, by bylo velmi riskantní a mohlo by mít na digitální sektor negativní důsledky,“ upozorňuje však na možná úskalí budoucí regulace místopředsedkyně Evropského parlamentu Dita Charanzová (ANO, RE)

Shromažďování, zpracování a sdílení dat

Plánovat výzkum a vývoj umělé inteligence je jedna věc, bez dostatečného množství dat, na kterých se umělá inteligence bude testovat a učit, je však realizace těchto plánů nemožná. I proto je součástí strategie a budoucího směřování EU i problematika dat, a to jak těch veřejně dostupných, tak soukromých.

„Bavíme-li se o obsahu, věřím, že Komise by měla stát v první řadě na straně občanů, tedy uživatelů. Jejich osobní data musí být velmi pečlivě chráněna. A jakákoli data obecně by měla být těžena eticky. Znepokojuje mě tedy například, že návrh regulace umělé inteligence příliš nebere v potaz etické otázky spojené např. s rozpoznáváním obličejů,“ upozorňuje český europoslanec Mikuláš Peksa (Piráti, Greens/EFA)

V oblasti ochrany soukromých a osobních dat je EU světovým lídrem, a to zejména díky nařízení GDPR. Základní informace o tomto nařízení si můžete přečíst v následujících článcích:

Revoluce v ochraně osobních údajů se blíží, velkým firmám budou hrozit větší pokuty

V EU se radikálně změní pravidla pro ochranu osobních údajů. Nové nařízení začne sice platit až v květnu příštího roku, podnikatelé ale mají plné ruce práce už teď. Na nová pravidla se totiž musí řádně připravit. V opačném případě jim budou hrozit pokuty do výše 20 milionů eur nebo do 4 % jejich globálního ročního obratu.

Jak se vyhnout pokutě? GDPR se týká každého z nás, firmy ale přípravu podceňují

Nové nařízení o ochraně osobních údajů se dotkne každého, kdo jakýmkoli způsobem uchovává nebo zpracovává osobní data. Jde tedy o obrovské množství podnikatelů, živnostníků, veřejných institucí nebo organizací. Velká část z nich ale stále neví, jak k novým pravidlům přistoupit. Co jsou tedy ty základní kroky, které by měl co nejdříve učinit každý, koho se GDPR týká?

Kolem GDPR propukla zbytečná hysterie. Podvodníci vidí příležitost

Nařízení GDPR přináší mnoho novinek, kdo ale dodržoval stávající pravidla, neměl by mít s přechodem na novou legislativu problém. Objevuje se však stále více těch, kteří na GDPR chtějí vydělat. Z toho důvodu straší starosty i podnikatele, kteří platí velké částky za zbytečné analýzy, metodiky a opatření.

Strategie ale problematiku dat vnímá mnohem šířeji. Komise dnes v rámci komplexní strategie představila Evropskou strategii pro data (European data strategy), na kterou ve druhé polovině roku 2020 navážou legislativní návrhy Data governance a Data Act. Jejich cílem bude posílit využití dat v evropské ekonomice, stanovit pravidla pro sdílení dat mezi podnikateli a firmami a vládou, mezi podnikateli a firmami navzájem či zajistit větší kontrolu osobních dat.

European data strategy, Bílá kniha o umělé inteligenci a balíček návrhů v rámci Digital Services Act tedy tvoří tři hlavní pilíře, na kterých má být postavena digitální budoucnost EU.

Pokud jde o samotnou evropskou „datovou strategii“, jejím cílem by mělo být vytvořit do roku 2030 tzv. EU data space, tedy jakýsi jednotný trh pro volný pohyb dat napříč členskými státy. Evropské společnosti a veřejná správa by měly mít přístup k obrovskému množství dat generovaných na území členských států, čímž by v tomto ohledu EU měla dohnat firmy jako Facebook, Google, Tencent či Alibaba, které disponují velkým množstvím shromážděných dat, což pro ně znamená významnou komparativní výhodu.

„V současné době drží pár technologických gigantů velkou část světových dat. V budoucnu pak bude velké množství dat generováno z průmyslu, oblastí veřejného života, internetu věcí a jiných oblastí každodenního života. V těchto oblastech je EU silná,“ uvádí se ve strategii.

Data jsou velmi cenný statek nejen podle Komise. Vždyť prakticky celá podnikatelská strategie společností jako je Facebook je založena na datech a jejich využívání v marketingu. EU by tak do budoucna měla využívat data generována v Evropě mnohem více, a to především v oblasti výroby, ochrany klimatu, mobility, zdravotnictví, financí, energetiky, zemědělství, práva a veřejných zakázek a dovedností. Investice do nejrůznějších datových center by měly dosáhnout až 6 miliard eur.

Komise tak chce do budoucna zajistit lepší a jednodušší sdílení veřejně dostupných dat napříč celou EU a veřejnou a soukromou sférou. Zároveň chce ale i nadále klást důraz na ochranu osobních dat a nutnost udělit souhlas uživatelů s jejich shromažďováním, zpracováváním a užíváním.

Důležitou součástí těchto plánů je i přijetí nařízení ePrivacy, které mělo být původně schváleno ve stejné době jako GDPR. Mezi státy se však doposud na znění tohoto nařízení nenašla shoda. I toto nařízení má – stejně jako GDPR – za úkol chránit osobní data a soukromí uživatelů, tentokrát ale při využívání telekomunikačních služeb – ať už těch klasických či internetových. Poskytovatelé všech telekomunikačních služeb (včetně aplikací typu Skype, WhatsApp apod.) by tak měli mít v oblasti ochrany osobních dat stejné povinnosti. V následujících měsících se očekává představení nového a přepracovaného návrhu této legislativy.

Komise je v ochraně soukromí příliš přísná, státy chtějí mírnější podmínky

Podle některých členských zemí EU je nový návrh Komise na ochranu osobních údajů příliš přísný. Rádi by do něj zakomponovaly ustanovení, podle kterého by si společnosti poskytující telekomunikační služby mohly po určitou dobu uchovávat data svých uživatelů. Zdůvodňují to zejména potíráním trestné činnosti.

Kyberbezpečnost

V neposlední řadě je třeba zmínit, že součástí unijní strategie je i větší důraz na kyberbezpečnost. Také tomuto tématu se naše redakce dlouhodobě věnuje, základní informace o posledním vývoji v této oblasti na úrovni EU se můžete dočíst v následujících textech:

Revoluce v kyberbezpečnosti? Nový systém má ukázat odolnost elektroniky vůči hackerům

Kybernetické útoky mohou zasáhnout nejen počítače či telefony. Hackeři jsou dnes schopni zaútočit i na chytré domácí spotřebiče. Evropský parlament proto přijal nařízení, které má unijní trh postupně zbavit nedostatečně chráněných výrobků.

Ministrům došla trpělivost. Za kyberútoky mohou zmrazit účty a zakázat vstup do EU

Kybernetické útoky jsou čím dál větší problém a EU přemýšlí, jak se bránit. Jednou z možností je nově i uvalení sankcí na fyzické a právnické osoby. Kromě zmrazení majetku je možný i zákaz vstupu do EU.

Pavel Telička: Kyberútoky mohou ohrozit tisíce životů. Přenechat 5G síť firmě Huawei je obrovsky nezodpovědné

S místopředsedou Evropského parlamentu Pavlem Teličkou (ALDE) redakce mluvila mimo jiné o tom, jak bude vypadat kampaň před evropskými volbami nebo proč by politici neměli zpochybňovat varování NÚKIB. S čím půjde hnutí Hlas do voleb? A proč mu nevadí více antievropských poslanců?

Kromě v loňském roce přijatého aktu o kybernetické bezpečnosti, který mimo jiné zavádí certifikaci výrobků podle jejich odolnosti vůči kyberútokům a posiluje Evropskou agenturu pro bezpečnost sítí a informací (ENISA), se v nových plánech Komise objevují i návrhy na mnohem užší spolupráci v rámci EU.

Prioritou má být vytvoření tzv. společné kybernetické jednotky (Joint Cyber Unit), přičemž celý proces vytváření této jednotky byl měl začít již v první půli tohoto roku. Jádrem nové spolupráce by podle Komise měl být důraz na sdílení informací, zkušeností a dovedností v oblasti kybernetické bezpečnosti mezi členskými státy.

Další stanoviska

Dita Charanzová, místopředsedkyně Evropského parlamentu (ANO, Renew)

Strategii, kterou představila Evropská komise, vítám, zároveň ale varuji před jakoukoli přehnanou regulací, která by v rozvoji omezovala naše firmy. Každý legislativní krok musí být velmi pečlivě vážen, hodnocen z hlediska rizik dopadu právě na digitální sektor.

Předpisy, které dnes fungují, není třeba od základu měnit, pouze upravit na základě vývoje. Neměli bychom zavádět taková pravidla, která budou brzdit výzkum. Například volný tok dat je dnes páteří nového technologického rozvoje. Plánované cloudové databáze, které jsou součástí dnes prezentované Strategie, by tedy neměly stavět ochrannou zeď kolem Evropy. Takový protekcionismus by byl velmi krátkozraký. Transatlantický tok dat je strategicky důležitý pro digitální ekonomiku Evropy.

Představa Evropy jako globálního lídra v digitální oblasti, včetně umělé inteligence, je mi vlastní, musíme být velmi opatrní v tom, abychom soukromý sektor nesvazovali předpisy, které by je namísto pomoci demotivovaly či nutily uvažovat o změně kontinentu pro svoji činnost.

Mikuláš Peksa, poslanec Evropského parlamentu (Piráti, Zelení/EFA)

Jsem rád, že Komise vůbec má komplexní strategii pro rozvoj digitálního sektoru, existuje nějaký plán a lze o něm diskutovat. Nejsem si ale jist, jestli politika Komise směřuje správným směrem. Byl bych rád, kdyby digitální sektor fungoval decentralizovaně a malé a střední podniky se do něj mohly snadno zapojovat díky otevřeným technologiím. Velice by mě znepokojilo, kdyby strategie Komise směřovala k budování nějakých evropských digitálních monopolů, které by byly obdobou zámořských technologických gigantů.

David Nosák, Center for Democracy and Technology

V naší organizaci se soustředíme primárně na oblasti spojené se soukromím, daty, digitálními platformami, kyberbezpečností či vládním sledováním. I z toho důvodu budeme pečlivě analyzovat Bílou knihu o umělé inteligenci, stejně jako vytváření a obsah návrhu Digital Services Act.

Pokud jde o AI, je třeba si uvědomit, že v tomto ohledu primárně nemluvíme o futuristických robotech či super inteligentních počítačích, které vládnou světu. Mluvíme o AI, která již existuje, kterou již užíváme, se kterou spolupracujeme každý den. AI už nyní rozhoduje, jaké výsledky vám ukáže internetový vyhledávač, jakou muziku vám doporučí Spotify, na jaké cíle zamíří ta která reklama a obsah na Facebooku.

Digital Services Act aktualizuje a modernizuje pravidla pro fungování online platforem, přičemž nahradí 20 let starou směrnici e-commerce. Jednou z nejdůležitějších otázek v tomto ohledu bude, zdali budou poskytovatelé internetových služeb odpovědní za obsah, který jejich uživatelé sdílejí či nahrávají, a to i v případě, kdy o případném nelegálním obsahu ani sami poskytovatelé služeb nebudou vědět. Komise opakovaně zdůrazňuje, že v kontextu boje proti dezinformacím a nenávistnému obsahu bude chtít po online platformách více iniciativy či dokonce právní odpovědnost. Zde však přichází riziko automatických upload filtrů, které mohou vést k neúmyslnému blokování či mazání legálního obsahu (jako např. karikatury či tzv. memy), což může v konečném důsledku vést k omezování svobody slova na internetu.