Evropa má v umělé inteligenci co dohánět, přesto ji chce regulovat

© Pixabay

Umělá inteligence zažívá obrovský rozvoj a technologie, které s ní v nějaké formě pracují, se stávají běžnou součástí lidských životů, od internetových vyhledávačů až po fotoaparáty s rozpoznáváním tváří. Současně však tento svět algoritmů skýtá i řadu nástrah a rizik pro svobodnou společnost. Jak může Evropa umělou inteligenci regulovat a zároveň těžit z jejího potenciálu?

Technologie využívající umělou inteligenci již dnes zásadně ovlivňují životy lidí po celém světě. V blízké době se jejich význam ještě zvýší. Co tento termín vůbec znamená?

„Pojem je to dost mlhavý a zavádějící, nejedná se ale o žádné sci-fi. Je to soubor počítačových algoritmů pracujících s daty. Například vyhledávač Google má spoustu komponentů, které se označují za umělou inteligenci. Přesněji by se to však mělo nazývat strojové učení, tedy vlastně pokročilá statistika,“ vysvětlil během debaty serveru EURACTIV.cz vědec v oboru umělé inteligence Tomáš Mikolov působící na ČVUT.

Některá využití umělé inteligence jsou však kontroverzní a problematická. Obavy vzbuzuje například její použití v tzv. sociálním skórování, u rozpoznávání obličejů na veřejných místech a v dalších rizikových oblastech, kde může technologie zásadně vstoupit do soukromí člověka a zneužít osobní informace k manipulaci a diskriminaci.

Odborníci se k unijní regulaci staví vlažně

Evropský parlament proto v současnosti vyjednává podobu tzv. aktu o umělé inteligenci (Artificial Intelligence Act, AIA), který by měl nastavit jasnější evropská pravidla pro vývoj těchto technologií a regulovat je podle toho, jak moc jsou rizikové.

„U umělé inteligence je problém její vysoká zneužitelnost. Nechci dát Orbánovi (Viktor Orbán, maďarský premiér, pozn. red.) možnost, aby mohl šmírovat investigativní novináře. V Evropském parlamentu vytváříme legislativu, která bude zároveň pojistkou, kdyby to v dané společnosti šlo z kopce. Umělá inteligence totiž skýtá možnosti, o kterých se autoritářským režimům v minulosti ani nesnilo,“ zdůraznil europoslanec Marcel Kolaja (Piráti, Zelení/EFA).

Ne všichni jsou s unijním postupem spokojení. Právě Mikolov, který je výzkumníkem Českého institutu informatiky, robotiky a kybernetiky, přípravu legislativy zkritizoval. „Je to paradoxní, že se mezi politiky a právníky diskutuje regulace oblasti, které tito lidé moc nerozumí. Z pohledu vědců, tedy těch, co technologii vymysleli, jsou tyto návrhy na regulaci často mimo mísu. EU s námi podobu aktu sice částečně konzultovala, ale určitě se nejednalo o žádný dialog,“ uvedl.

Také podle Jana Klesly, národního koordinátora pro centra umělé inteligence, není postup unijních institucí ideální. „Slyšíme z trhu, že jsou potřeba pravidla. Ale takto tvrdá varianta regulace, jakou zatím navrhuje EU, to se vývojářům nelíbí. EU by slušelo, kdyby se u AIA zastavila a začala více naslouchat. Ještě dlužíme evropským firmám a vývojářům kousek debaty.“

Konec diktátu internetových gigantů. Českým firmám se mohou otevřít nové příležitosti

Nový akt o digitálních trzích (DMA) má nastavit férová pravidla na trhu s digitálními službami. Revoluční legislativa nedávno pohodlně prošla Evropským parlamentem. Co nového přináší a kdy můžeme čekat její konečné schválení?

Palčivá otázka, jak a co regulovat

Míra regulace by se podle nových pravidel měla odvíjet od rizikovosti použití technologie. Současný unijní návrh by se podle Kolaji vůbec neměl dotknout 85 procent možných využití. Ty jsou totiž považovány za bezpečné. Zároveň by se AIA neměl týkat ani otázek národní bezpečnosti, tedy využití v obranném průmyslu.

U zbylých případů označených za rizikové pak lze očekávat omezení či zákaz. Mohlo by se jednat například o již zmíněné systémy sociálních kreditů, které dnes do jisté míry využívá třeba bankovní sektor při poskytování půjček a hypoték.

Při vytváření legislativy by se podle Klesly měli zákonodárci zaměřit spíše na kladnou stránku rychle rozvíjejících se technologií. „Pojďme se dívat na pozitivní využití. Například na to, jak umělou inteligenci aktivně používat k boji s fake news, deep fakes apod. Plošné zákazy nejsou dobré.“

Přílišná regulace navíc přináší i byrokratickou zátěž. Jak upozornil Mikolov, který v minulosti pracoval pro americké společnosti Facebook (dnes Meta) a Google, další regulace bude zátěž zejména pro malé firmy a start-upy, které si složitou byrokracii nebudou moci dovolit. Vliv velkých firem tak nová pravidla ve výsledku nezmenší.

Evropě ujel vlak

Právě míra regulace a vytváření lepšího konkurenčního prostředí v Evropě zásadně ovlivní, jak si starý kontinent v tomto odvětví v blízké budoucnosti povede. V současnosti totiž platí, že EU je v technologické oblasti závislá na zahraničních, převážně amerických, technologických firmách, které mají na unijním trhu dominantní postavení.

„Jako Evropa bychom měli dohnat zbytek světa, ne si podrážet nohy. Musíme tu prvně vytvořit ty velké firmy, až pak je regulovat,“ uvedl Mikolov. Podle něj Spojené státy americké i Čína dokázaly využít komerční potenciál umělé inteligence a Evropa musí udělat to samé.

S tím souvisí také to, jak budou Evropané nakládat se svými daty, která jsou pro umělou inteligenci „palivem“, a tedy nezbytným artiklem pro technologické giganty. Podle Mikolova poskytují Evropané americkým firmám svá data zadarmo, a proto mají tyto firmy na unijním trhu takovou moc.

Podle Klesly naopak není samotné působení amerických a čínských firem na unijním trhu zásadní problém. Data jsou totiž v tomto smyslu nevyčerpatelný zdroj, kterého je dost pro všechny. Je však důležité, aby vedle zahraničních společností existovaly na unijním trhu i domácí evropské subjekty.

Problém s evropskou konkurenceschopností se přitom netýká pouze umělé inteligence, ale celého digitálního sektoru. V něm EU připravuje v současnosti kromě AIA i další legislativy, které by zahraniční internetové giganty měly zkrotit. Jednou z nich je i akt o digitálních trzích (DMA), který má za cíl nevyvážené tržní prostředí v digitální sféře narovnat.

Nerovnosti jsou rovněž patrné i v oblasti daní. „Obrovské firmy nenechávají v EU žádné peníze ze svého zisku. Dohodnout se na jejich zdanění je však obrovský problém. Brání tomu hlavně pravidlo jednomyslného rozhodování v daňových otázkách,“ podotkl Kolaja.

Česko chce investovat

Podle Klesly má Česko oproti ostatním zemím v regionu v umělé inteligenci značný potenciál. Silnou tuzemskou stránkou je například rychlé vytvoření českého centra excelence, tedy místa sdružujícího výzkum a zaštiťujícího spolupráci se zbytkem EU. Centrum založily přední české univerzity na popud Evropské komise v roce 2020.

Češi zároveň dají více peněz do investic v digitálním sektoru. Jedním ze zdrojů pro jejich financování bude například i oživující Národní plán obnovy (NPO), který vyhrazuje pro digitální transformaci, a tedy i umělou inteligenci, téměř 28 miliard z celkových zhruba 180 miliard korun.

Digitalizované firmy jsou výkonnější a odolnější, s potřebnou modernizací jim pomůže národní plán obnovy

Pomoc českým firmám „digitálně dohnat“ západní konkurenci můžou peníze, které s sebou přináší post-pandemický fond obnovy. Finance samotné však nemusí být pro Česko všespásné, chybí zde totiž i digitální dovednosti zaměstnanců a zkušení odborníci.

Tento článek vznikl s podporou kanceláře europoslance Marcela Kolaji (skupina Zelení / Evropská svobodná aliance v Evropském parlamentu). Všechny výstupy realizované v rámci této spolupráce jsou dostupné pod tímto odkazem. Podmínky spolupráce jsou uvedeny zde.