Regulace umělé inteligence Evropě uškodí, říkají vědci. EU je ale opatrná a vidí nebezpečí

© Pixabay.com

Čtyři měsíce po vydání Bílé knihy o umělé inteligenci se zdá, že Brusel se hodlá vydat cestou přísné regulace výzkumu, vývoje a zejména využití této technologie. Podle vědců, kteří se umělou inteligencí zabývají, to ale Evropě uškodí.

Evropská komise přitom není ve snaze o přísnější regulaci AI sama. Německá vláda, která od 1. července drží otěže unijního předsednictví, se také přiklání ke zpřísnění pravidel na tomto poli. Berlín se tak v následujícím půlroce hodlá zaměřit mimo jiné na otázku větší bezpečnosti při užívání AI.

Spolkové vládě se nelíbí především návrh Komise, aby zpřísněná bezpečnostní kritéria musely splňovat pouze technologie v citlivých oblastech jako je zdravotnictví, bezpečnost či justice, u kterých bude zároveň hrozit větší riziko zneužití. Bílá kniha předpokládá, že při užívání AI v těchto případech bude třeba dodržovat přísnější pravidla například pokud jde o uchovávání údajů (data retention) či lidský dohled (human supervision).

To je ale podle Berlína nedostatečné a přísnější pravidla by měla být vyžadována i v jiných, méně citlivých odvětvích. Riziková odvětví, ve kterých by se mohla AI uplatnit a u kterých bude třeba vymáhat přísnější pravidla, by se podle Němců měla rozšířit i na oblasti jako demokratické procesy, ochrana klimatu, majetková práva a další.

S regulací se to nesmí přehánět

Jinými slovy řečeno, přísnější regulaci při výzkumu, vývoji a užití AI by se tak nevyhnula prakticky žádná oblast společenského, ekonomického či politického života. Přísnější kontrola této technologie by nebyla vyžadována pouze v případě, kdy nehrozí „žádné potenciální riziko“ zneužití.

„Je důležité, aby aplikace využívající AI nebyly jen inovativní, ale také bezpečné. Aby byly odolné vůči hackerským útokům, vůči sabotážím a vůči nedovoleným únikům dat,“ zdůraznil německý ministr vnitra Horst Seehofer.

Češi a Slováci chtějí po Německu rychlou dohodu na obnově EU, nesmí však trvat na detailech

Německé předsednictví EU má na stole hodně. Unii chce pomoct vzpamatovat se z pandemie, a nezapomíná při tom ani na digitalizaci nebo vztah s Čínou. V řadě oblastí jako rozpočet nebo migrace musí ke kompromisu přesvědčit i Česko a Slovensko.

„Snaha regulovat AI zapadá do širšího kontextu přístupu EU k technologiím a digitalizaci. Evropští politici si dobře uvědomují, že velká část vývoje v oblasti moderních technologií se odehrává mimo Evropu a snaží se to zvrátit, když ne přilákáním těch nejchytřejších mozků světa, tak alespoň nastavením modelové regulace,“ řekl redakci David Nosák z bruselské pobočky americké lidskoprávní organizace Center for Democracy and Technology.

Příkladem je podle něj nařízení GDPR, kdy se Unii povedlo nastavit modelová pravidla ochrany osobních dat na internetu, kterými se posléze začala řídit řada firem i států mimo Evropu.

„Na druhou stranu ale přílišná regulace může nepřiměřeně zasáhnout do fungování trhu a bránit výzkumu a inovacím. Zda je takovýto přístup správný ukáže pravděpodobně až budoucnost,“ dodal.

Lidé, kteří se výzkumu a vývoji AI dlouhodobě věnují, ale evropské snahy o regulaci této technologie často kritizují.

Příkladem je Tomáš Mikolov, světově uznávaný odborník na umělou inteligenci, který řadu let pracoval jako vědec ve společnostech Google, Microsoft či Facebook. Před nedávnem se rozhodl pro návrat do České republiky a nyní působí na pražské ČVUT.

Mikolov: V USA jsou pragmatičtí, EU se neumí prodat

„Technologie, která se dnes označuje souhrnně jako AI, je ve své podstatě skupina počítačových algoritmů, které řeší některé komplexní úlohy, jako je strojový překlad, rozpoznávání obrazu a řeči apod. Ve své podstatě se většinou jedná o statistické přístupy aplikované na velké datasety,“ upřesnil na úvod.

„Je otázka, zda má vůbec smysl pokoušet se regulovat na evropské úrovni využití statistiky v počítačových programech, a do jaké míry je snaha o regulaci AI založena na fantastických vizích, které se stavem současné technologie nemají nic společného. Já bych naopak místo diskuse o tom, jak v Evropě omezit nebo zpomalit výzkum a vývoj moderních technologií, rád viděl diskusi o podpoře vývoje a využití AI tak, aby nám neujel vlak v porovnání s USA, ale i Čínou,“ řekl redakci.

Evropská vize digitální budoucnosti: Regulace internetu, umělá inteligence a sběr dat

Evropská komise dnes zveřejnila dlouho očekávanou a komplexní strategii s názvem Evropa v digitálním věku (Europe fit for the digital age). Na první pohled nudný a nic neříkající název v sobě obsahuje vizi směřování EU v digitální oblasti na příští desítky let.

Díky mnohaletým zkušenostem s výzkumem AI ve Spojených státech může Mikolov porovnat oba přístupy v tomto odvětví, tedy evropský a americký.

„Z mého pohledu je přístup k AI v USA mnohem pragmatičtější, orientovaný na generování přidané hodnoty ve společnosti (tedy aplikace v průmyslu a generování zisku). V Evropě děláme často velmi dobrý základní výzkum, ale máme slabší PR stránku a propojení s průmyslem, takže naše úspěchy často generují zisky v Americe, a ne u nás,“ upozornil.

Podle Mikolova je třeba se ptát, proč Evropa nemá žádné velké technologické společnosti využívající AI tak jako Google, Facebook, Microsoft, Apple a další.

„Z mého pohledu nemáme dobře nastavené podmínky pro vznik firem tohoto typu a této velikosti, a naopak jsme velmi zranitelní vůči zahraničním firmám, které mají ve své oblasti monopolní postavení. Představa, že se proregulujeme do prosperity, mi přijde zcestná. Měli bychom řešit podporu AI v Evropě nastavenou tak, aby zisky také zůstaly u nás,“ myslí si.

Rizika nesmíme přehlížet

Kritici otevřeného přístupu k této technologii ale upozorňují – podobně jako německá vláda – na bezpečnostní rizika.

„V některých případech tato technologie dokázala neuvěřitelné věci a její využití je ohromně pokrokové. Na druhou stranu jsou zde i problémové oblasti, kde AI může zasahovat do lidských práv, narušovat svobodu slova, prohlubovat sociální stereotypy atd., upozornil David Nosák.

V této souvislosti připomněl několik konkrétních příkladů.

Třeba v roce 2017 byl poblíž Jeruzaléma zaznamenán případ, kdy Palestinec vyvěsil na Facebook fotku a napsal k ní „dobré ráno“ v arabštině. Facebook k ní nabídl hebrejský překlad, který však mylně říkal „zaútočit na ně.“ Muže posléze zatkla a vyslýchala izraelská policie, dokud se neukázalo, že šlo pouze o chybu v technologii překladače.

Umělá inteligence může pomoci při pátrání po zločincích. Kritici však varují před rizikem zneužití

Na evropské úrovni probíhá rozsáhlá diskuse o vývoji a využití umělé inteligence. Tato technologie sebou totiž přináší vedle užitku i řadu nebezpečí. Europoslanci přitom zabrousili i do trestního řízení.

Dalším příkladem je podle něj i využívání AI pro třídění životopisů v procesu najímání nových pracovníků. „V Americe se v této souvislosti ukázalo, jak tato technologie dokáže systematicky diskriminovat uchazeče na základě barvy pleti či pohlaví,“ uvedl.

Problematické je i využití AI k vyhledávání a filtrování nezákonného či nevhodného obsahu na sociálních sítích. K tomuto přístupu se přitom přiklání i EU, a to například v návrhu nařízení o prevenci šíření teroristického obsahu online.

Studie ukazují, že tato technologie má problém s rozpoznáváním nuancí jako je historický, sociální, politický, kulturní či jinak relevantní kontext daného příspěvku či konverzace,“ upozornil Nosák.

Podle něj se proto může hravě stát, že automatický filtr na sociální síti například zablokuje příspěvek v domnění, že se jedná o šíření terorismu, ačkoliv jde o satiru, kritiku nebo třeba novinářskou reportáž, které jsou zcela legální a legitimní.

„Velice problémové může být také využití umělé inteligence pro rozpoznávání obličejů ve veřejných prostorách, které by výrazně narušovalo právo na ochranu soukromí a osobních dat,“ dodal dále Nosák.

Dobrý sluha, ale zlý pán. Unie bude regulovat umělou inteligenci

Rozpoznávání obličejů, bezpečnější ulice nebo také příležitost pro evropské a české firmy. To všechno představuje umělá inteligence, tedy technologie, která dokáže napodobovat lidskou inteligenci. 

V této souvislosti se již objevují návrhy na alespoň dočasný zákaz technologií typu automatické rozpoznávání obličejů apod. Místopředsedkyně Komise pro digitální politiku Margrethe Vestager pak varuje třeba před technologiemi, které budou mít za úkol predikovat budoucí události včetně pravděpodobného budoucího chování jednotlivců.

AI je příležitost, kterou je třeba využít

Mikolov ale upozorňuje, že lidé mají často zkreslené představy o tom, na jaké úrovni v současné době AI je a co nyní nebo v blízké budoucnosti dokáže. Různé apokalyptické a fantastické vize podle něj nejsou v souladu s realitou.

„Stejné, ale i horší obavy můžeme diskutovat v rámci rozvoje automobilismu, letectví, internetu, databází, kryptografie a mnoha dalších technologií, které byly a jsou využívány ve válečných konfliktech,“ uvedl Mikolov.

„Pokud má mít smysl diskutovat o právní regulaci, pak bychom se měli bavit obecně o využití ve společnosti, ne o úzkém souboru algoritmů, kterým se dnes říká AI,“ dodal.

Podle něj by se EU měla v tomto ohledu postavit na vlastní nohy a vytvořit vlastní, evropský průmysl, který bude AI vyvíjet a využívat pro vytváření nových produktů a služeb.

„Vlastní evropské řešení bychom měli mít i pro stávající produkty využívající AI typu sociální sítě či vyhledávání na internetu, které v současné době za velmi velké peníze nakupujeme z USA. Jen třeba Google s Facebookem prodají v Evropě ročně reklamu za desítky miliard dolarů (které se navíc v podstatě skoro nedaní), přitom jejich hlavní produkty jsou vcelku triviální,“ připomněl dále Mikolov.

„Místo regulace vzniku nových technologií bychom tedy měli spíše vidět v AI příležitost pro průmysl,“ uzavřel.

Česko může doplatit na pomalou digitalizaci veřejné správy, varuje Komise

Evropská komise opět upozornila Česko na nedostatky v oblasti digitalizace, na které může v brzké době doplatit. Na druhou stranu nelze přehlížet české úspěchy, a to například v oblasti umělé inteligence.