EU omezí technologii rozpoznávání obličejů. Podle nových pravidel pro umělou inteligenci je riziková

Místopředsedkyně Evropské komise Margrethe Vestager © European Union 2021

Evropská komise (EK) navrhla první pravidla využívání umělé inteligence, s jejichž pomocí by chtěla omezit škodlivé dopady například sledovacích či manipulativních technologií. Zásadně regulovat chce zejména možnosti rozpoznávání obličejů, které vzbuzují obavu u ochránců soukromí. Za porušování pravidel mají hrozit vysoké pokuty.

„Pokud jde o umělou inteligenci, je důvěra nutností, nikoli jen výhodou. Přijetím těchto přelomových pravidel udává EU směr vývoje nových celosvětových norem, které zajistí umělé inteligenci důvěryhodnost,“ prohlásila dnes místopředsedkyně Komise pro hospodářskou soutěž Margrethe Vestagerová.

Regulace by však neměla zásadně omezit používání technologií, které posouvají kupředu zdravotní péči, bezpečnost v dopravě či prevenci kriminality.

Navrhované nařízení zavádí několik kategorií systémů umělé inteligence podle jejich rizikovosti. Jako nepřijatelné označuje ty, které ohrožují životy, bezpečí či práva lidí. Zakázány proto mají být v EU například systémy umožňující vládám takzvané sociální hodnocení, které běžně používá ke sledování svých občanů například Peking. Zákaz se má týkat třeba i hraček s hlasovými asistenty, které navádí děti a mladé lidi k nebezpečnému chování.

Další skupinou jsou technologie s vysokým rizikem, které budou povoleny jen při splnění přísných požadavků. Mezi ně patří třeba software třídící uchazeče o práci či o bankovní půjčku, hodnotící zkoušky ve škole nebo ověřující spolehlivost důkazů u soudu.

Řadí se sem také všechny systémy biometrické identifikace včetně rozpoznávání obličejů. Jejich obecné využívání bude zcela zakázáno a sáhnout k němu budou moci úřady jen ve výjimečných případech, například při pátrání po dětech či odhalování teroristických útoků. Nejprve to ale bude muset povolit soud, a to pouze na omezenou dobu.

Umělá inteligence může pomoci při pátrání po zločincích. Kritici však varují před rizikem zneužití

Na evropské úrovni probíhá rozsáhlá diskuse o vývoji a využití umělé inteligence. Tato technologie sebou totiž přináší vedle užitku i řadu nebezpečí. Europoslanci přitom zabrousili i do trestního řízení.

Návrh z pera Komise obsahuje také kategorie technologií s omezeným a minimálním rizikem. Do omezeného rizika unijní exekutiva řadí například chatboty, tedy online chatové rádce známé třeba z e-shopů. A v případě minimálního rizika se jedná například o spamové filtry. Technologie, které nejsou vysoce rizikové, však nařízení nijak nereguluje. Poskytovatelé těchto technologií nicméně mohou posílit svou důvěryhodnost a dobrovolně vypracovat tzv. kodex chování, tedy sadu postupů a hodnot, podle kterých fungují.

Na evropské úrovni by podle návrhu Komise měla vzniknout nová Evropská rada pro umělou inteligenci složená se zástupců vnitrostátních úřadů a evropského inspektora ochrany údajů, která má pomoci se zaváděním nových pravidel. Dohlížet na ně však podle návrhu mají vnitrostátní orgány dozoru nad trhem.

V Maďarsku sází na koordinaci výzkumu a vývoje AI. Tamní laboratoř má velké plány

Existuje jen málo témat, která by v současné době budila větší pozornost než umělá inteligence (AI). Probíhající světová pandemie pak důležitost této technologie jen zdůraznila.

Jednání budou dlouhá

Firmám porušujícím pravidla mají hrozit pokuty až do výše šesti procent jejich obratu či do 30 milionů eur (780 milionů korun), pokud bude tato částka vyšší.

„Přistupujeme k umělé inteligenci úměrně, pečlivě zvažujeme rizika, dáváme kompetence veřejným institucím a požadujeme naprostou transparentnost,“ prohlásila dnes místopředsedkyně komise Věra Jourová. Navrhovaná pravidla by podle ní na jedné straně měla zajistit bezpečí a soukromí lidí, na druhé však příliš neomezovat činnost progresivních firem.

Technologické firmy, které vidí v umělé inteligenci motor budoucího růstu, se k omezování stavějí spíše skepticky. Někteří experti pak varují, že v případě schválení mohou nová omezení znamenat pro evropské firmy konkurenční nevýhodu proti společnostem z jiných částí světa. Očekávají proto, že během vyjednávání v Evropském parlamentu a mezi členskými státy budou značně lobbovat za zmírnění některých podrobností a jednání budou dlouhá. Ke schválení pravidel členskými státy a EP tak může dojít až za několik let.

Tlak však patrně přijde i na přísnější formulaci částí návrhu, které jsou zvláště podle některých europoslanců nedůsledné. „Musí zde být třetí strana, která nezávisle posoudí, zda systémy s vysokým rizikem odpovídají předpisům,“ prohlásil například pirátský místopředseda EP Marcel Kolaja, podle něhož návrh nechává prostor například k diskriminaci uchazečů o práci při jejich posuzování umělou inteligencí. Stejně jako někteří další kolegové hodlá co nejdříve začít pracovat na jeho úpravách.

Marcel Kolaja: Sociální sítě je třeba decentralizovat, příklady existují už nyní

S místopředsedou Evropského parlamentu Marcelem Kolajou (Piráti, Greens/EFA) redakce EURACTIV.cz hovořila o vlivu sociálních sítí i revoluční snaze EU o jejich regulaci. „O tom, co je nelegální musí rozhodovat nezávislé a nestranné soudy,“ říká.