Umělá inteligence může pomoci při pátrání po zločincích. Kritici však varují před rizikem zneužití

© Pixabay

Na evropské úrovni probíhá rozsáhlá diskuse o vývoji a využití umělé inteligence. Tato technologie sebou totiž přináší vedle užitku i řadu nebezpečí. Europoslanci přitom zabrousili i do trestního řízení.

Evropská komise pod vedení Ursuly von der Leyenové debatu nejen o etických otázkách využití umělé inteligence (Artificial Inteligence, AI) zahájila letos v únoru vydáním tzv. bílé knihy o umělé inteligenci (White Paper on Artificial Intelligence).

Ta určuje možnosti budoucího legislativního rámce, který by měl stanovit pravidla jednak pro výzkum a vývoj AI, jednak by měl klást důraz i na zachování základních lidských práv a svobod, ochranu osobních údajů a etické otázky.

Od té doby probíhala o bílé knize tzv. veřejná konzultace, do které se se svými připomínkami a návrhy mohly zapojit zájmové skupiny a osoby z celé EU. Konzultace byla ukončena v polovině června a do evropské debaty vnesla spíše další obavy a kontroverze.

Na přetřes se dostala zejména technologie rozpoznávání biometrických údajů (hlavně technologie rozpoznávání obličejů) a systém automatizovaného rozhodování (Automated Decision Making software, ADM).

Na stole jsou i zákazy AI

Sama Komise v bílé knize přiznává, že umělá inteligence sebou přináší vysoké riziko zneužití, a to především v „kritických odvětvích“, mezi které patří zdravotnictví, doprava, personalistika či práce policejních orgánů nebo právní systém.

V rámci veřejné konzultace se pak objevily i návrhy na zákaz či omezení využívání umělé inteligence v některých případech. Například lidskoprávní organizace Access Now volá po zákazu používání vybraných technologií včetně systémů na sledování biometrických údajů, aplikací pro analýzu emocí v obličeji a přeshraničním užívání AI. Zákonodárci by se podle ní měli zamyslet i nad systémem ADM.

Organizace rovněž navrhuje vznik veřejného rejstříku pro kontrolu systémů umělé inteligence a automatizovaného rozhodování, které budou využívány veřejnou správnou a v některých případech i soukromým sektorem.

Dobrý sluha, ale zlý pán. Unie bude regulovat umělou inteligenci

Rozpoznávání obličejů, bezpečnější ulice nebo také příležitost pro evropské a české firmy. To všechno představuje umělá inteligence, tedy technologie, která dokáže napodobovat lidskou inteligenci. 

Zřejmě nejkontroverznějším bodem i nadále zůstává zmíněné rozpoznávání obličejů. Na ně se již v současné době vztahují stávající pravidla, například nařízení o ochraně osobních údajů GDPR. A tak by tomu mělo být i v budoucnu. Unie a její členské státy by však měly jasně stanovit výjimky, za jakých bude možné rozpoznávací technologie využít.

Původně se přitom spekulovalo, že EU využívání technologií rozpoznávání obličejů úplně zakáže, a to právě z důvodu porušování pravidel na ochranu osobních údajů. Nyní se ale zdá, že od zákazu pomalu ustupuje.

Důkazem je i probíhající pandemie. Komise totiž před nedávnem dala zelenou technologii, která umožňuje vedle pokročilé analýzy videozáznamů i rozpoznávání obličejů v reálném čase či analýzu chování davu. Svůj přístup přitom zdůvodnila právě bojem proti koronaviru.

Odpor proti rozpoznávání obličejů sílí

Nová technologie vyvinutá španělskou společností Herta Security umožní příslušným úřadům identifikovat člověka i v případě, že má na sobě roušku. Stejně tak umožní kontrolovat a analyzovat hustotu davu.

„Automatická kontrola dodržování odstupu a identifikace osob bez potřeby sundat si ochranu obličeje se v případě boje proti pandemii stala nezbytností,“ uvádí zástupci společnosti.

Odpor proti takovým technologiím však v Evropě neustále sílí.

„Užívání biometrických dat, konkrétně pak rozpoznávání obličejů, přináší zvýšené riziko porušení základních práv,“ upozornil v lednu letošního roku evropský výbor na ochranu dat (European Data Protection Board). Podle něj je třeba, aby takové technologie a jejich aplikace dodržovaly zásady zákonnosti, vhodnosti, potřebnosti a přiměřenosti. Stěžejní je pak soulad s GDPR.

Evropská vize digitální budoucnosti: Regulace internetu, umělá inteligence a sběr dat

Evropská komise dnes zveřejnila dlouho očekávanou a komplexní strategii s názvem Evropa v digitálním věku (Europe fit for the digital age). Na první pohled nudný a nic neříkající název v sobě obsahuje vizi směřování EU v digitální oblasti na příští desítky let.

A podobného názoru jsou i další odborníci.

„Rozpoznávání obličejů je velmi důležitá součást AI a můžeme počítat s tím, že Komise s ní nějakým způsobem bude pracovat. Na jednu stranu tato technologie může být použita k verifikaci a identifikaci v oblastech, ve kterých to nemusí budit žádné znepokojení, tedy pokud jde např. o odemykání vlastního telefonu pohledem do kamery. Na druhou stranu zde máme veřejný prostor, ve kterém se tato technologie může rychle proměnit v nástroj sledování, který bude porušovat základní lidská práva a svobody,“ řekl redakci EURACTIV.cz před nedávnem David Nosák z bruselské pobočky amerického think-tanku Center for Democracy and Technology.

„Dobrým příkladem je v tomto ohledu Čína, kde již byla zaznamenána řada případů využití této technologie pro boj s politickými odpůrci. Musíme tedy nalézt rovnováhu mezi výhodami, které AI přinese, a mezi zachováním individuálních svobod a soukromí,“ dodal.

Na to upozorňuje i místopředseda Evropského parlamentu Marcel Kolaja (Piráti, Greens/EFA).

„Původně to vypadalo, že Komise měla v úmyslu dočasně zakázat technologie rozpoznávání obličeje ve veřejných prostorech. Pokud ale během interního konzultačního procesu tento zákaz zmizel, je to z pohledu základních práv výrazný krok zpět,“ myslí si.

Aplikací k trasování nakažených přibývá. Chytrá karanténa se ale nesmí zvrhnout v chytré šmírování

Koronavirová pandemie je podle Komise ideální příležitostí Evropanům ukázat, jak užitečná mohou být volně přístupná a otevřená data a jejich analýza. Ne všichni jsou však z takových slov nadšení.

Umělá inteligence a trestní právo

A je to právě Evropský parlament, který je v otázce budoucího vývoje a využití umělé inteligence velmi aktivní. Důkazem je i probíhající diskuse mezi europoslanci ohledně využití umělé inteligence v různých oblastech včetně trestního práva.

Trestní řízení – ať už v předsoudní nebo soudní fázi – je přitom jedna z oblastí, kde je otázka dodržování základních práv a svobod včetně nedotknutelnosti osoby a jejího soukromí velmi důležitá.

Záruky ochrany práv podezřelých a obviněných v tomto ohledu neposkytuje jen GDPR, ale zejména Listina základních práv EU, Úmluva o ochraně základních lidských práv a svobod, Pakt o občanských a politických právech, stejně jako ústavní zákony všech členských zemí. Nezodpovědné využívání umělé inteligence v trestním právu by tak mohlo vést ke sporům před ústavními soudy, Soudním dvorem EU či Evropským soudem pro lidská práva.

„Evropský parlament nyní připravuje zprávu z vlastní iniciativy, jejímž účelem je téma umělé inteligence v trestním právu otevřít, zformulovat svůj postoj a nastínit svou představu, jak by se mělo v tomto ohledu dál postupovat. Nyní je podle nás vhodné o tomto tématu zahájit diskusi,“ řekl redakci EURACTIV.cz europoslanec a člen výboru pro právní záležitosti Jiří Pospíšil (TOP 09, EPP).

Podle něj je velký potenciál využití umělé inteligence v oblasti obstarávání důkazů v trestním řízení či v oblasti pátrací činnosti.

„Konkrétně se může jednat například o technologie rozpoznávání obličeje, automatické rozpoznávání poznávacích značek, identifikace řeči, technologie čtení rtů, sluchové technologie jako jsou algoritmy detekce výstřelu, technologie předpovídání, autonomní nástroje pro detekci chování a pro identifikaci finančních podvodů a financování terorismu, technologie monitorování sociálních médií nebo mezinárodní ‚lapače identity‘ mobilních předplatitelů,“ vyjmenoval různé možnosti užití AI Pospíšil.

Předpokladem použití všech těchto technologií ale podle něj musí být garance spolehlivosti a přesnosti i nezasahování do základních lidských práv.

„Určitě je třeba použití nástrojů umělé inteligence v konkrétních případech trestního řízení pečlivě zvažovat a mít dobře nastaven systém kontroly. Základním principem by mělo být, že o použití nástroje umělé inteligence vždy rozhoduje člověk, který za toto použití nese vždy odpovědnost,“ upozornil.

„Právě z důvodu možného zneužití by také mělo být důkladně posouzeno, zda použití nástrojů umělé inteligence neomezit na případy, kdy se rozhoduje mechanicky, a neuplatňovat je na případy, kdy se rozhoduje na základě uvážení,“ uzavřel.

Česko může doplatit na pomalou digitalizaci veřejné správy, varuje Komise

Evropská komise opět upozornila Česko na nedostatky v oblasti digitalizace, na které může v brzké době doplatit. Na druhou stranu nelze přehlížet české úspěchy, a to například v oblasti umělé inteligence.

Unie se připravuje na éru umělé inteligence. Lidé mohou kvůli ní přijít o práci, ale také získat nové příležitosti

Evropané se obávají, že roboti je v budoucnu připraví o práci. Unie se proto chce umělé inteligenci postavit čelem a chystá strategii, která má zajistit, aby z nových technologií těžili všichni.