Vnější hranice EU by mohli chránit „hlídači“ s umělou inteligencí

© Shutterstock

Projekt financovaný Evropskou unií vyvíjí „inteligentní kontrolní systém“ zaměřený na prověřování lidí ze třetích zemí, kteří chtějí přejít přes vnější hranice Unie. Jedním z nástrojů systému je i sofistikovaná analýza mimik obličeje.

Inteligentní přenosný systém kontroly na hranicích (The Intelligent Portable Border Control System alias iBorderCtrl) představuje sérii několika procesů a digitálních procedur, které mají za úkol oskenovat obličeje a upozornit na jakékoliv „podezřelé“ reakce a potenciálně lživá tvrzení migrantů, kteří chtějí vstoupit do Schengenu.

Systém založený na umělé inteligenci sleduje až 38 „mikro-pohybů“ ve tváři lidí – směřování pohledu očí, dilatace zorniček, nepatrné změny v hlase a další pro člověka nezaznamenatelné proměny výrazu – které jsou získávány v průběhu série otázek od pracovníků na hraničních stanicích (checkpointech).

iBorderCtrl vznikl v rámci unijního programu zaměřeného na výzkum a inovace Horizont 2020 a podílí se na něm třináct partnerských institucí z celé Evropy.

Evropská komise přispěla k vývoji nového nástroje 4,5 miliony eur. Proces byl dokončen v září 2016 a měla ho na starost lucemburská společnost European Dynamics. Dokončení testovací fáze je naplánováno na srpen 2019.

Pronásledování teroristů a více vojáků na vnějších hranicích. Junckerovu projevu o stavu EU vévodila bezpečnost

Předseda Evropské komise pronesl na půdě Evropského parlamentu tradiční projev o stavu Evropské unie. Jeho slova o migraci, obraně nebo euru sklidila potlesk i kritiku.

Společně se záměrem zdokonalit zabezpečení evropských hranic a přispět k prevenci zločinu a terorismu má podle Komise nový systém také zrychlit proces kontroly příchozích do EU, jejichž počet se každý rok zvyšuje.

„Využíváme existující a prověřené technologie, stejně jako novinky, abychom posílili pracovníky na hranicích a zvýšili přesnost a efektivitu hraničních kontrol,“ řekl koordinátor projektu George Boultadakis z European Dynamics Komisi po představení první verze systému.

„iBorderCtrl bude sbírat data nejen z oblasti klasické biometriky, ale bude sledovat také ukazatele podvodného chování,“ dodal.

Pilotní projekt se skládá ze dvoufázové procedury a funguje na dobrovolné bázi. V prvním kroku musí ti, kdo chtějí vstoupit do EU, ještě před osobní prohlídkou vyplnit doma test, který je součástí online žádosti. Zároveň musí do databáze nahrát řadu dokumentů, jako kopii pasu, víza nebo doklad o svých finančních prostředcích.

Následně zodpoví otázky „ušité na míru“ podle jejich individuální žádosti, a to v rámci rozhovoru přes webkameru s animovanou reprezentací pohraničního strážce. Odpovědi a reakce následně zanalyzuje umělá inteligence se schopností rozpoznávat snahu systém oklamat, kterou vyvinula Manchester Metropolitan University.

Podle Komise systém nicméně nemá nahradit pohraniční stráž. Pracovníci stráže mají mít k dispozici kapesní zařízení, pomocí kterého automaticky ověří informace a porovnají obrázky obličeje zachycené v průběhu první fáze „domácí“ kontroly s údaji v pasu a fotografiemi získanými při předchozích překročeních hranic.

Kontroly uvnitř Schengenu způsobují obrovské ztráty. Pomoci může posílení vnějších hranic, ale také společná migrační politika

Dvouleté kontroly na hranicích pěti zemí schengenského prostoru mohou způsobit ztráty ve výši 211 milionů eur. Návrat k plně funkčnímu Schengenu se ale neobejde bez investic do vnějších hranic EU. Nutná bude i dohoda zemí na reformě migrační a azylové politiky.

Výsledky jsou pak dostupné na hraničních checkpointech, kde cestující během předávání pasů a víz projdou druhou kontrolou.

„Po opětovném zhodnocení dokumentů žadatele, odebrání otisků prstů, skenování obličeje a dalších krocích, je potenciální riziko přijetí cestujícího přepočítáno. Až následně převezme od automatického systému iniciativu skutečný strážce,“ dodala Komise.

„Systém nedělá zcela automatické rozhodnutí, pouze poskytuje ,rizikové skóre‘,“ vysvětlila Keeley Crockettová z Manchester Metropolitan University.

Jednotlivci označení jako „s nízkým rizikem“ projdou před vstupem do EU už jen krátkým zhodnocením poskytnutých informací. Pokud ale systém zjistí něco podezřelého, žadatelé „s vysokým rizikem“ musí podstoupit mnohem detailnější kontrolu.

Projekt bude testován v reálných podmínkách, a to v Maďarsku, Řecku a Litvě. Británie, Německo, Polsko, Španělsko a Kypr vyjádřili svůj zájem zapojit se také.

Kybernetická bezpečnost stojí na digitální gramotnosti. Učme ji už předškoláky, říkají experti

Pojem kybernetická bezpečnost nabírá na důležitosti mimo jiné proto, že tradičně bezpečné Česko začíná být pro útočníky v kyberprostoru atraktivnější. Klíčem k zajištění bezpečnosti je podle odborníků především digitálně gramotná společnost, vzdělávat by se prý měli už ti nejmladší.

Přesnost a „zaujatost“ systému

Jak řekl jeden ze členů týmu iBorderCtrl časopisu New Scientist, první testy odhalily, že tento digitální pohraniční strážce měl pouze 76% úspěšnost. Tým si podle něj ale věří, že tato hodnota může dosáhnout 85 %.

Kritici nicméně poukazují na to, že k chybám může dojít v celé řadě ohledů.

Obavy o přesnost systému vznikají vzhledem k tomu, že účast je dobrovolná, a pro ty, kteří  ochotně spolupracují, není kontrola tak přísná.

„V takových podmínkách mi není jasné, na jakých základech se bude hodnotit odolnost, spolehlivost a přesnost systému, ani jak budou relevantní algoritmy ,vytrénovány‘ k detekci znaků klamavého chování,“ řekla Antoinette Rouvroyová, výzkumnice z Center for Research in Information, Law and Society (CRIDS).

„Jinak bychom museli předpokládat, že ilegální imigranti a potenciální kriminálníci by se dobrovolně přihlásili k automatické kontrole, což není velmi pravděpodobné,“ dodala.

Studie v minulosti také dokázaly, že algoritmy rozpoznávání obličejů mají rozsáhlý problém se „zaujatostí“ a nepřiměřeně postihují především ženy a menšiny.

Podle letošní studie mohou jako příklad sloužit algoritmy vytvořené společnostmi IBM nebo Microsoft, které měly chybovost až o 35 % vyšší při rozpoznávání pohlaví u žen s tmavší kůží než u mužů se světlejší kůží.

„Předtím, než začnou systémy s umělou inteligencí využívat vlády, na místě je pečlivá analýza nevyhnutelných ,zaujatostí‘ typických pro všechny systémy detekce, klasifikace a zhodnocení lidí a jejich chování,“ řekla Rouvroyová.

„Digitalizace je přepis reality a žádný neutrální přepis reality neexistuje,“ uzavřela.

Evropské politice ČR dominuje migrace, na klíčová témata se zapomíná

Česká evropská a zahraniční politika vrávorá a nezaměřuje se na oblasti, které pro ni budou do budoucna důležité, tvrdí studie. Více energie by podle ní měla ČR věnovat například diskusi o reformě eurozóny nebo plánování svého předsednictví v roce 2022.