Digital Services Act: V4 chce rozlišovat mezi nelegálním a škodlivým obsahem na internetu

© Pixabay

Digitální revoluce přinesla velké množství výhod a užitečných technologií, s moderním a propojeným světem však přicházejí i velké výzvy. Online platformy, internetové a technologické společnosti mají nezanedbatelný vliv na společnost.

Vliv může být pozitivní i negativní. Hlavními negativy je šíření nelegálního obsahu včetně zločinů z nenávisti (hate crime), dětské pornografie nebo terorismu. Dochází také k šíření dalších forem závadného obsahu v podobě tzv. „fake news“ a dezinformací. Internetové společnosti navíc sbírají a dále využívají osobní data uživatelů. Cílení reklamy, využívání netransparentních algoritmů a psychologické profilování uživatelů má vliv na fungování globální ekonomiky i na politiku.

Současné právní prostředí není na tuto novou realitu adaptováno. Aktuálně platná právní úprava totiž vychází z dnešního pohledu již zastaralé dvacet let staré směrnice o elektronickém obchodu. Evropská komise si je nutnosti reformy vědoma, plánuje proto v prosinci představit revoluční komplexní legislativu s názvem Digital Services Act (DSA). Návrh legislativního balíku upravuje moderaci obsahu a chování uživatelů na internetu, nová konkurenční pravidla pro tzv. gatekeeper platformy (platformy mající vliv na šíření obsahu na internetu), boj proti nelegálním a podvodným prodejcům nebo pravidla online bezpečnosti, odpovědnosti, tržní dominance a online inzerce.

Souběžně s přípravou ambiciózní legislativy probíhá o návrhu debata, do které jsou zapojeny i země Visegrádské čtyřky. Jejich poselství je jasné – nová regulace je nezbytná, Evropa se však musí vyvarovat cenzury nebo jakéhokoliv porušení práva svobody projevu.

Policy brief vznikl v rámci projektu financovaného z Mezinárodního visegrádského fondu, na kterém se podílí EURACTIV Česká republika, EURACTIV Slovensko, EURACTIV Polsko, Political Capital Institute (Maďarsko) a EURACTIV.com.

Politici i odborníci z České republiky potřebu reformy právních pravidel pro internetové společnosti a online platformy vnímají velice silně. Nejpalčivějším tématem se v tomto ohledu jeví možné odstraňování nezákonného či škodlivého obsahu ze sociálních sítí. Na druhou stranu jsou však Češi – pokud jde o možné uvalování nových zákonných povinností ze strany budoucího DSA – vcelku opatrní. A to hlavně v kontextu zvažované právní odpovědnosti ze strany online platforem za obsah, který na ně jejich uživatelé nahrají.

„Musíme jasně definovat povinnosti pro digitální služby a ujistit se, že máme jasný právní rámec, který nám určí, jak přesně se mají online platformy vypořádávat s nezákonným obsahem, aniž by jej odstaňovaly skrze monitorování obsahu uživatelů. To je ten tzv. notice and action mechanism (mechanismus upozornění a akce),“ řekl redakci EURACTIV.cz místopředseda Evropského parlamentu Marcel Kolaja (Piráti, Greens/EFA).

Podle něj by DSA mělo zajistit rychlé odstranění nezákonného obsahu, zároveň však odmítá jakékoli automatizované nástroje, které by mohly vést k mnoha nezamýšleným vedlejším důsledkům. „Zatímco nezákonný obsah by za takové situace mohl zůstat online, legitimní posty, videa či účty můžou být odstraňovány a blokovány,“ varoval.

Česká vláda a Ministerstvo průmyslu a obchodu se do probíhající diskuse o DSA již také zapojily. Jejich postoj k problematice odstraňování nezákonného obsahu je vcelku jasný.

„Pokud jde o občanskoprávní odpovědnost platforem, Česko zastává názor, že v současnosti platná výjimka z právní odpovědnosti pro zprostředkující poskytovatele služeb by měla být zachována. Nicméně věříme, že přišel čas ke změně ustanovení týkajících se procesních aspektů odstraňování nezákonného obsahu u internetu. V tomto ohledu by platformy měly mít povinnost při boji s nezákonným obsahem dodržovat určitá pravidla,“ upozornil redakci EURACTIV.cz vedoucí oddělení služeb informační společnosti na ministerstvu průmyslu a obchodu Patrik Tovaryš.

Dále je třeba zdůraznit, že většina odborníků i politiků se shoduje na potřebě jasně rozlišovat mezi nezákonným (illegal) a škodlivým (harmful) obsahem.

„Je naprosto zásadní rozlišovat mezi pojmem nezákonným obsah a mezi obsahem škodlivým, který je však legální. Je to stejné jako rozlišování mezi trestným činem, jako je třeba sdílení teroristického obsahu, a mezi sdílením dezinformací, které mnoho uživatelé sdílí v představě, že se jedná o fakta,“ zdůraznil dále Patrik Tovaryš.

David Nosák z bruselské pobočky americké lidskoprávní organizace Center for Democracy and Technology má podobný názor a dodává, že „směrnice o elektronickém obchodu (e-Commerce Directive) členským státům zakazuje digitálním službám přikazovat monitorování obsahu, který přenášejí či ukládají, což je důležitý princip, který musí být zachován“.

Podle jeho názoru by budoucí právní rámec mohl přinést ujasnění ohledně nakládání s nezákonným obsahem a poskytnout právní jistotu ohledně moderace zákonného obsahu, ať už půjde o dezinformace, nenávistný či obtěžující obsah, který však nebude za hranou zákona.

„Zprostředkovatelé služeb by neměli být právně odpovědní za neodstranění nezákonného obsahu jejich uživatelů, ledaže je původní oznámení podepřeno rozhodnutím soudu či obdobného nezávislého orgánu. Opačná situace by zprostředkovatele digitálních služeb nutila k tomu, aby si určovali protiprávnost obsahu podle svého. K tomu ale nemají dostatečnou kvalifikaci a prostředky, což nevyhnutelně povede k cenzuře a omezování svobody projevu. Důvodem v takovém případě bude snaha vyhnout se možným sankcím,“ dodal Nosák.

Možná cenzura – ať už vědomá či nevědomá – je nepřípustná rovněž pro místopředsedkyni Evropského parlamentu Ditu Charanzovou (ANO, RE). Podle ní je takové riziko spojeno zejména s tzv. upload filtry.

„To je důvod, proč jsou povinné filtry neakceptovatelné. Platformy musejí mít prostor pro to, aby se jejich uživatelé mohli v případě pochybností bránit a prokázat, že jimi nahraný obsah či jeho část je legální. Povinný systém filtrů by byl naopak tak mocný, že by vedl k nezamýšlené cenzuře,“ myslí si Charanzová.

„Nevěřím, že by zde vedle současného principu notice and action měla být ještě navíc právní odpovědnost. Pokud budeme platformy nutit k monitorování a kontrole obsahu, bude to znamenat povinnost obecného monitorování obsahu. A jedinou možností, jak toho dosáhnout, jsou právě upload filtry. To je jediná možnost, jak monitorovat a kontrolovat tisíce postů, komentářů a jiného obsahu každou minutu,“ dodala.

Jana Břeská z Asociace pro internetový rozvoj je však skeptická v otázce jakéhokoli odstraňování obsahu.

„Pokud budou mít platformy zákonnou povinnost posuzovat a odstraňovat nezákonný a škodlivý obsah, dotkne se to svobody slova. Škodlivý obsah může být velmi subjektivní a v tomto ohledu je riziko omezování svobody slova a projevu o to větší. Jistě, měla by zde být opatření pro to, aby se na internet nenahrával nezákonný obsah, jak je definován právním řádem, na druhou stranu je v tomto ohledu třeba jít cestou užší spolupráce s orgány veřejné moci,“ uvedla Jana Břeská.

Podle ní je však potřeba v souvislosti s připravovaným DSA upozornit i na možnou regulaci internetových reklam. I to je totiž jedna z oblastí, které by měla budoucí legislativa pokrýt.

„Používání osobních dat – především pro účely cílené reklamy a cíleného obsahu – by nemělo být Aktem pro digitální služby vůbec regulováno, jelikož tato oblast je již dostatečně pokryta GDPR. Obchodní reklamy pro obchodní účely a s tím související profilování jsou jasně regulovány GDPR a stejně tak bude tato problematika součástí nařízení ePrivacy. Další regulace této oblasti tak není potřeba a jen by ohrozila existenci mnoha evropských médií a poskytovatelů obsahu, kteří jsou závislí právě na finančních zdrojích z online reklam,“ varovala.

Slovenská debata ohledně DSA se odehrává mimo prostor mainstreamových médií v užší skupině expertů a zainteresovaných stran. I přes svůj mírný přístup vůči internetovým společnostem si Slovensko od DSA slibuje důležitý nástroj na vynucování pravidel od internetových platforem.

Hlavním principem, který Slovensko podporuje, je „co je nelegální offline, by mělo být nelegální i online.“ V přenesené formě by pro zboží a služby prodávané na internetu měly do budoucna platit stejné standardy a regulace jako při jejich prodeji v kamenných prodejnách.

„Měl by existovat efektivní způsob, jak platformy upozornit a donutit rychle smazat nelegální obsah. Týkalo by se to i obsahu, který je v souladu se současnými pravidly daných platforem,“ uvedl europoslanec Vladimír Bilčík (EPP), který je jediným slovenským členem nově vzniklého výboru Evropského parlamentu věnujícího se mimo jiné dezinformacím.

Problematika odpovědnosti online platforem za obsah, včetně obsahu tvořeného uživateli, je podle slovenské vlády důležitou částí nově projednávané legislativy. Slovenské ministerstvo investicí, regionálního rozvoje a informatizace navrhuje „ponechat princip omezené odpovědnosti“, obecnému monitoringu však nakloněno není. Podle slovenské vlády by platforma neměla nést odpovědnost za nelegální obsah v případě, že o něm nevěděla.

DSA by podle slovenské vlády měla definovat podmínky a subjekty, kterých se bude princip omezené odpovědnosti týkat. Regulace by také měla obsahovat i jasné definice pojmů „nelegální“ a „škodlivý“ obsah nebo „zboží a služby“ prodávané online. Ministerstvo informatizace navrhuje rozšířit Kodex chování proti nezákonným nenávistným projevům online z roku 2016 o kategorie nelegálního obsahu nově definované v DSA.

V otázce potírání nelegálního obsahu očekává Slovensko od nové legislativy definici a implementaci jednotného a efektivního mechanismu ‚upozornění a akce‘ tak, aby EU nemusela ukládat platformám povinnost obecně monitorovat své sítě.

„V případě upozornění na nelegální a škodlivý obsah ze strany příslušných orgánů členských států musí (internetové) společnosti postupovat rychle a efektivně,“ dodal Marek Antál, náměstek ministerstva odpovědný za digitální agendu.

Zástupci internetových společností souhlasí. Slovenská aliance pro inovativní ekonomiku (SAPIE) podotýká, že v případě přenesení odpovědnosti za moderování obsahu na jednotlivé platformy může dojít k rozsáhlému mazání příspěvků uživatelů pomocí algoritmů, což by mohlo negativně ovlivnit jak fyzické osoby, tak firmy. SAPIE, nezisková platforma sdružující více než 100 členů a fórum pro slovenskou debatu o digitální ekonomice a inovacích, také zmiňuje, že preventivní použití mazacích algoritmů je sice nejlevnější, může ale také způsobit největší škody. Právě nutnost rychlého zkoumání velkého množství obsahu může podle SAPIE negativně dopadnout na malé firmy, které si nemohou dovolit provozovat takto citlivé detekční nástroje.

Rychlost odstraňování, stejně tak jako služby pro moderaci obsahu, musí být jednotná napříč členskými státy EU, doplnil europoslanec Bilčík.

Regulace politické reklamy je citlivým tématem. I zde může, dle ministerstva investicí, regionálního rozvoje a informatizace, pomoct DSA. Nová legislativa může nastavit jasná a transparentní pravidla, kterými budou platformy informovat uživatele o svých klientech, financování i o cílení politické reklamy. Jedním ze způsobů dosažení této transparentnosti je podle slovenské vlády vytvoření veřejně dostupné databáze politické reklamy na úrovni EU.

Europoslanec Bilčík pro EURACTIV.sk upřesnil: „Musíme mít detailní data o politické reklamě, kde zdrojem nebudou pouze oficiální účty politických stran.“ Příslušné orgány by měly mít, především v období před volbami, přístup k datům o politické reklamě právě i z jiných účtů, dodává Bilčík.

V tomto ohledu se názory společností a vlády rozchází. Dle SAPIE by DSA do toho procesu měla zasahovat jen minimálně. „Existují předpoklady tendenčního užití těchto principů na základě politických preferencí, buď politiků zodpovědných za implementaci regulace, nebo správců těchto platforem,“ dodal Michal Kardoš, výkonný ředitel SAPIE.

Období veřejných konzultací Digital Services Act (DSA) je u konce, přesto se návrh ani jeho hlavní cíle zatím nedostaly do maďarské veřejné debaty. Maďarská vláda nicméně nezávisle na DSA představila pracovní skupinu zabývající se digitální svobodou (Digital Freedom Working Group – DFWG). Cílem této skupiny je přezkoumat činnost technologických společností z pohledu základních lidských práv a vlády práva.

Po několikaměsíční činnosti DFWG se pro vládní regulaci činnosti sociálních sítí vyslovil ředitel Národního úřadu pro ochranu údajů a svobodu informací Attila Péterfalvi. Jeho hlavním argumentem je údajný vliv Facebooku na ústavní pravidla, soudní praxi a ústavní kulturu, a blokace „určitých názorů“. Proti tomuto tvrzení se silně postavily opoziční strany v obavě, že se jedná o vládní snahu „umlčet“ kritiky i na sociálních sítích. Podle ministryně spravedlnosti Judit Vargaové se nejedná o zavedení cenzury, ale pouze o snahu vlády zjistit, jaké právní záruky Facebook „při cenzuře maďarských občanů“ používá.

Ve prospěch regulace sociálních sítí na evropské úrovni se vyslovila Anna Donáthová, europoslankyně za frakci Renew Europe a za maďarskou liberální stranu Momentum. Podle jejího názoru musí Evropská unie vytvořit jednotná kritéria a společný regulatorní rámec, například skrze vytvoření nezávislé evropské instituce sledující dodržování pravidel pro transparentnost, moderaci obsahu a politickou reklamu.

„Online svoboda projevu je sama o sobě hodnotou, kterou je třeba chránit,“ zdůraznila pro Political Capital  Emese Pásztorová, ředitelka projektu Political Freedoms při Maďarské unii občanských svobod (TASZ). Poznamenala, že jsou to soudy, kdo definuje „nelegální obsah“.  V případě, kdy budou provozovatelé v rámci občanského zákoníku odpovědní za obsah na své platformě, stanou se opatrnými, a už dopředu budou odstraňovat jakýkoliv obsah, který by, byť jen s malou pravděpodobností, mohl porušovat zákon, dodala Pásztorová.

Používání procesů na moderaci obsahu, které nebudou daný obsah mazat, mohou mít opačný než zamýšlený výsledek. Zkušenosti Facebooku ukázaly, že upozorňování na „závadný“ obsah o něj pouze zvýšilo zájem, poznamenal pro Political Capital Gábor Polyák, ředitel Mérték Media Monitoring a ředitel oddělení komunikací a mediální vědy na Univerzitě Pécs.

Jiný názor má Institut mediálních studií (IMS) při Mediální radě Národního úřadu pro média a komunikaci (NMHH). Ten vychází z předběžné zpětné vazby od fact-checkingových organizací a platforem s aktivní moderací obsahu zpracované pro Evropskou skupinu regulátorů služeb audiovizuálních médií (ERGA). Zprávy zmiňují, že „odstraňování obsahu by mělo být omezeno na jednoznačné případy, běžná praxe se pak může posunout směrem k nahlašování pochybného obsahu.“

Jak dodal IMS, podle současných evropských i maďarských regulací nejsou poskytovatelé internetového hostingu a online vyhledávače odpovědní za nelegální obsah na své platformě, pokud o jeho závadnosti nevěděli. Pokud se však o závadnosti určitého obsahu dozvědí, musí okamžitě podniknout kroky k jeho odstranění – jedná se o takzvanou proceduru notice-and-takedown. Podle Gábora Polyáka je tento přístup adekvátní, umožňuje totiž odstranit jakýkoliv nelegální obsah, včetně reklam na nepravé léky. Otázkou zůstává účinnost tohoto přístupu i v budoucnosti, EU se prý může vydat „nebezpečnou cestou“ a začít spoléhat na filtrování obsahu pomocí algoritmů.

Odstraňování obsahu by mělo probíhat na základě transparentních pravidel a být až poslední možností, myslí si  Pásztorová. Další nástroje, jako je varování pro tvůrce závadného obsahu, nahlašování tohoto obsahu nebo zlepšování mediální gramotnosti, se také mohou osvědčit ve snaze přinášet uživatelům důvěryhodné informace.

Europoslankyně Anna Donáthová pro Political Capital dodala, že online platformy se musí zapojit do boje proti dezinformacím. Jejich kroky ohledně rozhodovacího procesu a algoritmů ale musí být transparentní. V neposlední řadě musí existovat instituce s opravnými prostředky, na kterou se bude možno obrátit. Podle Institutu mediálních studií představuje pro zákonodárce na národní i evropské úrovni vztah mezi svobodou projevu a dezinformacemi výzvu. „Nepodložené výroky není možné vyloučit ze sféry svobody slova jen proto, že postrádají faktický základ,“ doplnil zástupce institutu. K jejich omezování proto může podle IMS docházet pouze na základě přísných kritérií.

Zástupci maďarských institucí obecně varují před odstraňováním příliš široce definovaného obsahu. Ideální přístup vidí v kombinaci několika metod (například zvyšování mediální gramotnosti, označování závadného obsahu, atd.), transparentnosti online platforem a možnosti odvolání se proti rozhodnutí moderátorů obsahu.

Práci na DSA v Polsku pozorně sledují nevládní organizace, které se zabývají právem na soukromí v digitalizované společnosti nebo občanskými právy na internetu. Patří mezi ně i Nadace Panoptykon a Nadace Digitální Centrum (Fundacja Centrum Cyfrowe).

Ty doporučují, aby se na internetové platformy už nenahlíželo pouze jako na poskytovatele hostingu, protože jejich obchodní model se už dávno změnil. Upozorňují také na to, že model seberegulace neuspěl.

Podle názorů organizací je nezbytné, aby právo dokázalo definovat subjekty na digitálním trhu, a určit tak, které z nich jsou dominantní. Právě tento aspekt má být rozhodující pro uvalování dalších povinností.

Pokud jde o problematiku úpravy obsahu, neziskové organizace připomínají, že částečné řešení by mohlo přinést přenesení pravomocí kontrolovat pravidla na stranu internetové komunity nebo veřejnoprávních institucí.

Platformy by podle nich měly zůstat odpovědné za obsah porušující autorská práva, ale pouze v případě, že o tomto porušení budou vědět, a dostanou jasné upozornění od uživatelů nebo pověřeného orgánu.

„Zcela jasně jsme pro to nechtít po platformách monitoring uživatelského obsahu. Výjimka z odpovědnosti za obsah nicméně nemůže znamenat osvobození od odpovědnosti za vlastní činy internetových platforem, například v rámci politiky moderace obsahu,“ zdůraznila předsedkyně Nadace Panoptykon Katarzyna Szymielewiczová.

Jde také o to regulovat pouze obsah zakázaný zákonem a nedávat internetovým platformám možnost omezovat svobodu projevu. Podle neziskových organizací musí být systém upozorňování na ilegální obsah transparentní a efektivní, a uživatelé musí mít k dispozici jasnou možnost odvolacího řízení.

Polská europoslankyně Róża Thunová (Občanská platforma, EPP) si myslí, že „pokud platformy aktivně spravují obsah a propagují určitý kontroverzní nebo rozdělující obsah, měly by mít větší odpovědnost než doposud, protože to vede k jistým sociálním dopadům. Zároveň nesmí docházet k tomu, že některé společnosti profitují z podněcování agrese nebo nenávisti a z šíření nepravdivých informací na internetu,“ řekla.

Evropská technologické aliance EUTA, která zahrnuje největšího polského internetového prodejce Allegro, ústy své předsedkyně Magdaleny Piechové upozorňuje na to, že s povinností absolutního monitoringu uživatelského obsahu „z vrchu“ může přijít opak zamýšleného efektu. Chyby v označování obsahu jako ilegálního podle ní může omezovat práva uživatelů a zároveň vytvářet vysoké náklady pro platformy.

„Princip limitované odpovědnosti by byl lepší, protože by platformám dovolil se rozvíjet a zároveň zamezil porušování základních práv. Pokud by byly automaticky odpovědné za obsah, který se u nich objeví, pravděpodobně by zvolily příliš opatrný přístup,“ řekla předsedkyně EUTA.

Neziskové organizace také vyzývají k tomu, aby evropské právo garantovalo plnou transparentnost toho, jak automatické mechanismy obsah vybírají, a také kdo je za takový rozhodovací systém odpovědný.

„Další povinnosti malých i velkých platforem by se měly týkat oblasti auditů a lidského dohledu nad algoritmy pro moderaci, filtraci a výběr obsahu,“ uvedl předseda Nadace Digitální Centrum Alek Tarkowski.

Europoslankyně Thunová předložila desítky pozměňovacích návrhů DSA, které se z velké části dotýkají právě této problematiky. „Navrhovala jsem, aby byla cílená reklama přísněji regulována a v některých případech zakázána. Behaviorální reklama založená na určitých lidských vlastnostech, například odhalující duševní nebo fyzické problémy, by neměla být vůbec povolena. V ostatních případech by měli mít uživatelé vždy jasno, že jsou terčem cílené reklamy, a dát k tomu souhlas. Téma umělé inteligence je ve zprávě velmi široce diskutované a je důležité, aby její využití nevedlo k diskriminaci,“ řekla polská europoslankyně.

Debata okolo DSA se týká také odpovědnosti platforem za produkty, které nabízí jejich uživatelé. Jde především o otázku kontroly, jestli produkty nejsou padělané a splňují zákonné standardy.

„Je rozdíl mezi odpovědností za problematický zveřejněný obsah, jako jsou hate speech, homofobie, agrese a další, a odpovědností za nebezpečné nebo ilegální produkty propagované firmami. V prvním případě je moderace nutná a policejní orgány by měly být informovány co nejdříve. Ve druhém případě musí mít platformy k dispozici data od firem prodávajících podezřelé produkty, a poskytnout je uživatelům a relevantním orgánům,“ řekla Róża Thunová.

Magdalena Piechová upozornila, že „i když by měla hlavní zodpovědnost za ilegální aktivitu zůstat u uživatele, uvědomujeme si, že online platformy mají odpovědnost poukázat na nelegální obsah.“ „Budoucí rámec by měl zohlednit fakt, že v online prostoru se objevili různí noví aktéři, a upravit definici poskytovatelů informačních služeb a hostingů, aby bylo jasné, které služby pokrývá zákon. Jakákoliv nová pravidla by měla být technologicky neutrální a schopná adaptovat se na budoucí vývoj,“ podělila se o svůj pohled předsedkyně EUTA.