V roce 2016 hovořil jeho prezident Klaus Martin Schwab na Světovém ekonomickém fóru v Davosu o „čtvrté průmyslové revoluci“: nové éře úplné automatizace, která vytváří konkurenci mezi lidskou inteligencí a umělou inteligencí. Tento projev (stejně jako stejnojmenná kniha) je považován za zlomový bod ve vývoji nových technologií. Mnoho zemí si muselo vybrat, jakou cestu půjde: upřednostnění technologie před individuálními právy a svobodami, nebo naopak? Technologický zlom se tedy změnil ve společenský a politický.
O čem ještě Schwab mluvil a proč je to tak důležité?
Revoluce změní poměr sil mezi lidmi a stroji: umělá inteligence (AI) a roboti vytvoří nová povolání, ale také zabijí ty staré. To vše povede k sociální nerovnosti a dalším otřesům ve společnosti.
Digitální technologie poskytnou obrovskou výhodu těm, kteří na ně včas vsadí: vynálezcům, akcionářům a rizikovým investorům. Totéž platí pro státy.
V dnešním klání o globální prvenství vyhrává ten, kdo má největší vliv na poli umělé inteligence. Globální zisk z aplikace technologie AI v příštích pěti letech se odhaduje na 16 bilionů dolarů a bNejvětší podíl připadne USA a Číně.
Čínský IT expert Kai-Fu Lee ve své knize „The Superpowers of Artificial Intelligence“ píše o boji mezi Čínou a Spojenými státy v oblasti technologií, fenoménu Silicon Valley a kolosálních rozdílech mezi těmito dvěma zeměmi.
USA a Čína: závody ve zbrojení
Spojené státy americké je považována za jednu z nejvyspělejších zemí v oblasti umělé inteligence. Globální giganti sídlící v Silicon Valley – jako Google, Apple, Facebook nebo Microsoft – věnují tomuto vývoji velkou pozornost. Přidávají se k nim desítky startupů.
V roce 2019 zadal Donald Trump vytvoření americké iniciativy AI. Funguje v pěti oblastech:
Strategie AI ministerstva obrany hovoří o využití těchto technologií pro vojenské potřeby a kybernetickou bezpečnost. Zároveň v roce 2019 Spojené státy uznaly převahu Číny v některých ukazatelích souvisejících s výzkumem AI.
V roce 2019 americká vláda vyčlenila zhruba 1 miliardu dolarů na výzkum v oblasti umělé inteligence. Do roku 2020 však plánují implementaci technologie umělé inteligence pouze 4 % amerických generálních ředitelů ve srovnání s 20 % v roce 2019. Domnívají se, že možná rizika technologie jsou mnohem vyšší než její možnosti.
Čína má za cíl předběhnout USA v umělé inteligenci a dalších technologiích. Za výchozí bod lze považovat rok 2017, kdy se objevila Národní strategie rozvoje AI technologií. Podle ní měla Čína do roku 2020 dohnat světové lídry v této oblasti a celkový trh s AI v zemi by měl přesáhnout 22 miliard dolarů. Plánují investovat 700 miliard dolarů do chytré výroby, medicíny, měst, zemědělství a obrany.
Čínský vůdce Si Ťin-pching vidí AI jako „hybnou sílu technologické revoluce“ a ekonomického růstu. Exprezident čínského Google Li Kaifu to přičítá tomu, že AlphaGo (vývoj centrály Google) porazil čínského šampiona hry go Ke Jie. To se pro Čínu stalo technologickou výzvou.
To hlavní, v čem byla země doposud podřízená Spojeným státům a dalším vůdcům, je základní teoretický výzkum, vývoj základních algoritmů a čipů založených na AI. Aby to Čína překonala, aktivně si půjčuje nejlepší technologie a specialisty ze světového trhu, přičemž zahraničním společnostem nedovoluje konkurovat Číňanům na domácím trhu.
Zároveň mezi všemi společnostmi v oblasti AI jsou ti nejlepší v několika fázích vybíráni a povýšeni na špičky v oboru. Podobný přístup již byl použit v telekomunikačním průmyslu. V roce 2019 se v Šanghaji začala budovat první pilotní zóna pro inovace a aplikaci umělé inteligence.
V roce 2020 vláda přislíbí dalších 1,4 bilionu dolarů na 5G, AI a samořídící auta. Sázejí na největší poskytovatele cloud computingu a analýzy dat – Alibaba Group Holding a Tencent Holdings.
Baidu, „čínský Google“ s až 99% přesností rozpoznání obličeje, startupy iFlytek a Face byly nejúspěšnější. Trh s čínskými mikroobvody jen za jeden rok – od roku 2018 do roku 2019 – vzrostl o 50 %: na 1,73 miliardy dolarů.
Tváří v tvář obchodní válce a zhoršujícím se diplomatickým vztahům se Spojenými státy Čína posílila integraci civilních a vojenských projektů v oblasti AI. Hlavním cílem je nejen technologická, ale i geopolitická převaha nad Spojenými státy.
Čína sice dokázala předběhnout Spojené státy v neomezeném přístupu k velkým a osobním datům, ale stále zaostává v oblasti technologických řešení, výzkumu a vybavení. Číňané zároveň publikují více citovaných článků o AI.
Ale abychom mohli rozvíjet projekty AI, potřebujeme nejen zdroje a státní podporu. Je zapotřebí neomezený přístup k velkým datům: právě ta poskytují základ pro výzkum a vývoj, stejně jako pro výcvik robotů, algoritmů a neuronových sítí.
Velká data a občanské svobody: jaká je cena pokroku?
Velká data v USA také berou vážně a věří v jejich potenciál pro ekonomický rozvoj. I za Obamy vláda spustila šest federálních programů velkých dat v celkové výši 200 milionů dolarů.
S ochranou velkých a osobních dat zde však není vše tak jednoduché. Zlomem byly události 11. září 2011. Má se za to, že právě tehdy stát poskytl speciálním službám neomezený přístup k osobním údajům svých občanů.
V roce 2007 byl přijat zákon o boji proti terorismu. A od téhož roku se PRISM objevil k dispozici FBI a CIA – jedna z nejpokročilejších služeb, která shromažďuje osobní údaje o všech uživatelích sociálních sítí, stejně jako služeb Microsoft, Google, Apple, Yahoo a dokonce i telefonních evidence. Právě o této základně hovořil Edward Snowden, který dříve pracoval v projektovém týmu.
Kromě konverzací a zpráv v chatech, e-mailech, program shromažďuje a ukládá geolokační údaje, historii prohlížeče. Taková data jsou v USA mnohem méně chráněna než osobní data. Všechna tato data shromažďují a používají stejní IT giganti ze Silicon Valley.
Zároveň stále neexistuje jednotný balíček zákonů a opatření upravujících využívání velkých dat. Vše je založeno na zásadách ochrany osobních údajů každé konkrétní společnosti a formálních povinnostech chránit data a anonymizovat uživatele. Každý stát má navíc v tomto ohledu svá pravidla a zákony.
Některé státy se stále snaží chránit data svých občanů alespoň před korporacemi. Kalifornie má nejpřísnější zákon na ochranu dat v zemi od roku 2020. Uživatelé internetu mají podle něj právo vědět, jaké informace o nich společnosti shromažďují, jak a proč je používají. Každý uživatel může požádat o jeho odstranění nebo zákaz shromažďování. O rok dříve také zakázala používání rozpoznávání obličeje v práci policie a speciálních služeb.
Anonymizace dat je oblíbený nástroj používaný americkými společnostmi: když jsou data anonymizována a nelze z nich identifikovat konkrétní osobu. To však otevírá velké příležitosti pro společnosti shromažďovat, analyzovat a používat data pro komerční účely. Zároveň se na ně již nevztahují požadavky na důvěrnost. Tyto údaje jsou volně prodávány prostřednictvím speciálních burz a jednotlivých brokerů.
Prosazením zákonů na ochranu před shromažďováním a prodejem dat na federální úrovni může Amerika čelit technickým problémům, které se ve skutečnosti týkají nás všech. Sledování polohy tedy můžete vypnout v telefonu a v aplikacích, ale co satelity, které tato data vysílají? Nyní je jich na oběžné dráze asi 800 a nejde je vypnout: zůstaneme tak bez internetu, komunikace a důležitých dat – včetně snímků hrozících bouří a hurikánů.
V Číně platí zákon o kybernetické bezpečnosti od roku 2017. Ten na jedné straně zakazuje internetovým společnostem shromažďovat a prodávat informace o uživatelích s jejich souhlasem. V roce 2018 dokonce vydali specifikaci ochrany osobních údajů, která je považována za jednu z nejbližších evropskému GDPR. Specifikace je však pouze souborem pravidel, nikoli zákonem, a neumožňuje občanům hájit svá práva u soudu.
Na druhou stranu zákon ukládá mobilním operátorům, poskytovatelům internetových služeb a strategickým společnostem část dat uchovávat v rámci země a na požádání je předávat úřadům. Něco podobného u nás předepisuje tzv. „jarní zákon“. Zároveň mají orgány dohledu přístup k jakýmkoli osobním informacím: hovorům, dopisům, chatům, historii prohlížeče, geolokaci.
Celkem existuje v Číně více než 200 zákonů a předpisů týkajících se ochrany osobních údajů. Od roku 2019 jsou všechny oblíbené aplikace pro chytré telefony kontrolovány a blokovány, pokud shromažďují uživatelská data v rozporu se zákonem. Do oblasti působnosti spadaly také služby, které tvoří zdroj příspěvků nebo zobrazují reklamy na základě uživatelských preferencí. Aby byl přístup k informacím v síti co nejvíce omezen, má země „Zlatý štít“, který filtruje internetový provoz v souladu se zákony.
Od roku 2019 Čína začala opouštět zahraniční počítače a software. Od roku 2020 jsou čínské společnosti povinny přejít na cloud computing a také poskytovat podrobné zprávy o dopadu IT zařízení na národní bezpečnost. To vše na pozadí obchodní války se Spojenými státy, které zpochybnily bezpečnost zařízení 5G od čínských dodavatelů.
Taková politika způsobuje odmítnutí ve světovém společenství. FBI uvedla, že přenos dat přes čínské servery není bezpečný: mohou k němu přistupovat místní zpravodajské agentury. Po něm vyjádřili znepokojení i mezinárodní korporace včetně Applu.
Světová organizace pro lidská práva Human Rights Watch poukazuje na to, že Čína vybudovala „síť totálního státního elektronického dohledu a sofistikovaný systém cenzury internetu“. Souhlasí s nimi 25 členských států OSN.
Nejvýraznějším příkladem je Sin-ťiang, kde stát monitoruje 13 milionů Ujgurů, muslimské národnostní menšiny. Využívá se rozpoznávání obličeje, sledování všech pohybů, konverzací, korespondence a represe. Kritizován je i systém „sociálního kreditu“, kdy přístup k různým službám a dokonce i letům do zahraničí mají pouze ti, kteří mají dostatečné hodnocení důvěryhodnosti – z pohledu státních služeb.
Existují další příklady: když se státy dohodnou na jednotných pravidlech, která by měla co nejvíce chránit osobní svobody a hospodářskou soutěž. Ale tady, jak se říká, existují nuance.
Jak evropské GDPR změnilo způsob, jakým svět shromažďuje a ukládá data
Od roku 2018 přijala Evropská unie GDPR – obecné nařízení o ochraně osobních údajů. Upravuje vše, co souvisí se shromažďováním, ukládáním a používáním online uživatelských dat. Když zákon před rokem vstoupil v platnost, byl považován za nejtvrdší systém ochrany soukromí lidí na internetu.
Zákon uvádí šest právních základů pro shromažďování a zpracování údajů od uživatelů internetu: například osobní souhlas, právní povinnosti a životní zájmy. Pro každého uživatele internetových služeb existuje také osm základních práv, včetně práva být informován o shromažďování údajů, opravovat nebo mazat údaje o sobě.
Společnosti jsou povinny shromažďovat a uchovávat minimální množství dat, které potřebují k poskytování služeb. Internetový obchod se vás například nemusí ptát na vaše politické názory, aby vám dodal produkt.
Všechny osobní údaje musí být bezpečně chráněny v souladu s právními normami pro každý typ činnosti. Osobní údaje zde navíc znamenají mimo jiné informace o poloze, etnické příslušnosti, náboženském přesvědčení, soubory cookie prohlížeče.
Dalším obtížným požadavkem je přenositelnost dat z jedné služby do druhé: Facebook může například přenést vaše fotografie do Google Photos. Ne všechny společnosti si tuto možnost mohou dovolit.
Přestože bylo GDPR přijato v Evropě, vztahuje se na všechny společnosti, které působí v rámci EU. GDPR se vztahuje na každého, kdo zpracovává osobní údaje občanů nebo obyvatel EU nebo jim nabízí zboží či služby.
Zákon vytvořený k ochraně pro IT průmysl se změnil v nejnepříjemnější důsledky. Jen v prvním roce udělila Evropská komise pokuty více než 90 společnostem v celkové výši více než 56 milionů eur. Navíc maximální pokuta může dosáhnout až 20 milionů eur.
Mnoho společností čelilo omezením, která vytvořila vážné překážky pro jejich rozvoj v Evropě. Mezi nimi byl Facebook, stejně jako British Airways a hotelový řetězec Marriott. Zákon ale zasáhl především malé a střední podniky: musí přizpůsobit všechny své produkty a interní procesy jeho normám.
GDPR zplodilo celé odvětví: právní firmy a poradenské firmy, které pomáhají uvést software a online služby do souladu se zákonem. Jeho analogy se začaly objevovat v dalších regionech: Jižní Korea, Japonsko, Afrika, Latinská Amerika, Austrálie, Nový Zéland a Kanada. Dokument měl velký vliv na legislativu Spojených států, naší země a Číny v této oblasti.
Člověk by mohl nabýt dojmu, že mezinárodní praxe aplikace a ochrany technologií v oblasti velkých dat a AI sestává z některých extrémů: totálního dohledu či tlaku na IT firmy, nedotknutelnosti osobních informací nebo naprosté bezbrannosti vůči státu a korporacím. Ne tak docela: existují i dobré příklady.
AI a velká data ve službách Interpolu
Mezinárodní organizace kriminální policie – zkráceně Interpol – je jednou z nejvlivnějších na světě. Zahrnuje 192 zemí. Jedním z hlavních úkolů organizace je sestavování databází, které pomáhají orgánům činným v trestním řízení po celém světě předcházet a vyšetřovat kriminalitu.
Interpol má k dispozici 18 mezinárodních základen: o teroristech, nebezpečných zločincích, zbraních, ukradených uměleckých dílech a dokumentech. Tato data jsou shromažďována z milionů různých zdrojů. Například globální digitální knihovna Dial-Doc umožňuje identifikovat ukradené dokumenty a systém Edison – padělky.
Ke sledování pohybu zločinců a podezřelých se používá pokročilý systém rozpoznávání obličeje. Je integrován s databázemi, které ukládají fotografie a další osobní údaje z více než 160 zemí. Doplňuje ji speciální biometrická aplikace, která porovnává tvary a proporce obličeje tak, aby shoda byla co nejpřesnější.
Systém rozpoznávání detekuje i další faktory, které mění obličej a znesnadňují jeho identifikaci: osvětlení, stárnutí, make-up a make-up, plastická chirurgie, následky alkoholismu a drogové závislosti. Aby se předešlo chybám, jsou výsledky vyhledávání systému kontrolovány ručně.
Systém byl představen v roce 2016 a nyní Interpol aktivně pracuje na jeho vylepšení. International Identification Symposium se koná každé dva roky a pracovní skupina Face Expert si vyměňuje zkušenosti mezi zeměmi dvakrát ročně. Dalším slibným vývojem je systém rozpoznávání hlasu.
Za nejnovější technologie v oblasti mezinárodní bezpečnosti odpovídá Mezinárodní výzkumný ústav OSN (UNICRI) a Centrum pro umělou inteligenci a robotiku. Singapur vytvořil největší mezinárodní inovační centrum Interpolu. Mezi jeho pokroky patří policejní robot, který pomáhá lidem na ulici, stejně jako AI a technologie velkých dat, které pomáhají předvídat a předcházet zločinu.
Jak jinak se velká data používají ve vládních službách:
NADRA (Pákistán) – databáze multibiometrických dat občanů, která slouží k efektivní sociální podpoře, daňové a hraniční kontrole.
Správa sociálního zabezpečení (SSA) v USA používá velká data k přesnějšímu zpracování žádostí o invaliditu a omezení podvodníků.
Ministerstvo školství USA používá systémy rozpoznávání textu ke zpracování regulačních dokumentů a sledování změn v nich.
FluView je americký systém pro sledování a kontrolu epidemií chřipky.
Ve skutečnosti nám velká data a umělá inteligence pomáhají v mnoha oblastech. Jsou postaveny na online službách, jako jsou ty, které vás upozorňují na dopravní zácpy nebo davy lidí. S pomocí velkých dat a AI v medicíně provádějí výzkum, vytvářejí léky a léčebné protokoly. Pomáhají organizovat městské prostředí a dopravu tak, aby se všichni cítili pohodlně. V národním měřítku napomáhají rozvoji ekonomiky, sociálních projektů a technických inovací.
Proto je tak důležitá otázka, jak velká data jsou shromažďována a aplikována, stejně jako algoritmy AI, které s nimi pracují. Přitom nejdůležitější mezinárodní dokumenty, které tuto oblast upravují, byly přijaty poměrně nedávno – v letech 2018-19. Jednoznačné řešení hlavního dilematu spojeného s využitím velkých dat pro zabezpečení stále neexistuje. Kdy na jedné straně transparentnost všech soudních rozhodnutí a vyšetřovacích úkonů a na druhé straně ochrana osobních údajů a jakýchkoli informací, které by mohly člověka v případě zveřejnění poškodit. Každý stát (nebo svaz států) si proto tuto otázku rozhoduje sám za sebe. A tato volba často určuje celou politiku a ekonomiku na příští desetiletí.
Přihlaste se k odběru kanálu Trends Telegram a zůstaňte informováni o aktuálních trendech a prognózách budoucnosti technologií, ekonomiky, vzdělávání a inovací.