Simon Moores se ve své společnosti Zentelligence zabývá technologiemi, dnes především umělou inteligencí, jejím vývojem i etickým rozměrem, strojovým učením a daty. V tomto kontextu ho zajímají sociální média, bezpečnost na internetu a pochopitelně dopad na byznys. Závěry, k nimž dochází, jsou často šokující. Seznámí vás s nimi na letošní konferenci Forum Media.
Není to tak dávno, kdy všichni překypovali optimismem, jak sociální sítě demokratizují média, propojí svět a akcelerují pokrok. Dnes už vidíme i nebezpečí, jaká přinášejí – manipulace veřejným míněním, ovlivňování voleb, šíření nepravdivých zpráv, ztrátu soukromí. Dokážeme se s tím vypořádat?
Otevíráme Pandořinu skříňku a s radostí pouštíme všechno ven. A ačkoli z ní vyskakují i některé dobré věci, je obrovská spousta těch, které se nám nedaří kontrolovat, a přitom už je nejde do té skříňky vrátit zpátky. Ohrožení informační bezpečnosti, hacking a zvlášť, jak říkáte a jak teď vidíme ve Spojených státech i napříč Evropou, snahy o manipulaci veřejného mínění a voleb, to jsou obrovská negativa, která sociální sítě a digitalizace obecně přinesly.
Co s tím ale můžeme ještě teď dělat, když už je to ze skříňky venku?
Zaprvé, politici musí nejdřív porozumět tomu, čemu opravdu čelí, závažnosti situace, a začít ji řešit nejen na národní, ale na mezinárodní úrovni. Dokud tohle neproběhne, budeme vždy o hodně pozadu. Zatím jsou to jen takové divoké pokusy, které jsou spíš kontraproduktivní.
Minulý týden například jedna naše poslankyně přišla s návrhem, aby se kontrolovaly diskuse na uzavřených sociálních sítích kvůli projevům rasové nenávisti. Zeptal jsem se jí, jak to chce udělat. Jestli to má vymyšlené. Já tu odpověď znám: nejde to! Prostě to kontrolovat nedokážete.
I samotná diskuse o takové iniciativě je naprostá ztráta času, protože to udělat nejde. Servery, které takové platformy hostují, mohou být v San Francisku, v Kyjevě – jak s tím chcete z Londýna něco dělat? Takže politici nejdřív musejí problematice porozumět, což se neděje, a pak jednat společně na mezinárodní, globální úrovni.
Jakou roli by v tom měli mít samotní provozovatelé sociálních sítí?
Když si vzpomenete na skandál kolem Cambridge Analytica, uvědomíte si, že Facebook a další platformy jsou prostě příliš velké, aby tyhle věci dokázaly kontrolovat, ať chtějí sebevíc. A aby takové otázky dokázaly řešit na národních úrovních.
Když to budou chtít řešit vaši politici v České republice, mohou si pozvat Marka Zuckerberga před nějakou komisi, aby se zpovídal. To můžou. A on je zrovna tak může, a patrně bude, ignorovat. Protože Facebook je silnější než Česká republika.
Převažují tedy podle vašeho názoru zápory digitálních technologií nad jejich klady?
Internet a sociální sítě, podobně jako svého času průmyslová revoluce, přinesly obrovské benefity a zvýšily kvalitu života lidí po celém světě. Nové technologie v dějinách razantně snižovaly chudobu, eliminovaly otroctví, nemoci. Ale je s nimi spojeno i nepřeberné množství špatných věcí jako důsledků zavedení nových technologií – například totalitní režimy.
Dnes žijeme v nové etapě, kdy se různé režimy snaží aktivně využívat moderní technologie k mocenským účelům. Podívejte se na Čínu, jak zneužívá technologií ke kontrole lidí. Obavu z toho, jak může být technologiemi manipulováno, aby kontrolovaly naše životy, dnes sdílejí lidé na celém světě. Důsledkem je omezování svobod, které může snadno vést znovu k velmi podobné situaci, jakou jste v Československu zažili v roce 1948.
Věnujete se umělé inteligenci a strojovému učení. Od vzniku všeobecné umělé inteligence na lidské úrovni jsme ještě dost vzdáleni. Dokážeme alespoň tenhle proces kontrolovat?
Zaprvé nesmíme zaměňovat záměr s vědomím. Když zkoumáte trilion neuronů v lidském mozku, uvědomíte si, jak strašně daleko dosud jsme od strojů, které by měly vědomí, které by si byly schopny uvědomovat samy sebe. Možná leckoho zklamu, ale to je v tuto chvíli naprosto neproveditelné.
Děláme ale velké pokroky v takzvané úzké umělé inteligenci, tedy takové, která má specifické zaměření. První byly šachové automaty, které už před lety porazily nejlepší šachisty světa. Dnes máme funkční prvky úzké umělé inteligence v telefonech, autech, v běžném životě. Jsme svědky rychle rostoucí schopnosti procesovat obrovská množství dat a na jejich základě dělat inteligentní, správná rozhodnutí.
Takže tyto technologie lidstvo zatím zvládá?
To je otázka, která přestává být relevantní. Já jsem si třeba teď koupil hru go a učím se ji hrát, protože sám nerozumím tomu, jak mohl stroj porazit v této hře člověka. Protože v go máte víc možných kombinací než v celém fyzickém vesmíru a pokládalo se za nemožné, aby stroj dokázal všechny tyto možnosti zprocesovat. To je možné, jen když dokážete dělat inteligentní rozhodnutí – nepropočítávat všechny kombinace, ale jednat jako člověk.
Jenomže stroj AlphaGo Zero neměl k dispozici data z žádných utkání člověka s člověkem nebo s jiným strojem. Lidé mu je nedali. Přesto ve hře go dokázal vyhrát nad člověkem.
To ale není celé. Loni v prosinci Stroj AlphaGo Zero Plus dokázal porazit nejlepší šachový program světa Stockfish 8. Hrál šachy, tedy hru, kterou vůbec neznal. A dokázal to opakovaně – ve všech duelech. A tohle už jsou inteligenční schopnosti, které člověk nemá.
Šachy a go jsou příkladem oblastí, kde už stroje člověka nepotřebují, protože jsou po všech stránkách vyspělejší než člověk. Co z toho plyne? Myslím, že by nás moc nemělo vzrušovat „lidské“ vědomí strojů – to je velmi vzdálená budoucnost. My ji ale možná úplně přeskočíme, protože stroje budou i bez ní inteligentnější než lidé.
