Sociální dilema je jméno nového filmu, který najdete na stránkách streamovacího obra Netflix i s českými titulky. Je to zajímavá podívaná, i když v některých detailech poněkud zvláštní. Asi bude nejlépe odbýt si veškerou kritiku hned na začátku.

To, že se zrovna právě ausgerechnet Netflix rozhodl „trhnout” od zbytku obřích firem a natočit dokument, který k nim je naprosto nelichotivý, je trochu paradox a možná by se dalo použít i slovo „pokrytectví“. Je to přece také gigantická firma, netflixové přenosy tvoří 15 procent všech dat proudících po světovém internetu. A své zákazníky nepochybně Netflix také sleduje a analyzuje jejich chování, aby identifikoval aktuální trendy a mohl provádět personalizovaná doporučení. (Zrovna Sociální dilema mi Netflix doporučil se slovy „aktuálně třetí nejsledovanější film v ČR“.)

Cynické strašení?

Cynik si položí otázku, zda to náhodou není tím, že se v USA poslední dobou dominantní postavení určitých internetových firem řeší na nejvyšší úrovni (v případě Googlu už je skoro jisté, že půjde k soudu). Možná, že Netflix chce v téhle situaci vypadat před politiky co nejlépe, k čemuž by mu takové distancování mohlo pomoci.

Na druhou stranu je třeba uznat, že Netflix vybírá od svých zákazníků měsíční předplatné a necpe jim žádné reklamy, čímž se od těch „zadarmo drahých“ služeb typu Googlu, Facebooku a Twitteru výrazně liší. Daleko více to připomíná normální obchodní vztah mezi dvěma stranami.

Druhá věc, kterou musím Sociálnímu dilematu vytknout, je vcelku zjevná snaha strašit diváka. To se dalo pojmout jemněji, případně vůbec. Některé ty skutečnosti, o kterých se tam mluví, jsou strašidelné samy o sobě a přidávat k nim temné manipulační scény působí jako overkill.

Tím ale seznam mých výtek končí. Ten film je dobrý a přinutí vás o problému jménem sociální sítě přemýšlet z různých úhlů pohledu.

Autoři filmu si vybrali docela širokou škálu osob k vyzpovídání, od zjevně levicového dredaře až po distinguovaného rizikového investora kolem šedesátky. Většina z těch lidí měla se vznikem a rozvojem dnešních sociálních sítí něco společného. A každý z nich vidí jiné slabiny.

Nechci tady prozrazovat všechno, co v devadesátiminutovém filmu padne, ale dozvíte se tam toho dost. Zejména o pozadí toho, jak funguje zobrazování reklam a jakým způsobem si sítě člověka mapují. Rád bych nicméně zmínil aspoň tři věci, které mě hodně zaujaly, a své úvahy k nim.

Závislost na sociálních sítích

První je myšlenka, kterou vyřkne jeden ze zpovídaných inženýrů. Aplikace, které se snaží připoutat vaši pozornost kvůli tomu, aby vás někam zatáhly, nejsou nástroje (tools), ale něco jiného, pro co zatím nemáme žádný přesný termín. Pracovně bych jim říkal opruzanti.

Nástroje v běžném slova smyslu neovlivňují vaši činnost. Kladivo si vezmete, něco s ním zatlučete, pak jej zase odložíte stranou a ono po vás nekřičí „hej, rozbij ještě něco jiného!“ Prostě si tam tiše leží. Ještě extrémnější příklad by byla pistole. Kdyby váš věrný Glock co chvíli kníkal „dneska jsi ještě nevystřelil ani ránu, zanedbáváš mě!“, asi by to bylo krapet divné.

Přesně takhle ale fungují mobilní aplikace pro sociální sítě. Ty bojují o vaši pozornost různými událostmi a upozorněními, co udělali vaši přátelé a kolegové. Ani to nemusí být přímá zpráva pro vás osobně. Odolat pípajícímu mobilu je těžké, zvlášť pokud se běžně pohybujete v kolektivu (třeba školním), kde je společenskou normou okamžitě reagovat na každou pitominu.

Tenhle druh interakce vyvolává nějakou závislost. Třeba ne v každém, ale v dost lidech na to, aby měla nějaké globální důsledky. Mladší generaci tuhle situaci nezávidím, tam hrozí, že budete-li od sítí „abstinovat“, stane se z vás společenský vyvrhel, naprostý nikdo. Žádné holky, žádná parta.

Člověk versus strojové učení

Druhá je úvaha o tom, že nová éra sociálních sítí se od předešlých milníků vývoje liší v důležitém detailu. Všechny dřívější nové formy komunikace (knihtisk, noviny, rádio, televize) sice přinesly změny, ale vyvíjely se relativně pomalu. Byly vytvořeny lidmi a lidé je také pozvolna vylepšovali – určitým tempem, se kterým jiní lidé dokázali držet krok.

Sociální sítě jsou poháněny strojovým učením, které se od lidského způsobu „vynalézání a vylepšování“ dosti kvalitativně liší. Jde vlastně o systém, který průběžně vylepšuje sám sebe, permanentním prováděním drobných pokusů a vyhodnocováním jejich výsledků. Navíc má k dispozici čím dál silnější hardware ke svému běhu.

S takovým systémem jen těžko dokáže nějaká lidská bytost držet krok; a což teprve snaha jej nějak obestavět zákonným rámcem? U všech předešlých forem komunikace jsme si časem vypěstovali určitou duševní rezistenci vůči jejich nejhorším projevům. Ale zrovna samoučící systém může vznik nějaké lidské rezistence zpozorovat hned, a hned se tomu také může začít přizpůsobovat, čímž ji neutralizuje.

Bez „lidských pojistek

Třetí je připomenutí, že, well, roboti nejsou lidé. Dostanou-li úkol, snaží se jej plnit přesně podle zadání a neřeší nějaké vedlejší efekty, které přitom způsobí, ať už jsou jakékoliv. „Uvažování“ takových systémů je neuvěřitelně hluboké, ale zároveň úzké. Na matfyzu k tomu býval bonmot, že počítač dělá to, co mu naprogramujete, a ne to, co jste po něm skutečně chtěli.

V případě Facebooku či Twitteru je hlavním úkolem sítě zabrat vám co největší procento vašeho bdělého stavu, protože čím déle na tu obrazovku budete zírat, tím více reklam se vám ukáže a tím více provozovatel sítě vydělá. (Právě nedávno ostatně vyplavalo do médií podezření, že Instagram, vlastněný Facebookem, nedovoleně zírá kamerou zpátky na vás, snad aby vyhodnotil vaše emoce či co.) Čtyřiadvacet hodin na FB je nerealizovatelných, uživatel musí někdy spát, ale deset hodin denně je nepochybně reálná a dosažitelná hodnota, aspoň u těch nejsnáze zaháčkovatelných typů lidí.

To je jasně definovaný a měřitelný cíl a ten softwarový robot se jej bude snažit splnit ze všech sil, bez užití nějakého „zdravého rozumu“, který ostatně není zase tak běžný ani u živých lidí. Pokud takový systém sledováním svých uživatelů zjistí, že nejlepší cestou je vytvářet politické kontroverze, klidně a bez zábran rozeštve celé národy až na pokraj občanské války. Nemá v sobě zabudované žádné pojistky, aby nezašel libovolně daleko.

Dost možná takové „lidské“ pojistky ani naprogramovat nejde. Vnímat atmosféru ve společnosti roboti nedokážou a těžko říci, zda by ji šlo nějak solidně kvantifikovat, aby ji bylo možné přetvořit v softwarový modul. Navíc k tomu provozovatelům sítí schází motivace, protože zaváděním nějakých pojistek nic nevyděláte, spíše naopak.

A i kdyby to šlo, třeba jste právě jen přidali další vrstvu manipulace…

Přinutí vás přemýšlet

Celkový dojem, který ve mně Sociální dilema zanechalo, se moc neliší od toho, který jsem měl už předtím. Ale přeci jen jsem se z něj něco dozvěděl. Kdybych měl shrnout svůj aktuální dojem, slavné Frankensteinovo monstrum bylo proti současným sítím milý a neškodný strýček. (Také jej v případě nouze šlo zabít.)

No nic, máte-li Netflix, běžte se na ten film podívat. I když s ním nebudete souznít na sto procent, je chytře pojatý a přinutí vás přemýšlet. Už jenom tím se dost liší od běžné produkce pro zábavu.

Update: Jeden ze čtenářů mě upozornil, že míchám Frankensteina-vědce a jeho monstrum. Mea culpa. Film jsem viděl někdy v minulém století a nezaujal mě tak, abych si přečetl knižní předlohu.

Převzato s laskavým svolením autora z jeho webu, na kterém kromě tohoto článku najdete další texty o politice a společnosti. Knihy Mariana Kechlibara si můžete objednat ZDE.