Milí čtenáři, nastal pomalý a pošmourný začátek ledna. Domácí politika se točí hlavně kolem vakcinace, ve které máme proti Izraeli či Velké Británii dost zoufalé zpoždění. Nějaké zásadní efekty brexitu zatím nenastaly, na volbu nového předsedy CDU se teprve čeká, množství aut shořelých ve Francii nepřekročilo obvyklý standard atd.

V takovém hluchém okamžiku se skrývá příležitost k tomu, podívat se na vývoj s určitým odstupem. A přitom máme dobré téma – právě před sto lety zazněl na divadelních prknech pojem „robot“, jedno z mála dnes univerzálně rozšířených slov, které je českého původu.

Roboti budou nejspíš naše následující roky utvářet čím dál více. Jak?

Zatím nejsou pány světa 

Před pár dny vydala firma Boston Dynamics taneční video, ve kterém vystupuje několik jejích robotů, včetně antropomorfního typu Atlas.

Video sklidilo různé reakce, například jeden čtenář na Twitteru mi napsal toto: „Tady koukáme na dosti možný důvod zániku lidstva. Je to spíš děsivé…“ A později dodal: „Já zas nejsem žádný velký konspirator, nicméně už dnes se lidé raději věnují elektronice, ať už v jakékoliv formě, než aby se starali o protějšek. Např. kvůli prac. vytíženosti. A se robot nehodí, prostě se vypne…“

Pojďme tedy chvíli přemýšlet nad roboty, i když zatím to zas takoví páni lidstva nejsou.

A budeme přitom volně přecházet mezi stroji ovladatelnými na dálku a stroji autonomními, protože mezi nimi není zase tak ostrá hranice; vývoj typicky začíná u „hloupého“ stroje plně závislého na dálkovém ovládání, ke kterému se autonomní funkcionalita postupně přidává.

Robot nemusí napodobovat člověka 

Slovo robot sice vynalezl Karel Čapek, ale pojem robotika zpopularizoval v anglosaském světě nejspíš až spisovatel sci-fi Isaac Asimov se svými třemi zákony robotiky. Ty už jsou také nějaký ten pátek staré (cca 1950).

1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.

2. Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.

3. Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.

Sci-fi je skvělá literatura, ale její schopnosti předpovídat budoucnost nejsou až tak dokonalé, jak by asi její autoři sami chtěli. Hlavní problém je v tom, že takové výrazné osobnosti jako Asimov a Čapek nastolí trend, ze kterého je pro další generace těžké se vymanit. Když mistři žánru přivedou na svět koncept robota coby umělého člověka – jedna hlava, dvě ruce, dvě nohy a něco jako elektrická duše – za chvíli je skoro nemyslitelné představit si robota, který by člověku podobný nebyl.

A to je tak trochu chyba. Humanoidní roboti sice dráždí naši představivost, existuje na to i termín (Uncanny valley), ale proč by měl vlastně robot svým vzhledem a fungováním napodobovat člověka? Letadlo taky nemá zobák a peří, ani ty první modely před sto lety jej neměly.

Řekl bych, že pokud už máme přemýšlet o robotech a jejich vlivu na naši budoucnost, je potřeba se soustředit hlavně na ty, kteří nám podobní nejsou. Ony ty změny, příležitosti a hrozby většinou přicházejí z těch méně nápadných směrů.

Výhody válečných robotů

První bod, dost možná nejdůležitější: zabránit vzniku válečných robotů víceméně nejde. Státy, které tenhle vývoj zaspaly, jsou v podobném postavení jako pozdně středověké království, které by zavrhlo novinku jménem střelný prach. Bohužel mezi ně patří i Česká republika.

Automatizace všeho druhu je žádoucí hlavně u činností, které jsou těžké, nebezpečné, případně monotónní. Nasazení v boji splňuje všechny tři podmínky, tudíž člověk-voják bude přirozeným kandidátem pro nahrazení za robota. A ty státy, které mají nějakou válku v bezprostřední paměti, si velmi dobře uvědomují, jak citlivé je veřejné mínění na to, když se z opačné strany světa vracejí bedny pokryté vlajkami nebo mladí muži bez končetin.

Ta druhá možnost je přitom snad ještě více demoralizující. Pokročilá medicína dokáže v poli zachránit i velmi těžce zraněné, ale všechny způsobené škody na zdraví napravit neumí. A pro sousedy, kteří pak ty zmrzačené veterány další desítky let potkávají, je to živá připomínka lidské ceny války, daleko intenzivnější než zarůstající obdélník hlíny na hřbitově. Někteří podle toho budou volit. Jedna z věcí, které hrály proti Clintonové roku 2016, byla její pověst válečné jestřábky, která hlasovala pro spoustu vojenských akcí.

Pak je tu další věc, o kterou se u robotů nemusíte starat, a to je zajetí. Zřítí-li se do nepřátelského teritoria živý pilot, je to prekérní situace, zejména pokud na druhé straně stojí psychopati typu Islámského státu, kteří rádi pitvají ještě dýchající lidská těla a vysílají to v přímém přenosu na internetu. Upálení jordánského pilota (jen pro otrlé jedince, varoval jsem vás) před několika lety bylo klasickou součástí jejich psychologické války. Toto u robotů odpadá; pokud se vousatí hoši rozhodnou ugrilovat rozbitý dron před kamerou a tvářit se u toho drsně, zbytek světa si maximálně tak bude klepat na hlavu.

Tím seznam výhod nekončí. Spousta vojenských robotů má i jiné, civilní nasazení. Robot, který se plíží po rozstříleném městě a hledá schované mudžahedíny, se nijak zvlášť neliší od robota, který se plíží po městě postiženém zemětřesením a hledá ještě dýchající oběti. Potřebné hardwarové i softwarové vybavení bude hodně podobné a takovým humanitárním nasazením se dají získávat body pro public relations. A naopak, zdánlivě nevinná záchranářská či vědecká technika má ve skutečnosti potenciálně dvojí využití ve válečném konfliktu.

A ještě jedna poznámka: robotičtí vojáci mohou být levnější než současné technologie, které střídají. U takové pilotované stíhačky, jejichž ceny narostly do šílených výšin, platíte mimo jiné za vybavení nezbytné k ochraně křehkého lidského stvoření v kokpitu, a ještě navíc musíte kvůli tomu samému člověku omezovat manévrovací schopnosti letadla, aby jej přetížení nezabilo. Kolik nakoupíte za cenu jedné F-35 malých hraček, jako je tenhle britský brouk? Netroufám si to vyčíslit. I daňovému poplatníkovi se taková investice prodává snáze, a na tom záleží, protože ani americká veřejnost není ochotna utopit ve vojenských nákladech úplně libovolné množství peněz.

Sečteno, podtrženo: Asimovův první zákon se v našem světě neujal, váleční roboti jsou a bude jich přibývat. Jejich masivnější nasazení naruší některé prastaré principy války. K vedení konfliktů bylo vždycky potřeba mít k dispozici dostatečné množství mladých mužů ochotných a schopných bojovat. S robotizovanou armádou už to tak jednoznačně neplatí. Otevírá se tak cesta pro vojenskou aktivitu a asertivitu i pro národy, jejichž demografie je z tohoto hlediska nepříznivá a nedisponují dostatkem „kanónenfutru“.

I rizika spojená s nasazením jsou jiná. Rozkazy, které by živí vojáci třeba odmítli vyplnit, se dají robotům zadat bez váhání. Na druhou stranu – „hacknout“ živé vojáky se nepříteli podařilo jen málokdy (propagandou). V případě robotů to může být o dost snazší.

Lodě bez lidské posádky

Další oblast, kterou roboti v dohledné době nejspíš ovládnou: automatizovaná doprava, hlavně ta, která nepřichází do neustálého a bezprostředního kontaktu s lidmi. Samořídící auto bude v tomhle vývoji asi poslední, protože prostředí, ve kterém se auta pohybují, patří k těm nejmíň predikovatelným vůbec. Spočítat, kam se vydá opilec motající se po blízkém chodníku, je těžký úkol, o všelijak pobíhajícících dětech, psech, kočkách, mývalech, srnkách, losech, slonech atd. (podle toho, po jaké zemi jezdíte) ani nemluvě.

Zato k plně automatizované lodi není až tak daleko (další článek, ještě jeden). Velikost námořních posádek se zmenšuje už léta a přirozenou koncovou hodnotou je nula. Kompletně robotické plavidlo si s sebou nepotřebuje vézt žádnou infrastrukturu pro lidi. Ubikace, můstek, zásoby potravin a léků, lůžka pro nemocné, voda, klimatizace, topení, to všechno může jít pryč a ušetřenou kapacitu lze použít k přepravě dalšího nákladu. Odpadá shánění kvalifikovaných námořníků (řadového mužstva je dost, ale důstojníci byli ještě nedávno nedostatkoví – nevím, co s tím udělal covid). Ani somálští nebo malajští piráti nemohou vzít posádku jako rukojmí, když tam žádná nebude.

A co se civilních dronů týče, společnosti jako Amazon a UPS silně tlačí na jejich použití v USA, přičemž už z amerických úřadů „vydojily“ různé ústupky ohledně provozu nad obydlenými oblastmi. Zatím k tomu musejí být lidští (vzdálení) piloti, ale to časem taky pomine.

Představa dronů kmitajících nad našimi hlavami s balíčky je sice na jednu stranu pravé sci-fi, na druhou stranu taky poněkud dystopická. Dokonce i na hackerských diskusních fórech se lidé děsí toho, jaký vliv na jejich kvalitu života bude mít „zarušené nebe“ zastíněné bzučícími stroji a toho, že přijdou o zbytky soukromí i na vlastní zahrádce. Ani občasné havárie se smrtícími následky se nedají vyloučit.

Všechno jsou to oprávněné obavy, jenže obchodní gigant Amazon nejspíš ví, co dělá. V tom smyslu, že jakmile si zákazníci navyknou na expresní doručení svého zboží za třicet minut, nikdo už jim tu možnost nevyrve z rukou. A jestli bude v důsledku toho potřeba se smířit s hustým leteckým provozem nad hlavou, tak se tak holt stane. Asi podobně, jako jsme se smířili se zabetonováním nemalého kusu krajiny a hlukem, který provází silniční dopravu, o určitém množství obětí na životech nemluvě. Pozorovateli narozeném ještě koncem 19. století musela tahle rychlá civilizační proměna přijít šílená; pro generaci, která už nic jiného nezná, jde o „normálku“.

V podstatě jediné, co by takovému vývoji mohlo zabránit, by byla ekonomika celé věci. Ani Amazon by dlouhodobě neprovozoval službu, která by byla silně ztrátová. Ale provoz doručovacích dronů, aspoň na nějaké menší a střední vzdálenosti, nejspíš příliš drahý nebude. To jsou stroje, které lze na výrobní lince „sekat jako Baťa cvičky“, takže výrobní cena jednotlivého kusu bude nízká. Náklady na řídící software se rozpočítají na celou flotilu a co se spotřeby energie týče, měla by být o několik procent menší než u klasického dovozu balíčku autem.

Opět sečteno a podtrženo: čekal bych, že v následujícím desetiletí bude mít nejčastější fyzické setkání člověka s robotem podobu malého letadélka s objednaným zbožím, vznášejícího se nad ulicí. Nejdřív v Americe a Číně, časem to dorazí i do Evropy.

Nahradí virtuální partneři ty normální?

Třetí velký segment: softwaroví roboti. To jsou přesně ti, na které se kvůli představě robota jako umělého člověka snadno zapomíná, protože nemají žádné tělo. Ale přesto si myslím, že to jsou právě ti, kteří mají největší potenciál naplnit obavy mého čtenáře z Twitteru (viz výše – „už dnes se lidé raději věnují elektronice, ať už v jakékoliv formě, než aby se starali o protějšek“). Skutečně se to děje už teď; když někdo chodí po světě přilepený k obrazovce mobilu, konzumuje výsledky činnosti softwarového robota, který se snaží upoutat jeho pozornost na co největší dobu, nejčastěji proto, aby mu ukázal nějaké ty reklamy.

Softwaroví roboti mají proti fyzickým tu výhodu, že se jejich kapacita snadno škáluje podle potřeby. Jeden dron může naráz přenášet maximálně X kilogramů balíčků a pokud jich potřebujete dopravit více, musíte vyrobit další drony. Softwarového robota vytíženého na maximum posílíte daleko snáze – přidáním CPU nebo paměti ve sdíleném výpočetním prostředí, kde běží více služeb naráz. I kdybyste přitom museli dokoupit nějaký nový hardware, tak ten je (na rozdíl od dronu) dostupný prakticky okamžitě a také je daleko univerzálněji využitelný. Poklesne-li zase zájem o služby daného softwarového robota, můžete mu tu paměť a procesorovou kapacitu opět ubrat a přidělit ji jinému procesu, který ji využije.

Jelikož typickým účelem softwarových robotů je právě snaha zaháčkovat uživatele na sociálních sítích, není divu, že už dnes jsou docela dobří v tom, získat a udržet vaši pozornost, případně si vás trochu připoutat i emocionálně. Před pár měsíci jsem narazil na článek popisující dění kolem Microsoftem naprogramované robotky Xiaoice, která si v Číně získala obrovské množství, well, pro nedostatek lepšího slova konverzačních partnerů mezi osamělými muži. A osamělých mužů je v Číně hodně, protože kombinace politiky jednoho dítěte se silnou kulturní preferencí pro syny způsobila, že v mladších generacích je nedostatek žen. (Poměr 119:100 je opravdu šílený.)

Přijde mi to jako daleko horší dystopie než vševidoucí drony nad hlavou. Virtuální partner může být až příliš dokonalý. Nikdy vás nenaštve tím, že má špatný den, nikdy se s vámi nerozejde a nerozvede, nikdy nebude otevřeně prosazovat své zájmy proti vašim, nikdy vás neudá za sexuální harašení atd.; v případě, že máte zcela specifické koníčky, se jim přizpůsobí.

Pokud se takoví virtuální partneři stanou normou v mladší populaci, je dost možné, že se ta mladší populace nenaučí pořádně komunikovat se živými lidmi a zvládat dříve samozřejmou skutečnost, že živí lidé mají špatné dny, jsou ochotni se hádat pro blbosti, rozcházejí se s vámi, prosazují svoje zájmy a nesdílejí vaši vášeň pro parní lokomotivy ze 40. let 20. století. Z jejich pohledu to může být stejně divné a neefektivní jako učit se stloukat doma máslo; proč byste se s tím dřeli, když můžete daleko jednodušeji koupit hotové máslo v obchodě? A psychologické potřeby se od jídla zas tak moc neliší, i u nich bude člověk instinktivně hledat způsob, jak je uspokojit „laciněji“, s menší námahou.

Nechci tímto vstoupit do řad klasických doomsayerů. Lidstvo si nakonec zatím poradilo i s atomovou bombou a s existencí hudební skupiny Nickelback, aniž by se zhroutilo. Ale nějaký nepříjemný vývoj by z toho být mohl, asi jako tehdy, když se chlapi na frontách první světové války naučili kouřit balené cigarety (místo dříve běžné dýmky nebo doutníku) a s určitým časovým odstupem je začala kosit rakovina plic, rozedma a infarkty po statisících a milionech. Tyhle důsledky vždycky přicházejí se zpožděním a někdy není ani patrné, jak je to vlastně s řetězcem příčin a následků. A jejich náprava leckdy trvá mnohem déle, než jak dlouho původní problém vznikal.

Když si píše robot s robotem

Další oblastí, se kterou softwaroví roboti notně míchají už teď a nejspíš s ní zamíchají ještě více, je svoboda projevu. Jak praví jeden klasický vtip z roku 1993 (už!): na internetu nikdo neví, že jste pes. Ani robot.

Jelikož Google, Facebook, Twitter a spol. jsou především zisk sledující firmy, musejí si dávat pozor na to, kolik zaměstnávají lidí a jaké mají mzdové náklady. Pokud po nich politici či aktivisté chtějí stále více a více mazání a skrývání příspěvků, většinu této činnosti dostanou přirozeně na hrb softwaroví roboti, kteří pracují 24 hodin denně a nechtějí za to peníze. To je asi oblast, kde opravdu jednoho dne mohou roboti „vládnout“ nám, ubohým smrtelníkům – ovšem nikoliv svévolně, ale proto, že jim tu pravomoc jiní smrtelníci svěřili.

Opačnou stránkou mince jsou roboti, kteří píšou. Zatím se nebojím toho, že by nějaká umělá inteligence typu GPT-3 začala chrlit nové Zapomenuté příběhy po stovkách, ale na krátké textíky o dvou-třech odstavcích už je docela dobrá a pro účely nějakého vlivového boje na internetu vám pár odstavců stačí. Navíc toto je jedna z oblastí, kde skutečně dochází k technologickému pokroku; kvalita robotického psaní bude roku 2030 nejspíš podstatně lepší než dnes.

Koncepce trollí fabriky někde na předměstí hlavního města, kde zaměstnanci tráví celé dny tím, že do diskusí píšou příspěvky odpovídající státní doktríně, začíná být poněkud zastaralá, asi jako kolesový parník v roce 1900 nebo špionážní letadlo v roce 1960. Obojí se tehdy ještě dalo najít v běžném provozu, ale budoucnost už zřetelně patřila jiným technologiím. A public relations je úkol, který se zdaleka neomezuje jen na velkou světovou politiku. Zájem vylepšit svoji reputaci mají i menší státy, strany, firmy, hotely, restaurace, kandidáti, soukromé osoby… Tady mají textoví roboti do budoucna potenciálně hodně práce.

Existuje teoretický koncept zvaný Turingův test, jehož základní osou je otázka, nakolik dokáže stroj při komunikaci napodobit člověka, případně až k úplné nerozlišitelnosti těch dvou. Často se s ním setkáte ve statích o umělé inteligenci. V praxi se něco jako Turingův test odehrává skoro neustále na velkých platformách, které se maximálně snaží o to, aby je místo živých lidí nezamořili roboti. (Není to z altruismu, spíš jde o to, že zobrazovat reklamu robotům je marná práce.) Na jedné straně tedy stojí roboti pokoušející se vydávat za lidské uživatele, na druhé straně roboti, kteří analyzují jejich chování a snaží se na dálku odlišit, jestli ten přispěvatel je živý člověk nebo ne; zvláštní druh Turingova testu, ve kterém obě zúčastněné strany jsou stroje.

V tomhle klasickém souboji „kulky a štítu“ mají momentálně navrch obranáři a techniky jako CAPTCHA drží spamovací roboty na uzdě. (I když – všimli jste si, že začíná být čím dál obtížnější takovým testem projít jako živý člověk? Některé CAPTCHA, které potkávám, jsou vysloveným testem trpělivosti.) Ale rovnováha mezi kulkou a štítem měla historicky tendenci se vychylovat tím či oním směrem. A klidně je možné, že třeba za pět let bude nakloněna ve prospěch píšících robotů, jejichž úkolem bude nenápadně popostrčit čtenáře k názoru X či Y.

Mají roboti právo na svobodu projevu? Toť otázka; tím se žádný klasický filozof nezabýval a musíme nad tím přemýšlet sami. Osobně si myslím, že nikoliv, už jen proto, že schopnost robotů chrlit text o několik řádů převyšuje tutéž schopnost u lidí a lidské myšlenky by se v záplavě automaticky generovaného obsahu naprosto utopily. Ale nějaká dostatečně sofistikovaná umělá inteligence by mě možná dokázala přesvědčit (zmanipulovat?) k tomu, abych to začal vidět méně jednoznačně.

Uf, to bylo dlouhé psaní. Milí čtenáři, loučím se prozatím s vámi, přeji vám krásný rok 2021 a jdu si doplnit pokleslou hladinu mazacího oleje.

Převzato s laskavým svolením autora z jeho webu, na kterém kromě tohoto článku najdete další texty o politice a společnosti. Knihy Mariana Kechlibara si můžete objednat ZDE.