Srandička pro sobotní odpoledne, aspoň zdánlivá – Deep Fake, kompletně digitálně zfalšované video. Základní verze, na kterou jsem narazil, představuje jako účinkující Hitlera a Stalina. Ale kdo má rád současnou politiku, může se podívat i na verzi s momentálními světovými lídry. Když ale začnete uvažovat nad důsledky téhle technologie, zase taková legrace to není.

S videem se samozřejmě dá už dlouho manipulovat, a to hlavně vhodným sestříháním. Oběť jedné takové manipulace se nedávno dohodla na mimosoudním vyrovnání s CNN i s Washington Postem, protože virální videa z události nezachycovala velmi podstatné předešlé okamžiky. A čtyřminutové video, které loni na jaře sestřelilo rakouskou vládu, bylo sestřihem z téměř sedmihodinového záznamu, jehož kompletní přepis je o něco míň morálně černobílý.

Ale možnost totálně nafejkovat něco, co dotyčná osoba nikdy neřekla a neudělala, je přeci jen silnější kafe. Zejména pokud takové legrácky bude jednoho dne možno dělat v reálném čase a na běžném počítači, bez mimořádné výpočetní síly. Ani si netroufám odhadovat, s čím vším různé vynalézavé mozky přijdou. Porno se všelijakými netradičními účastníky bude asi to nejmenší.

Falšování videí je samozřejmě, stejně jako skoro všechny technické pokroky, provázeno „bojem kulky se štítem“. Stejně jako falšovací techniky se rozvíjí i detekce falešných videí. Ale nejlepším cílem zdokonalené kulky není člověk se štítem, ale někdo, kdo ten štít nemá.

Případně se mu nechce jej používat a tahat s sebou, nebo mu nevěří.

Zkuste třeba nějakému tomu zuřivému davu v Pákistánu vysvětlit, že to virální video, na kterém známý politik nebo umělec pošlapal a poplival korán, je něčí fake. Nebudou vás poslouchat a pokud dostanou dotyčného do rukou, bude s ním ámen.

A západní svět vůči tomu nemusí být o nic více imunní než ten orientální. Jestliže současné nepokoje v USA, největší za poslední desítky let, byly odstartovány – pravým – videem ze zatýkání a následné smrti George Floyda, přirozená myšlenka je, co všechno by šlo způsobit dobře udělaným videem falešným. Po dlouhá léta se na sociálních sítích skrze krátká videa a krátké výkřiky kultivuje atmosféra instant outrage, okamžité zuřivosti, takže globální publikum je dobře předpřipraveno k nějakému tomu běsnění na povel. Možná nejenom za klávesnicí, ale i na ulici, jak to vidíme v Americe teď.

Jiným důsledkem bude další nárůst paranoii. V seznamu podezřelých jevů přibude zase jedna položka, které se nedá věřit. A možná nejen v případě médií všeho druhu, ale i v soukromé či pracovní komunikaci. Za éry covidové jsme si zvykli na práci na dálku a na videokonference. Hodně firem u toho zůstane, protože je to levnější než platit lidem letenky a hotely. A někteří zaměstnanci rádi přejdou na vzdálený režim a odstěhují se někam na venkov, kde je ještě čistý vzduch a na nákup psí boudy si tam nemusíte vzít milionovou hypotéku.

No jo, ale když si ve světě, kde deep fake půjde udělat na počkání, zavoláte s panem Novákem z dodavatelské firmy z Brna, třeba s vámi nemluví pan Novák, ale někdo, kdo jenom jako Novák vypadá a zní („čajznout“ někomu heslo ke Skypu nemusí být až tak nemožné). A chce se dopídit nějaké neveřejné informace nebo z vás vypáčit něco kompromitujícího…

Znáte-li původního Nováka dobře, nejspíš to poznáte. Ale pokud jste ho za život potkali dvakrát, kdo ví. A to ještě předpokládáme, že jste duševně fit a ve střehu, což každý není. „Šmejdi“ prodávající hrnce a matrace za šílené částky vesměs existují jen díky zhoršené kognitivní schopnosti svých obětí. Ti samí lidé by byli perfektním terčem pro podvody typu „zoufalá vnučka mi volá po Skypu, že potřebuje deset tisíc, jinak ji zavřou“, které do určité míry fungovaly i po telefonu a s videem budou ještě efektivnější. Vždyť přeci vidím její tvář, je to ona. Nikolivěk, není.

Lidské bytosti jsou hodně závislé na poznávání tváří a hlasů, jsme v tom dobří už jako kojenci a spoléháme na tuto schopnost miliony let. Technologie deep fake tyhle naše vrozené obvody poněkud zkratuje. Dá se s tím žít, jako ostatně skoro se vším, ale za cenu zvýšené podezřívavosti – úměrné tomu, jak levné a snadné to bude.

Kladné stránky tenhle vývoj snad bude mít taky, zvlášť pokud by deep fake byl v budoucnu doprovázen i lepší schopností imitovat skutečnou osobnost. Docela rád bych si pokecal aspoň se simulovaným Sókratem. Třeba to jednoho dne půjde.

Ale můžeme-li soudit podle současné YouTube a spol., bude se vám takový simulovaný Sókratés pokoušet prodat nějaké akční zboží z Alzy.

Převzato s laskavým svolením autora z jeho webu, na kterém kromě tohoto článku najdete další texty o politice a společnosti. Knihy Mariana Kechlibara si můžete objednat ZDE.