Cesta k terminátorům (Kevin Warwick)

Rozhovor s Kevinem Warwickem.

Nebývá zvykem, aby kniha seriózního anglického profesora, pracovníka Univerzity v Readingu a autora více než 300 vědeckých publikací, začínala ve stejném duchu jako nějaký Terminátor 4 nebo Matrix: Lidé roku 2050 jsou v jiné situaci než lidé dvacátého století. Jejich životy řídí stroje; musí dělat to, co jim stroje určí. Jsme vykastrováni, aby se vyloučily nepotřebné sexuální pudy, a naše mozky seřízeny tak, aby zmizely některé negativní lidské vlastnosti. Takové věci nejsou pomocným dělníkům k ničemu.
V následujících kapitolách knihy Úsvit robotů - soumrak lidstva (Vesmír 1999) se už autor Kevin Warwick tváří seriózněji a popisuje výsledky vlastních výzkumů s učícími se roboty a umělou inteligencí, nicméně každému čtenáři v hlavě jistě zůstane ten strašák vymírajícího lidstva pod nadvládou robotů.
Přesto se zdá, že do dějin se Warwick zapíše ne jako autor knihy o hrozbě robotů, ale tím, že se sám stal jakýmsi polo-robotem. Jako první člověk na světě si v loňském roce nechal v rámci experimentu voperovat do paže čip, který ovládal mechanismy a počítače vně jeho těla. Když mu čip vyndali, měl prý pocit, jako by mu zemřel blízký přítel.
Warwick se domnívá, že podobný čip napojený na centrální nervovou soustavu by mohl vést k jakési obdobě telepatie - k přenosu myšlenek mezi dvěma lidmi na dálku. Všechny jednotlivé krůčky, které by nás k takové technologii mohly dovést, už v podstatě umíme učinit. Uznáte jistě, že s takovými skvělými vyhlídkami by bylo škoda, kdybychom byli za sto let jen vykastrovanými poskoky robotů, ne?

Jaká je vaše vědecká specializace?
Zajímám se především o dvě oblasti. O robotickou inteligenci, při jejímž výzkumu budujeme různé roboty a studujeme, jak spolu reagují a jak se učí, jak se navzájem dorozumívají... Druhou oblastí mého zájmu je propojení lidské mysli se strojem, především s počítačem. Proto jsem si nechal loni na podzim voperovat křemíkový implantát, který komunikoval s počítači v budově mého ústavu. Nyní se zabývám napojením počítače přímo na lidský nervový systém, aby bylo možné přenášet signál bezprostředně z mozku do počítače.

Pokud vím, nějaké dílčí pokroky už v této oblasti proběhly. Viděl jsem fotografii neuronu spojeného s čipem.
Ano, v tomto směru bádá několik skupin vědců. Zatím výzkum směřuje k tomu, aby bylo možné pomoci lidem s nějakým zdravotním problémem. Mě však zajímá technologie, která by byla užitečná pro všechny. Dosavadní úspěchy v napojení nervů na čip se týkají neuronů pohybového ústrojí, těch, které hýbají tělem. Bohužel se zatím nedaří propojit s počítačem neurony vyšší nervové soustavy, takové, které souvisejí s pamětí a abstraktním myšlením.

Výzkum se často veze na financích z nějaké ryze praktické oblasti. Virtuální realitu sponzoruje herní průmysl, a spojení nervu s obvody počítače asi budou financovat zdravotnická zařízení a firmy vyrábějící protézy. Je tomu tak?
Ano, vždy to bude potřebovat nějakou hybnou sílu v pozadí. Nedávno byl natočen film ExistenZ, který také pojednává o technologii implantátů, ale ta je použita v zábavním průmyslu. Nevylučuji, že počítačové hry budou důležité pro financování i tohoto výzkumu. Zatím ale bude skutečně hrát hlavní roli protetika, ale i rozpočet na léčení některých mentálních poruch, jako je Parkinsonova choroba. Tam se již implantáty používají.

V čem byl váš experiment s implantovaným čipem jedinečný? Byl jste prvním člověkem, který něco takového podstoupil?
Určitě jsem byl prvním člověkem, který s tím experimentoval z jiných než ze zdravotních důvodů. A poprvé v historii došlo k propojení čipu v člověku s vnějším prostředím. Strojky na podporu srdeční činnosti jsou založené na podobné technologii, ale nikdo přede mnou neměl v sobě čip, který by vysílal a přijímal signály mimo tělo.

Nepůsobila lidská tkáň rušivě na přenos signálů?
Čip musí být neustále v elektromagnetickém poli, aby mohl komunikovat s počítači. Ukázalo se, že v těle nezáleží na tom, jak je hluboko, naopak přenos fungoval ještě lépe. Tělo je vlastně takovou velkou anténou.

Setkal jste se s nějakou kritikou tohoto experimentu? Vyčítal vám někdo, že pokus je proti přírodě?
Ne ze strany vědců, ale dostal jsem spoustu emailů od věřících, kteří tím byli roztrpčeni. Myslím, že v bibli se píše o znamení bestie a o tom, že každý, kdo má na paži takovou značku, je služebníkem ďábla. Kolegové, kteří mi s pokusem pomáhali, si z toho chtěli dělat legraci a chtěli mi dát čip s identifikačním číslem 666, ale z neznámého důvodu nefungoval, i když po technické stránce s ním bylo všechno v pořádku. Takže jsem dostal čip číslo 161.

To znamená co?
Nevím, prostě číslo, které ve mně fungovalo...

Možná číslo malé bestie, šelmičky.
Ano, možná. Ale vážně: V jedné televizní debatě jsem nadhodil, že by se podobné čipy například mohly používat ke kontrole zbraní. Každý, kdo by chtěl držet zbraň, musel by se podrobit implantaci čipu. Když by se takový člověk přiblížil se zbraní k obchodnímu domu nebo škole, dveře by se před ním automaticky zavřely. Jak víte, střelba ve škole je v Americe velký problém. Dostal jsem ale také hodně rozhořčených emailů píšících o tom, že by to bylo omezování osobní svobody.

V poslední době se hodně hovoří o nebezpečí ztráty soukromí, které plyne z možností sledovat prakticky kohokoliv. Nemyslíte, že kdyby se implantování čipů stalo běžné, lidé by se báli, že budou neustále pod dohledem?
Ano, to je teď aktuální problém. Nedávno jsem se zúčastnil konference, kde se hovořilo o tom, že mnozí američtí zaměstnavatelé chtějí vybavovat čipy své zaměstnance. Možná ne v samotných Spojených státech, ale v rozvojových zemích, kde se pro Ameriku vyrábí většina elektroniky, jelikož je tu levná pracovní síla. Zaměstnavatelé se snaží zavést systém, jenž by měřil přesně čas, který dělník stráví u výrobní linky, a pouze tento čas by mu byl vyplácen.

Jak dlouho můžete nosit v těle čip?
Tělo buď cizí předmět okamžitě odmítne, nebo jej přijme a pak ho můžete mít v těle roky. Já jsem naštěstí problémy neměl. Měl jsem v sobě čip devět dnů a celou tu dobu jsem pro jistotu užíval antibiotika. Pro dlouhodobější nošení by ale nebyl použit takový čip, jaký jsem měl já, skleněný, měl by nějaký silikonový obal.

Pojďme k robotům. Hrál jste si s nimi, když jste byl malý?
Hmm, to už je hodně dávno, kdy jsem byl malý... hrál jsem si s mechanickými stavebnicemi jako bylo Lego nebo obdoba toho, čemu tady říkáte Merkur. S roboty jsem si začal hrát teprve teď, když jsem vyrostl. Vždycky mě ovšem roboti fasciniovali, rád jsem četl příběhy o robotech, například Čapkovo R. U. R.

Existuje nějaká obecně uznávaná definice, co to je robot?
Řekl bych, že žádná obecná definice není. Oproti robotům jsou lidé jeden jako druhý a dali by se definovat mnohem snadněji. Ale robotů jsou tisíce různých druhů. Řekl bych, že jakmile má v sobě něco mikroprocesor a dělá to nějakou fyzickou práci, je to robot. Ale mně definice příliš na srdci neleží. Není důležité, jak něčemu říkáme, ale co ta věc umí udělat.
Váš scénář o lidech pod nadvládou robotů je velmi působivý. Měla to být pointa knihy, nebo jen způsob, jak ji zatraktivnit?
Asi obojí. Ale co se týče možné nadvlády strojů, mám z toho opravdový strach, není to jen marketingové gesto. Je to zkrátka logický závěr argumentů, které jsem v knize představil. Můžeme se dostat do velmi nepříjemné situace, pokud ztratíme kontrolu nad věcmi, které jsme vytvořili. Myslel jsem, že je důležité to říct nahlas. Takové ty názory, že člověk bude vždy mít navrch nad strojem a že bude vždy inteligentnější, mi připradají nezodpovědné. Šlo mi o to, aby si čtenář řekl: 'Toto vypadá jako možná varianta budoucnosti. Je to opravdu směr, kterým chceme jít?' Protože pokud se tímto směrem vydáme, je tu vážné nebezpečí, že tu situaci nezvládneme. Víte, já mám lidi rád, nechci rozhodně malovat čerta na zeď, chtěl jsem jen důrazně varovat.

Můj osobní názor je, že i kdyby vzniko nějaké společenství robotů, spíše by nás ignorovali, než ovládali. Už proto, že budou myslet a komunikovat na úplně jiné rychlostní úrovni. My pro ně budeme příliš pomalí.
Ano, dokud je budeme nechávat na pokoji, ke konfliktu nedojde. Vždyť stejně tak my koexistujeme na této planetě s mnoha živými tvory. Ale měl jsem pocit, že pokud vzniknou inteligentní stroje, řada lidí se toho zhrozí a bude je chtít vypnout. A řekl bych, že inteligentímu stroji by se nemuselo líbit, že se jej nějaké jiné stvoření chystá vypnout.

Proč myslíte, že se budou bát vlastního vypnutí?
To je vlastnost, kterou do nich sami zabudováváme. Nechceme přece, aby se důležité stroje jen tak snadno vypínaly. Týká se to například zbraňových systémů nebo nemocničních přístrojů, na nichž závisí pacientův život. My sami je vybavujeme pojistkami proti vypnutí.

Myslíte, že jakmile inteligence dosáhne určitého stupně, vědomí - uvědomování si sebe sama - se zákonitě dostaví také?
Nemyslím si, že by roboti k vlastnímu myšlení potřebovali něco zvlášť specifického, že se v tomto ohledu nějak podstatně liší od člověka. Lidský mozek je složen z milionů nervových buněk, každá je propojena se zhruba deseti tisíci jinými buňkami. Ale jiná zvířata mají větší nebo komplikovanější mozek, například žáby mají složitejší mozek než my, a přitom nejsou inteligentní v našem slova smyslu. Rozdíl není v tom, že naše mozkové buňky jsou samy o sobě větší nebo složitější. Jde jen o to, že jich je víc a jsou navzájem hustěji propojené. Když budujeme inteligentní počítače, v podstatě také chceme, aby měly co nejvíc myslících buněk, které by byly co nejhustěji propojené. Ubíráme se tedy stejným směrem. Myslím, že naše vědomí povstalo z velké propojenosti a počtu buněk.

Badatel Hans Moravec je ohledně budoucnosti robotů optimističtější. Domnívá se, že v dohledné době budeme vytvářet takové roboty, kteří nám nahradí naše příliš rychle stárnoucí biologická těla. Co soudíte o jeho názorech?
Hanse Moravce mám osobně rád, ale myslím, že je příliš ovlivněn náboženským a duchovním pohledem na svět. Celý koncept napěchování lidského mozku do silikonu je svůdný a bylo by skvělé, kdyby to fungovalo, ale podle mého názoru by to vyžadovalo daleko, daleko dokonalejší znalost toho, jak náš mozek pracuje a jak je ustrojen. Pochybuji, že bychom k tomu dospěli v nejbližších třiceti letech. Nemyslím si ani, že něco jako vědomí spasí svět, že zde leží ono klíčové rozhraní. Kdyby se na nás teď řítila inteligentní střela, nepomůže mi říkat si: Já mám vědomí, a ty ne, takže mi nemůžeš ublížit. Ta střela nás rozmetá, protože ona takovou životní filozofii nesdílí. Prostě se mi nezdá, že by vědomí bylo něco tak zajímavého.

Zmínil jste se o náboženském hledisku. Ať už jsme věřící, či ne, existuje názor, že naše posedlost stroji je založena na mýtu o stvoření. Na toto téma nám do minulého Živlu napsal esej váš kolega Jozef Kelemen. Souhlasíte s tím?
Jistě na tom něco je. Možná jsme si vytvořili náboženství a bohy proto, abychom si vysvětlili a odůvodnili to, co děláme. Vytváření věcí je vždy krokem do neznáma, takže potřebujeme nějakou ideologii, která by nám na té cestě pomohla. Bude zajímavé sledovat, jestli si i roboti v budoucnu vytvoří nějakého boha k obrazu svému.