Eric Drexler: Stroje tvoření (Engines of Creation)

Klíčové dílo na téma nanotechnologie

živelná kniha: Stroje tvoření (Engines of Creation)

text: eric drexler
předmluva: BVer

Je mnoho knih, které u nás dosud nevyšly a které do češtiny už dávno přeloženy být měly. Ale plakat netřeba - naštěstí tu máme prodejny zahraniční literatury, antikvariáty a zásilkové služby. No a také Internet, na kterém lze nalézt i titul Engines of Creation.
Stroje stvoření - tak by se nejspíš dal přeložit název knihy, která nese podtitul Nastávající éra nanotechnologie. Poprvé vyšla v nakladatelství Anchor Books v roce 1986, jde tedy o text více než deset let starý, přesto však jeho autor - Eric Drexler, vědec z kalifornského Ústavu molekulární výroby - hrdě prohlašuje, že kdyby měl knihu napsat znovu, nemusel by toho měnit moc.
A když si Stroje tvoření přečtete, dáte mu za pravdu. Předestřené myšlenky svým rozsahem zasahují do poloviny příštího tisíciletí, tedy zůstavají i dnes zajímavé.

V první části - nazvané Základy předvídavosti - autor představil principy umělých replikátorů a naznačil pravděpodobný postup při vývoji souvisejících technologií:
Příkladem strojů pracujících v molekuráním měřítku jsou buňky živých organismů. Dosud jsme neodhalili všechny principy jejich činnosti, to nám však nebrání začít tvořit replikátory podle našich plánů. Většina biochemiků pracuje jako vědci, ne jako inženýři. Snaží se předpovědět, jak se chovají přírodní proteiny, místo toho, aby vyráběli proteiny, které se budou chovat podle jejich předpovědí.
Druhou etapou výzkumu bude zrod replikátorů na neproteinové bázi. Proteinové stroje jsou příliš křehké, příliš neohrabané a nespolehlivé na to, abychom s nimi mohli vystačit. Poslouží nám alespoň při vytvoření replikátorů mnohem dokonalejších - univerzálních asemblerů. Tato druhá generace replikátorů bude schopna vytvářet a opravovat složité molekulární struktury. Tyto nanostroje budou programovatelné, podobným způsobem, jakým DNA programuje činnost živých buněk a budou schopny se namnožit a vytvořit tak armádu komunikujících robotů připravených vykonat užitečnou práci - sestavit z atomů kovů slitiny přesně definovaných, dosud nevídaných vlastností, léčit choroby, stavět domy, budovat kosmické stanice, atd. atd.

Autor se nespokojí s pouhým předložením koncepce nanotechnologie a podrobně rozebírá, co by potenciálně mohlo stát v cestě těmto vizím. Popisuje jedno úskalí za druhým: princip neurčitosti, tepelný pohyb molekul, radiaci i například pochybnosti o nenapodobitelné magii života.
Molekulární dělníci - asemblery - nám otevřou cestu k vytvoření nanopočítačů. Dosáhnou cíle, ke kterému směřují snahy mikroelektroniků leptajících polovodiče s úmyslem vytvořit co nejmenší tranzistory a nejkratší vodivé dráhy. Neuronové superpočítače se synapsemi o délce několik atomů pak svou obrovskou paralelní prací silou předčí jakýkoliv hardware postavený na konvenčních technologiích.
Další nanostroje - disasemblery - nám naopak umožní přečíst libovolnou molekulární strukturu nějakého předmětu (např. lidského mozku :-) a naprogramovat pak asemblery, které tuto strukturu mohou opakovaně vyrábět.
To vše pohromadě pak umožní lidstvu konat zázraky.
K tomu, abychom obdrželi tyto sofistikované mechanismy - programovatelné automaty, roboty s molekulárními chapadly, molekulárními motory, systémy složené z miliónu přesně uložených atomů -, potřebujeme jednu dobře známou a úspěšnou techniku: princip evoluce. K dokonalosti vede cesta přes řadu méně dokonalých fází, cesta variace a selekce replikátorů.
Drexler tomu říká evoluce návrhu. Úspěšný návrh nanostroje prosperuje (dá vznik následující generaci) proto, že má větší šanci na reprodukci v prostředí omezených zdrojů (stavebního materiálu, atomů). To se děje na úkor méně úspěšných návrhů, které mají tuto šanci nižší. Evoluce může probíhat v simulátorech (bezpečnější), ale i ve zkumavce (rychlejší, praktičtější). Nanoasemblery tedy budeme pěstovat - na podrobnosti se zeptejte Richarda Dawkinse, nebo rovnou Darwina.
Ve chvíli, kdy se čtenáři zdá, že předložené myšlenky přestávají být uvěřitelné, ptá se opět autor: Můžeme vyslovit tyto představy? Nedopouštíme se při tom nějaké podstatné chyby? Je to všechno čirá sci-fi?
K potvrzení těchto technologických předpovědí existuje analogie z historie. Leonardo da Vinci předpověděl vznik řady strojů: pro těžbu, obrábění kovů, přenos energie. Ačkoliv v jeho době nebyly známé materiály, které by vyhověly pro sestrojení dané konstrukce, Leonardo tyto stroje navrhl poměrně detailně a přesně. Jeho předpovědi však selhaly, jakmile šlo o létací stroje. Proč? Leonardo dobře ovládal geometrii a mechaniku, měl tedy potřebný vědecký základ v této oblasti. Neznal aerodynamiku, tedy nedokázal spočítat správný tvar a rozměry křídel, ani síly potřebné pro pohon a řízení letadla.
Čím se naše situace podobá té Leonardově? Máme mnoho poznatků o atomech, interakcích, máme chemii, fyziku částic - kvantovou mechaniku, tedy vědecký základ. Dokážeme simulovat chování a vlastnosti a spočítat pravděpodobnou dobu života obřích molekul, které dnes ještě nedokážeme syntetizovat. Víme, že nanostroje jsou možné. Známe principy jejich replikace a programování. Ba co víc - máme před sebou příklad, že nanostroje mohou fungovat - živé buňky. Všechno je tedy jen otázkou času.

Druhá část knihy nazvaná Obrysy možného obsahuje kapitolu Myslící stroje, věnovanou otázkám umělé inteligence. Drexler zmiňuje známý Turingův test inteligence a dělí inteligentní chování na dvě části - sociální a technické. V technické inteligenci jsme již podstatného pokroku dosáhli, čehož jsou důkazem mj. expertní systémy, neuronové sítě a fuzzy logika. Lepší počítače urychlí pokrok v návrhu technologií a ještě lepších počítačů, vývoj bude dále akcelerovat.
V oblasti té druhé, lidské inteligence, nás podstatná práce teprve čeká, avšak určitý náhled převádí tuto úlohu opět na problém technické inteligence: Inteligentní člověk se v určitém prostředí správně rozhoduje. Inteligentní stroj nahrazující člověka v těch samých podmínkách se chová stejně, případně efektivněji. A tak nás čeká budoucnost, která nebude patřit univerzálním androidům, ale spíše chytrým pračkám, dveřím a mobilním browserům.
Otázka Mohou stroje myslet? je zodpovězena elegantně: Kritici umělé inteligence často tvrdí, že zřejmě nemůžeme vytvořit stroje chytřejší, než jsme my sami. Zapomínají na to, že naši vzdálení, němí předci se dokázali vyvinout v jedince vysoké inteligence a vůbec při tom nemysleli. My o umělé inteligenci přemýšlíme a memy našich technologií se vyvíjejí daleko rychleji než biologické geny.

Kapitola Svět mimo Zemi se zabývá, jak název naznačuje, vesmírným výzkumem. Lety do vesmíru jsou v současnosti velice drahou záležitostí. To však dokážou nové technologie změnit a investice do vesmíru se časem začnou vyplácet.
Zde nachází autor mnoho příkladů využití nanotechnologií: představte si skafandr, lehký, pružný, ale přitom schopný vydržet neporušený v podmínkách vakua. Když je to zapotřebí, dokáže desetkrát znásobit sílu vašich svalů. Rukavici na prstech vůbec necítíte - mohou za to mechanismy přenášející tlak z vnějšího senzorického povrchu rukavice na její aktivní vnitřní povrch. Produkci kyslíku a filtraci vydýchaného vzduchu má na starosti ekosystém na vašich zádech, skafandr je schopen využít tepelnou a světelnou energii z okolí. Superpočítač v podšívce je samozřejmostí. Skafandr vypěstujete během odpoledne, sám se opravuje, jeho aktivní části jsou několikanásobně zálohovány a nepřetržitě se regenerují.

Další kapitoly se jmenují Stroje léčení, Dlouhý život v otevřeném světě, Dveře do budoucnosti.
Nanotechnologie budou znamenat revoluci v medicíně. S možností opravovat staré a poškozené buňky lidského těla se nám otevře brána k dlouhověkosti. Nechce se vám čekat, až vědci vyvinou buněčné reparátory? Jste-li netrpěliví, nechte se zmrazit.
Drexler vznáší argumenty na podporu biostáze - metody uchování živé tkáně za současného zastavení metabolismu. Připouští, že současné kryonické metody mohou tkáně při zmrazení určitým způsobem poškodit, to ovšem nevadí, protože příští generace lékařů, které budou zmražená těla oživovat, budou zajisté disponovat technologiemi pro jejich opravu.

Z názvu kapitoly Meze růstu je zřejmé, oč jde. Nanotechnologie a s nimi související pokrok pro lidstvo znamená skutečně obrovský potenciál růstu. Zastaví se někde tento rozvoj? Jediné podstatné omezení určují fyzikální zákony: Lidé, kteří zaměňují vědu s technologiemi, nechápou skutečné meze... někdo si může myslet, že když víme všechno, můžeme udělat cokoliv. Pokroky technologií skutečně přinášejí nová know-how, otevírají nové možnosti. Naproti tomu pokrok ve vědě jenom překreslí mapu skutečných hranic, což často ukáže nové ne-možnosti.
Drexler je optimista a má svůj optimismus dobře podložený fakty. Optimismus však neznamená naivitu - to nám autor dokládá posledním dílem knihy nazvaným Nebezpečí a naděje.
Vznáší velmi závažné otázky: Co se stane, když asemblery dokážou vytvořit prakticky cokoliv, bez potřeby lidské práce? Když zanikne mezinárodní obchod? Jak se změní společnost, když doba života jedince bude neomezená? Co když začnou systémy umělé inteligence přemýšlet lépe a rychleji než lidé?
Nebezpečné replikátory se mohou lidstvu představit jako odolné, rychle se šířící a smrtonosné nemoci, pokud se nepřipravíme na jejich nástup. Každou novou technologii navíc použilo lidstvo nejprve pro účely vzájemného zabíjení se, je tedy oprávněné předpokládat, že se tak stane i v případě replikátorů.
Autor navrhuje neotálet a začít s aktivní obranou - lidský imunitní systém je možné posílit o replikátory, které budou jako bílé krvinky vyšších generací hledat a zneškodňovat nepřátelské nanostroje. Spolu se zveřejněním dostatečného množství informací o nanotechnologiích a o způsobech, jak se bránit jejich zneužití, by to měla být dostatečná záruka, aby nedocházelo ke katastrofám.

Drexlerova kniha není jen o nanotechnologiích, spíše se zabývá vědou, technologiemi a jejich společenskými dopady obecně z téměř filozofického úhlu pohledu. I když mechanismy pracující na molekulární úrovni tvoří páteř knihy, autorovy dalekosáhlé úvahy a důsledky z nich plynoucí mají mnohem širší význam. Drexler je však hlavně vědec, jeho myšlení je podloženo solidně znějícími argumenty, tam, kde se dobere provokujícího závěru, vysloví a zároveň vyvrátí i možné protiargumenty, které by mohly jeho tvrzení napadat. Tím bere vítr z plachet případným kritikům, jeho kniha připomíná pečlivě vybudovaný hrad s dobrým opevněním a strmými, odvážnými věžemi.

Z oddílu věnovaného nebezpečí nanotechnologií jsme pro vás vybrali následující ukázku:

Stroje ničení

Není pochyb, že ty nejstrašnější armády, které kdy obývaly tuto zemi tvoří vojáci, jejichž malost je činí neviditelnými.
sir William Perry, O mikrobech, 1640

Replikující se asemblery a inteligentní stroje představují pro lidstvo a život na Zemi zásadní hrozbu. Dnešní organismy zdaleka nevyužívají hranic svých možností a naše stroje se vyvíjejí rychleji, než my samotní. Je pravděpodobné, že nás překonají během několika desetiletí. Jestliže se s nimi nenaučíme bezpečně sžít, naše budoucnost bude možná stejně vzrušující jako krátká. Nemůžeme se spolehnout na prognózy všech problémů, které před námi stojí. Pokud se ale zaměříme na velké a zásadní otázky, budeme možná s to předvídat hlavní úskalí a nalézt k nim odpovídající řešení.
O budoucích sociálních převratech budou bezpochyby napsány celé knihy: Co se stane s globálním řádem, pokud asemblery a automatizované inženýrství omezí potřebu mezinárodního obchodu? Jak dalece se změní společnost, v níž lidé budou žít neomezenou dobu? Co budeme dělat, pokud replikující se asemblery budou moci dělat téměř cokoli bez lidské přítomnosti? Co uděláme, pokud systémy umělé inteligence budou myslet rychleji než lidé?
Některými z těchto otázek se již zabývali různí autoři. Každá z nich je mimořádně důležitá, ale tím nejzásadnějším je otázka zachování života a svobody. Konec konců, pokud vyloučíme svobodu a život, naše myšlenky o sociálních problémech přestanou mít význam.

Hrozba strojů
Genetická evoluce omezila život na systémy založené na DNA, RNA a ribozómech. Memetická evoluce však s sebou přinese živé stroje na bázi nanopočítačů a asemblerů. Asemblery budou schopny pracovat stejně jako ribozómy. Replikátory tvořené z asemblerů budou tudíž schopné udělat vše, co dokázal život. A více. Z evolučního hlediska to znamená zjevnou hrozbu pro vydry, lidi, kaktusy a kapradiny - bohatou strukturu biosféry a všeho čeho si ceníme.
Kvalitnější vybavení bylo příčinou, proč první tranzistorové počítače tak záhy předstihly i ty nejpokročileší elektronkové. Ze stejného důvodu mohou první replikátory tvořené asemblery předstihnout i ty nejdokonalejší živé organismy. Rostliny s listy fungující o nic lépe než dnešní solární články, by mohly skutečné rostliny předstihnout tím, že by vyplnily biosféru nepoživatelným listovím. Odolné, všežravé bakterie by mohly vyřadit bakterie přirozené: mohly by se šířit větrem jako pyl, prudce se rozmnožovat a během několika dnů proměnit biosféru v prach. Bez příslušných opatření by nebezpečné replikátory mohly být příliš odolné a malé a mohly by příliš rychle expandovat, než aby je bylo možno zastavit. Už i tak máme dost problémů s regulací virů a ovocných mušek.
Znalci nanotechnologií tuto hrozbu označují termínem gray goo problem, problém šedé břečky. Ačkoli masy nekontrolovaných replikátorů nemusí být zrovna šedé nebo břečkovité, termín šedá břečka zdůrazňuje, že replikátory schopné vyhladit život nemusí být zdaleka tak užitečné jako jeden jediný druh rosičky. Nadřazenost v evolučním smyslu nemusí vůbec znamenat hodnotu. Vyvinuli jsme se k lásce ke světu bohatému na živé bytosti, myšlenky a rozmanitost, takže cenit si šedé břečky jen pro její expanzivní vlastnosti, nemá opodstatnění. Pokud tomu předejdeme, dokážeme tím vlastní evoluční nadřazenost. Šedá hrozba nás nutí vzít na vědomí jednu věc: s replikujícími se asemblery si určitá selhání nemůžeme dovolit.

Stroje moci
Díky některým druhům replikátorů a systémů AI budeme možná čelit formám zbraní schopných bleskové, efektivní a nezávislé akce. Novost této hrozby - jejíž původci jsou stroje samy - nám však nesmí zastřít tradičnější druhy nebezpečí. Pokud budou volně ovládány suverénními státy, replikátory a AI systémy mohou sloužit jako úžasné nástroje moci.
Během celé historie státy vyvíjely technologie k rozšíření svých vojenských sil a i v budoucnu budou patrně ve vývoji replikátorů a AI systémů hrát hlavní roli státy. Například v rychlém a snadném využití asemblérů k budování neomezeného arzenálu moderních zbraní. Speciální replikátory by mohly sehrát svoji úlohu ve vytváření neomezeného množství určitých druhů bakteriálních zbraní pomocí počítači řízených bacilů. AI systémy by podle svého zaměření mohly sloužit jako návrháři zbraní, stratégové i jako vojáci. Vojenské rozpočty již podporují výzkumy v oblasti molekulární technologie a umělé inteligence.
K podobným cílům by státy mohly využít i pokročilé AI systémy. Automatizované inženýrské systémy usnadní vývoj pokročilejšího designu a urychlí práci na vývoji asemblérů. AI systémy schopné vytvořit ještě dokonalejší AI systémy povedou k rozšíření jejich možností jen s těžko předvídatelnými účinky. Jak AI systémy tak replikující se asemblery umožní státům rozšiřovat své vojenské možnosti v obrovském rozsahu a krátkém čase.
Replikátory mohou svojí účinností předstihnout zbraně hromadného ničení: zničit Zemi bombami vyžaduje ohromné množství speciální techniky a vzácných izotopů, ale zničit všechen život na Zemi pomocí replikátorů, by vyžadovalo pouhé smítko vytvořené z obyčejných prvků. Replikátory jako příklad možného zániku jsou paralelou nukleární války už tím, že otázce zániku dávají širší morální kontext.
Navzdory svému destruktivnímu potenciálu nanotechnologie a AI systémy nabízejí rafinovanější možnosti, než nukleární zbraně. Tam, kde bomba může věci jen ničit, nanostrojů nebo AI systémů by mohlo být užito k infiltraci, obsazení a ovládnutí území nebo světa. Dokonce i ta nejhrubší policejní síla neužívá ke svým cílům nukleární zbraně. Namísto toho má odposlouchávací zařízení, drogy, najaté vrahy a jiné tvárné nástroje moci. S pokročilou techologií budou státy schopny upevnit svoji moc nad lidmi.
Státy se vyvíjely podobně jako geny, memy, organismy a zbraně. Jejich instituce se rozšiřovaly (v různých variacích) růstem, štěpením, imitací a porážkami. Válčící státy bojují jako zvířata; obyvatelstvo jim slouží jako kosti, mozky a svaly. Technologický pokrok bude státy konfrontovat s novými tlaky a možnostmi, povede je k prudkým změnám chování. Toto je přirozeně důvodem k obavám. V lidské historii se státy předháněly nejvíce v jatkách a útlaku...
V určitém smyslu je stát jednoduše souhrnem jedinců vytvářejících organizační aparát: součet jejich činů jsou činy aparátu. To samé lze tvrdit ale i o psech a jejich buňkách, ačkoli pes je jistě více než pouhý shluk buněk. Jak psi tak státy jsou rozvinuté systémy se strukturou, která funguje podle toho, jak fungují jejich části. Po tisíce let lidé pěstovali psy k vlastní potěše, jejich rozmnožování určoval lidský rozmar. Státy se tisíce let vyvíjely pod různými selektivními tlaky. Lidé mají daleko více moci nad svými psy, než nad svými státy. Tvrzení, že lidé mají neomezenou moc nad svými státy se možná zdá paradoxní: nejsou ale nakonec v pozadí každé státní akce lidé? V demokraciích však vlády států oplakávají nedostatek vlastní moci, poslanci se podrobují skupinovým zájmům, byrokraty svazují zákony a samotní voliči, zdánlivě třímající moc v rukou mohou na celý systém jen nadávat. Státy řídí a lidé působí a přesto na kontrolu nemá nikdo nárok. V totalitních státech má aparát moci svoji tradici, strukturu a vnitřní logiku, které nenechávají nikoho svobodným, ani vládce, ani ovládané. Dokonce i králové pokud chtějí nadále zůstávat krály, jsou nuceni vládnout podle tradic monarchie a účelu moci. Státy nejsou lidé ačkoli jsou tvořeny lidmi. Navzdory tomu nám historie ukazuje, že změna je možná, dokonce i změna k lepšímu. Změny vždy přicházejí z jednoho poloautonomního, nelidského systému ke druhému - stejně nelidskému, ale možná humánnějšímu. Ve své víře v pokrok nesmíme zaměňovat státy s lidskou tváří se státy, které obsahují lidské instituce.
Představa států jako kvazi-organismů je jen jeden příklad celé skutečnosti, třebaže naznačuje, jakým směrem by se mohly s přicházejícími vědeckými průlomy vyvinout. Jedním ze směrů, v totalitních zemích většinou spektakulárním, je upevnění vládní moci.
Státy by překonaly organismy komplexnějším ovládáním jednotlivých částí. Pomocí replikujících se asemblerů by mohly lidské prostředí naplnit miniaturními kontrolními zařízeními. Dostatek AI systémů rozumějících řeči by umožnil naslouchat každému, aniž by bylo třeba polovinu populace zaměstnat jako odposlouchávače. Nanotechologické stroje by mohly levně utišit, lobotomizovat či jinak zmanipulovat celou populaci. Bylo by to jen pokračování známého trendu. Na světě již existují vlády využívající ke svým cílům špionáž, mučení a drogy. Moderní technologie jim jen daleko více rozšíří možnosti.
S moderní technologií už není třeba kontrolovat lidi. Ty lze vyřadit ze hry. Ve většině států pracuje spousta lidí jako dělníci, kteří vyrábí, přemisťují nebo pěstují věci. Stát vlastnící replikující se asemblery by takovou práci už nepotřeboval. Co více, moderní AI systémy by mohly nahradit inženýry, vědce, administrátory a dokonce i vůdce. Kombinace nanotechnologie a moderní AI vytvoří cestu k inteligentním, efektivním robotům. S takovými roboty by stát mohl prosperovat, a obejít se nakonec docela bez lidí.
Je otázkou, zdali státy existují, aby sloužily lidem nebo aby lidé existovali proto, aby sloužili státu.
V prvním případě máme stát, který je tvarován lidskými bytostmi, aby sloužil několika lidským účelům; přinejmenším demokracie jsou tím nejpřímějším přiblížením takovému ideálu. Pokud demokraticky kontrolovaná vláda ztrácí potřebu lidské vazby, v zásadě to znamená, že už dávno nepotřebuje užívat lidi jako úředníky nebo daňové poplatníky. To otevírá nové možnosti, z nichž některé se nám mohou jevit žádoucí.
Ve druhém případě se stát vyvinul k tomu, aby vyvrhoval lidské bytosti, třeba totalitním směrem. Lidské dělníky státy potřebovaly k upevnění moci. Organizovat a vykonávat genocidy bylo drahé a plné problémů. Ale i přesto v tomto století totalitní státy popravily miliony svých občanů. Pro vyspělou technologii budou dělníci nepotřební a genocida snadná. Minulost nám dokazuje, že likvidace svých lidí prováděly totalitní státy v masovém měřítku. V tom je určitá útěcha. Zdá se, že stát ochotný a schopný k biologickému zotročení nás místo toho jednoduše zabije.
Hrozba vyspělé technologie v rukách vlád pro nás znamená: nemůžeme připustit, aby represivní stát stanul na špici vývoje nových technologií.
Základní problémy, které jsem výše zdůraznil jsou zřejmé: podobně jako v minulosti, i v budoucnu budou nové technologie vystaveny nehodám a zneužití. Takové vyhlídky pro nás představují nepopiratelnou hrozbu.
Většina lidí chce mít možnost žít a vybrat si vlastní způsob žívota. V některých státech světa tento cíl možná není takovou utopií. Neznamená to přizpůsobit se nějakému standardu; především to znamená vyhnout se zotročení a smrti.
Nebo dokonce dosáhnout budoucnosti plné utopických zázraků.

Taktika pro rozvoj asemblerů
Začněme tím, co se stát nesmí: nelze dovolit, aby se v nepřipraveném světě ztratil jediný vadný replikující asembler. Účinná opatření založená na asemblérském systému připadají v úvahu až poté, kdy se nebezpečné replikátory stanou skutečností. Důvod je jasný: bude daleko lehčí vyvinout nebezpečné replikátory, než systémy, které je mohou zničit, podobně jako je daleko jednodušší bakterie, než imunitní systém. K udržení nanotechnologií budeme potřebovat taktiku.
Jednou z obvyklých taktik je izolace: vedoucí síla bude schopna udržet replikační systémy v dokonalé izolaci nebo ve vesmírných laboratořích. Jednoduché replikátory nebudou mít žádnou inteligenci a budou navrženy tak, aby nemohly uniknout a vymknout se kontrole.
Replikátory můžeme vyvinout se zábranami (jako v buňkách), které je budou omezovat k určitému počtu replikací. Lze je navrhnout tak, aby byly závislé na speciálních syntetických vitamínech nebo exotickém prostředí nacházejícím se pouze v laboratořích. Protože replikátory by mohly být odolnější a agresivnější než jakékoli moderní pesticidy, můžeme je vyrobit zranitelné. Protože je budeme vytvářet úplně od základu, replikátory nebude zapotřebí vybavit takovými základními ochrannými mechanismy, jakými evoluce obdařila živé buňky.
Nepotřebují se dále vyvíjet. Můžeme replikátorům vložit redundantní kopie genetických kódů spolu s opravnými mechanismy, aby napravily každou mutaci. Lze je navrhnout tak, aby přerušily práci dlouho před tím, než nahromaděné poškození vytvoří trvalou mutaci. Můžeme je dokonce vyvinout tak, aby zabrzdily svůj vývoj i v případě, kdy by hrozila jen pouhá možnost mutace.
Úspěšnost současných organismů je zčásti daná tím, že se vyvinuly ze svých předchůdců. Vyvíjely se k vyvíjení, což je smysl celé sexuální reprodukce a míchání chromozómových segmentů během spojení spermií a buňky vajíčka. Replikátory můžeme jednoduše podobných schopností zbavit.
Pro vedoucí mocnost bude snadné vytvořit užitečné a stabilní replikující se asemblery. Jiným a velkým problémem bude ochrana asemblérů před ukradením, protože to bude hra, kterou budeme hrát proti inteligentním protivníkům. Jednou z taktik, jak se vyhnout hrozby krádeže asemblérů bude, že je uděláme dostupné v neškodné formě. Tím se sníží pohnutky dalších skupin k vytváření vlastních nezávislých asemblerů. Vedoucí mocnost bude ale i tak sledována stopujícími silami.

Omezené asemblery
Budeme schopni vytvořit systémy asemblerů, které se budou chovat jako semena. Ty budou pohlcovat sluneční záření a běžné látky a vyrůstat do všemožných forem. Tyto systémy se speciálním účelem se nebudou samy replikovat a když, tak jen v pevném časovém omezení. Budou dělat jen to, k čemu byly naprogramovány. Žádný nezpůsobilý speciální nástroj vytvořený asemblery je nebude schopen přeprogramovat k jiným cílů.
S pomocí takových asemblérů se zabudovaným omezením budou lidé schopni dosáhnout téměř všecho. Nikdo nevyrobí nuklerární zbraně pokud není nikdo kdo by byl naprogramován k jejich vytváření. A nikdo nevytvoří nebezpečné replikátory pokud nebude nikoho, kdo by k tomu byl naprogramován. Stroje vytvořené omezenými asemblery nám umožní rozšířit prostor, osít biosféru a opravovat lidské buňky. Omezené asemblery mohou přinést lidstvu celého světa skoro nekonečné zdraví.
Tato taktika nám usnadní morální tlak k okamžitému vytvoření nelimitovaných asemblerů. Vědci budou totiž stále potřebovat volně programovatelné asemblery za účelem studia, inženýři k testům. Tyto potřeby lze uskutečnit pouze v izolovaných asemblerských laboratořích.

Izolované asemblerské laboratoře
Představte si počítačové zařízení o velikosti vašeho palce s přípojkou ve spodní části. I když povrch tvoří nudný šedý plastik označený výrobním číslem, jde o asemblery vytvořenou izolovanou laboratoř, která obsahuje mnoho věcí. Uvnitř je umístěn výkonný nanoelektrický počítač se softwarem k simulaci molekul (vycházející ze softwaru vytvořeným během vývoje asemblerů).
S takto připojenou asemblerskou laboratoří váš asemblery vytvořený domácí počítač ukáže jakýkoli trojdimenzionální obraz, simulující atomy jako barevné koule. Pomocí joysticku lze simulovanou asemblerskou rukou vytvářet věci. Programy mohou paží pohybovat rychleji a mrknutím oka vytvářet na obrazovce složité struktury. Na vrcholu tohoto objektu je sféra tvořená řadou soustředných vrstev. Jemné dráty přenášejí energii a signály vrstvami a umožňují nanokomputeru předávat informace do centra sféry. Vrstva nejdále od centra obsahuje senzory. Jakákoli snaha o její odstranění nebo proražení je signalizována nejbližší vrstvě poblíž jádra. Další vrstvu tvoří silné sférické pouzdro s předpjatou diamantovou kompozitní hmotou. Ta je obklopena tepelně izolační vrstvou, kterou naopak obklopuje sférické pouzdro o velikosti zrnka pepře vytvořené z mikroskopických, pečlivě uspořádaných molekul kovu a okysličovadla. Ty jsou propojené elektrickými roznětkami. V případě proražení vnější senzorové vrstvy se roznětky spustí. Kovooxydační demoliční nálož pak vyhoří ve zlomku sekundy, vytvoří z kovových kysličníků plyn překračující hustotu vody o teplotě rovnající se teplotě na povrchu Slunce. Žár je ale titěrný, rychle zmizí a diamantová sféra si zachová původní pevnost.
Demoliční nálož obklopuje menší pevnou schránku, která obaluje další senzorovou vrstvu, ta také může spustit demoliční nálož. Senzory obklopují dutinu obsahující skutečnou izolovanou laboratoř asemblerů.
Tato důkladná opatření znamenají skutečnou izolaci. Nikdo zvenčí nemůže otevřít prostor laboratoře bez porušení jejího obsahu a žádný asembler ani asemblery vytvořené struktury nemohou uniknout ven. Systém je navržen tak, aby propouštěl informace, nikoli však nebezpečné replikátory. Každá senzorová vrstva obsahuje mnoho zdvojených senzorových vrstev, z nichž každá vzájemně ohlašuje jakákoli ohrožení a eliminuje škody. Průnik, ohlášený odpálením demoliční nálože, zvýší teplotu v laboratoři nad bod tání všech existujících látek a tím znemožní jakékoli zneužití.
V pracovním prostoru o šířce lidského vlasu bude dost místa pro miliony asemblerů a tisíce trilionů atomů. Izolované laboratoře umožní lidstvu bezpečně testovat nanovýrobky včetně nebezpečných replikátorů. Děti budou s atomy moci pracovat jako se stavebnicí o neomezeném počtu dílků. Sběratelé si budou vzájemně vyměňovat programy k vytváření různých mechanismů. Inženýři budou vytvářet a testovat nové nanotechnologie. V laboratořích zbudovaných pro biologické vzorky, se budou bioinženýři zabývat vyvíjením prvních strojů na opravu buněk.
Časem lidé přirozeně vyvinou užitečné projekty, které bude možné aplikovat na počítačové okruhy nebo pro vývoj odolných materiálů, lékařských zařízení atd. Po veřejné kontrole bezpečnosti by tyto věci mohly být dostupné i mimo izolované laboratoře. Izolované laboratoře a omezené asemblery budou tvořit pár: první nám umožní svobodně vynalézat, druhý těšit se v bezpečí z ovoce naší vynalézavosti. Rozdíl mezi návrhem a jeho aplikací nám pomůže vyhnout se nebezpečným překvapením.
Izolované asemblerské laboratoře umožní celé společnosti zabývat se problémy nanotechnologie. A to urychlí naše přípravy na dobu, kdy se nějaká nezávislá mocnost naučí vytvořit něco skutečně nebezpečného.

Skrývání informací
Další taktikou časového náskoku bude varianta spálení mostu vedoucího od hrubé k molekulární technologii. Znamená to zničení záznamů o vytváření asemblerů (nebo jejich znepřístupnění). Vedoucí síla možná bude schopna vytvořit první hrubé asemblery tak, aby nikdo neznal větší detaily, než jen malé fragmenty celého systému. Bílkovinné stroje naprogramované k sestavení prvních hrubých asemblerů okamžitě zastarají. Zničením návrhů bílkovinných strojů se omezí nebezpečí jejich duplikace, ikdyž se tím nezastaví další vývoj nanotechnologie.
Masová dostupnost izolovaných laboratoří a omezených asemblerů sníží vědecké a ekonomické motivace k nezávislému rozvíjení nanotechnologií a spálením mostu od základní technologie se nezávislý vývoj masové technologie stane obtížný. Nelze se ale soustředit jen na zdržovací taktiku. Nezávislý vývoj se nezastaví, pud lidské síly se žene k vypětí, které eventuálně může vést k úspěchu. Jen detailní, universální dozor v totalizačním smyslu by nezávislý výzkum mohl zabrzdit na neurčitou dobu. Jestliže kontrolu bude řídit moderní vláda, mohlo by to být jako při ošetřování nebezpečné nemoci. A i tak, mohli by lidé udržovat dokonalou kontrolu věčně? Zdá se, že s nedůvěryhodnými replikátory se musíme naučit žít. Jednou z taktik by mohla být izolace.
Tohle jsou ale křehké metody: nebezpečné relikátory možná proniknou skrze omezení a přinesou strašlivou katastrofu celé planetě. A třebaže zdi mohou být odolné proti malým replikátorům, nemusejí být dostatečnou překážkou proti široké škále organizované zákeřnosti. Náš přístup bude muset být daleko odolnější a flexibilnější.

Je úspěch možný?
Při současné nejistotě nemůžeme s přesností popsat ani hrozby ani obranu. Znamená to, že možnost sestrojení účinných štítů neexistuje? Zjevně můžeme, je zde ale rozdíl mezi možností a dosáhnutím. A v tomto případě už svět zná příklady podobných úspěchů. V obraně před útočícími replikátory není nic zásadně nového, život to už dělá celé věky. Replikující asemblery, ačkoli neobyčejně mocné se budou podobat už dobře známým fyzikálním systémům. Zkušenost nám říká, že mohou být pod kontrolou.
Viry jsou molekulární stroje, které útočí na buňky: buňky užívají ke své obraně molekulární stroje (obranné enzymy a protilátky). Bakterie jsou buňky, které útočí na organismy, a organismy zase užívají ke své obraně buněk (bílé krvinky). Stejně tak společnosti užívají policie nebo armády, které je chrání před kriminálními živly nebo nepřáteli.
Na méně fyzické úrovni užívají mozky memové systémy jako např. vědecké metody, které je chrání před nesmysly a společnosti zase užívají instituce jako soudy, které je ochraňují před jinými institucemi.
Biologické příklady ukazují, že i po miliardě let závodů ve zbrojení si molekulární stroje proti molekulárním replikátorům udžely spolehlivou obranu. Proti nanostrojům lze nasadit zase nanostroje.
Shora uvedené příklady - některé týkající se virů a jiné institucí - jsou natolik odlišné proto, aby ukázaly, že spolehlivá obrana závisí na všeobecných principech. Někdo se může ptát, proč byly všechny obrany tak úspěšné? Ale obraťme otázku: Proč by měly selhat? Každý konflikt staví podobné systémy proti sobě, a nedává útočníkovi žádný zvláštní náskok. V každém konfliktu nadto útočník čelí dobře zformované obraně. Obránci bojují na domácí půdě s výhodou pozic, detailní znalosti místa, disponují zbrojními zdroji a počtem spojenců - když tělesný imunitní systém rozpozná bakterii, může mobilizovat ostatní zdroje těla. Všechny tyto zásadní výhody mají spoustu společných technologických detailů. K ochraně před nebezpečnými replikátory můžeme našim aktivním štítům vložit ty samé výhody. Nemusejí jen nečinně přihlížet nebezpečnému hromadění zbraní, jakože imunitní systém nepřihlíží bezbranně množení bakterií.
Předvídat výsledek časově neomezeného vojenského soupeření mezi silami vybavenými replikujícími se asemblery bude těžké.