Terminátora asi všichni znáte, takže jen pro připomenutí: Americká vláda v tomto sci-fi filmu vytvoří inteligentní počítačový program Skynet, který má ochraňovat vládní a vojenské počítače. Problém nastal ve chvíli, kdy Skynet získal kontrolu nad veškerými počítači a stroji připojenými k síti a začal se šířit jako virus. Jeho tvůrci se jej snažili vypnout, Skynet to považoval za útok proti „své osobě“ a pokusil se lidstvo zlikvidovat. Odpálil jaderné střely na Rusko a tím vyprovokoval jadernou válku, při které zemřelo několik miliard lidí. Stroje pak lovily přeživší lidské bytosti, aby jim sloužily jako otroci při stavbě továren vyrábějících nové a lepší stroje. Samotní Terminátoři byli bojoví roboti, kteří lapali a likvidovali lidské povstalce ve světě, kterému vládly stroje.
Je to vážná hrozba
Na Cambridgské univerzitě možnou vzpouru strojů opravdu nepodceňují. Zakladateli nového univerzitního centra jsou filozof Huw Price, profesor kosmologie a astrofyziky Martin Rees a Jaan Tallinn, programátor a spoluzakladatel sítě Skype.
Myšlenka, že se stroje vzepřou lidem a zmocní se planety, je častým námětem vědecko-fantastické literatury. Mimo Skynetu a jeho Terminátorů škodí lidem například Replikátoři z Hvězdné brány, Borgové ze Star Treku nebo roboti v knihách Stanislawa Lema či Isaaka Asimova. Ostatně poprvé použil jméno robot český spisovatel Karel Čapek a i jeho umělé bytosti se – poté co svými schopnostmi překonaly lidstvo – vzbouřily.
Podle učenců z Cambridge už možnost, že případná umělá inteligence může skutečně lidstvo vyhladit, musíme vzít konečně vážně. Vědci se však podle nich dosud spíše věnovali vymýšlení stále dokonalejších strojů, než aby se (na rozdíl od spisovatelů sci-fi) zabývali tím, jaký následek mohou jejich vynálezy pro lidstvo mít.
Superpočítač Titan
Doba, kdy se výkonnost superpočítačů bude moci měřit s lidským mozkem, se přitom nezadržitelně blíží. Počítače a čipy se zlepšují každý měsíc. Skutečnost je taková, že dnešní herní konzole jsou daleko výkonnější než třeba počítače, které řídily přistání astronautů na Měsíci.
Aby se některý stroj vyrovnal lidskému mozku, musel by mít výkon 38 biliard operací za sekundu (tedy 38 petaflops) a zároveň by jeho operační paměť měla mít přes tři a půl tisíce terabitů. Zatím nejsilnějším, nejvýkonnějším superpočítačem na světě je přístroj jménem Titan od společnosti Cray. Jeho operační paměť je zhruba 700 terabitů a celkový výkon přesahuje 20 petaflops (peta je předponou pro milion miliard, tedy biliardu neboli 10 na 15). Na lidský mozek sice Titan zatím nestačí, ale už s ním začíná být srovnatelný.
Příliš složitý svět
Pokud se jedná o povstání robotů ve stylu Terminátor nebo o jakousi vzpouru mozků, filozof Price tvrdí, že už v tomto století, maximálně příštím umělá inteligence unikne omezení biologie. Jakmile by strojová inteligence předčila naši, mohli by roboti sami navrhovat a konstruovat nové generace stále pokročilejších strojů. Nevíme samozřejmě, jak by potom takový svět vypadal, protože stroje (bytosti) vybavené nesrovnatelně vyšší inteligencí, než máme my, by mohly (vy)řešit problémy, které zatím jen tušíme nebo které si ještě ani nedokážeme přestavit.
Poslední lidský vynález
Ve chvíli, kdy už lidé nebudou „nejchytřejší věcí kolem“, budou odkázáni na milost a nemilost strojů. Ty jim sice asi nebudou záměrně škodit, ale mohou mít zájmy, které budou se zájmy lidstva v rozporu. Superinteligentní počítače by tak mohly být posledním lidským vynálezem.
Existuje na to jediná námitka. I ty nejchytřejší počítače jsou závislé na přísunu energie. Pokud vytáhneme takovýto stroj ze zásuvky, tedy odpojíme od energie, tak ho vypneme. Bylo by jistě žádoucí, aby si lidé možnost budoucí superpočítač „vytáhnout ze zásuvky“ vždy pro jistotu ponechali.
Riziková doba
Podle dalšího zakladatele cambridgského centra astrofyzika Martina Reese bude 21. století nejrizikovější dobou v lidské historii. Technologie, kterými dnešní věda disponuje, jsou schopné zlikvidovat celé lidstvo. Jejich kontrola ale není dostatečná, takže dochází k rozporu mezi lidskými možnostmi a schopností dohlédnout konce svého počínání. Asi tak jako tříleté dítě dokáže škrtnout sirkou nebo otočit kohoutkem na plynovém vařiči.
Lidé mohou svými dnešními činy položit základy neomezené budoucnosti. Na druhé straně mohou dnešní technologie, ať už skrze zlý záměr nebo neúmyslně, ohrozit nejen budoucnost lidstva, ale i celého života na Zemi. Riziko je značné. Šance, že se naše civilizace dožije konce 21. století není podle Reese vyšší než padesát procent.
Zásadní otázka je, kdo by měl rozhodovat, zda a jak pokračovat v pokusech, které mohou přinést velký užitek, ale zároveň s sebou nesou jisté (třeba jen nepatrné) riziko pro celou planetu.
Na omyl nebude místo
Zdá se, že většinu vědců budoucí vývoj zatím neznepokojuje. Nové technologie jsou totiž s to nabídnout nesmírný užitek. A mnoho odborníků se domnívá, že nejlepším lékem na případné problémy jsou technologie ještě dokonalejší. Tvrdí například, že na počátku věku páry také zemřely stovky lidí při explozi vadných kotlů. Podobně tomu bylo i s prvními letadly. Podle tohoto názoru musí každému pokroku předcházet fáze pokusů a omylů.
Problém je, že v případě vzniku nepřátelské inteligence nebo například sestrojení a úniku smrtícího viru by nezemřelo několik stovek lidí. Ohroženi by byli všichni a možná i ostatní život na planetě. Není třeba pravděpodobné, že se tak stane, ale následky by mohly být strašné.
Preventivní opatrnost
Podle vědců z Cambridge je proto třeba být připraven a používat pro tyto případy tak zvaný preventivní princip. Ten dovedl k dokonalosti už v 17. století matematik a filozof Blaise Pascall. Zdůvodňoval jím, proč se vyplatí věřit v Boha. I kdyby byla jeho existence krajně nepravděpodobná, je podle Pascala prozíravé a rozumné chovat se tak, jako kdyby Bůh opravdu existoval. Je totiž výhodnější chovat se v běžném životě podle božích přikázání, než podstupovat – byť i minimální – riziko něčeho tak nekonečně strašlivého, jako jsou věčná muka v ohni pekelném. To je samozřejmě trochu extrém, ale tak trochu platí i pro dnešní vědu.
