Svoboda v přetechnizovaném světě – čeká nás jako lidstvo apokalypsa?
Apokalypsa v podobě války strojů s lidskou rasou není nové téma. Varovali a stále před ní varují scifi autoři, představitelé cyberpunku, antiutopisté i filmoví režiséři. Obdobně jako u totalitních režimů však i jejich poselství zůstává pouze v rovině umělecké a jeho aktuálnost bývá přehlížena.
Je přirozené, že si lidé začínají uvědomovat potenciál umělé inteligence a její možnou samostatnost a nezávislost na lidské rase. Určitě si vzpomenete na spoustu filmů či knih. (Zběžně např. Terminátor; Matrix; Třinácté patro; 2001: Vesmírná odysea, Já, robot; AI: Umělá inteligence, Blade Runner; THX 1138; Mechanické piáno či R.U.R.) A je také typicky lidské, že se obáváme něčeho, co by mohlo být silnější než my sami.
Mají obavy z přetechnizování dnešního světa a z inteligentnější robotické rasy reálný základ? Měli bychom brát na vědomí poselství výše zmíněných děl? Jsou roboti dalším stupněm evoluce? Budou moct někdy prožívat emoce? Jaký je vlastně rozdíl mezi robotem a člověkem? Čeká nás jako lidstvo apokalypsa? A pokud ano, lze ji nějak předejít?
Na některé otázky se pokusím odpovědět v následujícím zamyšlení. Jak ale sami brzo zjistíte, je to úvaha, která přináší více otázek než odpovědí…
Co je to svoboda a nezávislost
Nelze začít jinak, než definováním svobody. Svoboda je mytickým pojmem, který je dnes hojně používán a samozřejmě také hojně definován. Pro toto zamyšlení bude dostačující říci, že nezávislost a svoboda jsou dva koexistující faktory, které jsou pro lidský život nesmírně důležité, a které jsou na sobě závislé. Nemůžeme být nikdy stoprocentně svobodní, budeme-li na někom závislí. A nemůžeme být stoprocentně nezávislí, nebudeme-li svobodní.
Z této jednoduché definice je jasné, že nikdy nebudeme absolutně svobodní a nezávislí. Vždy nás bude něco omezovat a vždy tady bude něco, na čem budeme závislí. Jediné, o co tedy skutečně jde, je míra této svobody a závislosti. A právě tato míra stoupá zároveň s technickou vyspělostí.
Závislost na technice
Ať už si to uvědomujeme nebo ne, jsme přímo či nepřímo závislí na technologii. Je to logické, technika je pro nás nástrojem a člověk má genetické předpoklady nástroje vytvářet, zdokonalovat je a ulehčovat si s nimi život. Inteligentní robot je pak jen kauzálním následkem. Většina aspektů naší planety vznikla v důsledku přirozeného vývoje a principu selektivity. Silný druh přežil, slabší vyhynul. Člověk toto pojetí nenaboural, jen ho zdokonalil. Silný totiž už najednou neznamená hustotu chlupů v kruté zimě či špičaté zuby a drápy, nýbrž inteligenci, díky které jsme schopni se kvalitněji ošatit a ozbrojit. Člověk je v podstatě slabý, a proto si vytváří zbraně a stroje, aby mohl svou slabost kompenzovat a jako druh nejenom přežít, ale i dominovat planetě. Člověk je ale také tvorem, který si chce věci zjednodušovat. Proto vytváří další a další nástroje, které za něj budou dělat těžkou práci, ohřejí mu jídlo či zajistí jeho bezpečí a zábavu. Dříve nebo později se proto lidská rasa dostane do stádia, kdy bude vytvářet tzv. umělou inteligenci (dále jen AI) pro maximální zjednodušení a zefektivnění svých nástrojů. Tyhle stroje postupně překonají své stvořitele, neboť technika se rozvíjí mnohem rychleji než člověk. Člověku trvá jednu celou dlouho generaci, než předá své informace potomkům. Stroje jsou schopni udělat takovou generaci během chvilky. Jaké to může mít důsledky?
Jaký je rozdíl mezi člověkem a strojem?
Ještě před tím, než se pokusím nahlédnout do budoucnosti, se pokusím odpovědět na zásadní otázku. Jaký je rozdíl mezi člověkem a strojem?
Většinu lidí napadne jako první láska. Emoce. Vědomí. Spirituálně řečeno – duše. Vědci zatím nedokážou vědomí v mozku lokalizovat, neznají jeho složení a netuší, jak vzniká. Veškeré teorie zůstávají jen a pouze teoriemi – i když je pravděpodobné, že některé z nich se pravdě blíží mílovými kroky. Prozatím ale nejsme schopni měřit a zkoumat vědomí jinak, než jeho projevem – tedy tím, jak se chováme, jsme schopni zkoumat to, co cítíme. Hawking se proto vyjádřil k problematice rozdílu člověka a počítače tak, že nemá cenu zabývat se tím, jestli má počítač vědomí, protože to nejsme schopni pochopit – chápeme jen již zmíněné projevy, tedy chování a inteligenci.
Paradoxem je, že vědomí nejsme schopni pochopit ani u ostatních lidí. Ve stylu filmu Truman Show určitě každého alespoň jednou napadlo, jak si můžeme být jisti, že ostatní lidé prožívají, a že nejsou jen pouhými iluzemi, herci, roboty či projekcemi? Jak? Jistí si být můžeme asi stejně, jako jsme si jistí v tom, že roboti nemají duši. Věříme v to. Tenhle filozofický problém se nazývá zombie argument a jedinec, jež nemá vědomí, ale chová se tak, jako by ho měl, se nazývá Chalmersova zombie. Opět jsme tedy u toho, že vědomí a duši zkoumáme jen tím, jak se u jedince projevuje. A jestliže vytvoříme robota schopného imitovat lidské vědomí, emoce a chování tak dobře, že jej na první pohled nerozeznáme od člověka, bude ve výsledku mezi člověkem a strojem nějaký rozdíl?
I když je tato otázka provokativní a jistým smyslem i znepokojující, prozatím nejsme schopni vytvořit takhle složité AI. Ač počítače v mnohém překonaly člověka a v mnohém jsou mu dobrými konkurenty – počítače dnes dokážou malovat, psát pohádky, skládat hudbu a porazí člověka ve většině stolních hrách (nejznámějším příkladem je šachový souboj programu Deep blue proti Garrymu Kassparovi) – stále nejsou jako my. Slavný Turingův test, který zkoumá rozdílnost mezi člověkem a strojem již od padesátých let, ještě nikdy nevyšel stoprocentně pozitivně a tak je Loebnerova cena 100 000 dolarů za AI, jejíž odpovědi budou nerozlišitelné od odpovědí člověka, stále aktuální. Rozdíl tedy tady zatím je – je ale výsledkem nedokonalosti našich vědomostí a technologické vyspělosti, nebo je dán z podstaty naší přirozenosti? A bude někdy překonán?
Závislost techniky na nás
Už jsme si přiznali, že jsme závislí na technologiích. Závislost je ale vzájemná. Ani stroje nejsou nezávislé a svobodné. Potřebují lidstvo k tomu, aby je zdokonalovalo. Potřebují algoritmy, které jim „naťukáme do hlav“ a především máme v rukách pořád možnost je vypnout. Stačí vypojit stroj z elektřiny či vytáhnout baterky a jsme opět páni tvorstva. Žijeme tedy ve fázi, kdy se vzájemně potřebujeme. My potřebujeme stroje k tomu, aby nám ulehčovali život, a stroje potřebují nás k tomu, aby mohli existovat. Bude to tak trvat věčně?
S velkou pravděpodobností ne. Nebude to trvat dlouho a díky vlastní pohodlnosti se zbavíme pojistky. Proč by měl někdo kontrolovat robota, jak pracuje, když je bezchybný? A co se dá očekávat, když stvoříme stroj inteligentní tak moc, že dokáže přeříznout mateřskou šňůru od lidstva sám a stát se nezávislým? Co si počneme pak? Až budou stroje na nás nezávislé, zatímco my na nich stále budeme? Pokusím se Vám nabídnout několik téměř cyberpunkových scénářů. Možná se Vám budou zdát přitažené za vlasy či jako obrovské fantazírování, osobně se ale domnívám, že fáze nezávislosti techniky na lidské rase je otázkou několika dekád, a je proto důležité zamyslet se nad následujícími aspekty. Nabízím tedy pět možných cest, které nás v (ne)daleké budoucnosti mohou potkat:
Scénář 1 – Robot jako otrok
Následující scénář je nejpraktičtějším a nejlogičtějším pohledem do budoucnosti. Popisuje stav, ve kterém stroje nebudou napodobovat lidi, nestanou se nerozpoznatelnými od lidí, nebudou oplývat emocemi a jejich umělá inteligence bude značně omezená. Omezená natolik, že jim zabrání v uvědomění si sebe sama a bude vysoká jen do té míry, aby umožnila stroji vykonávat práci, pro kterou byl sestrojen. Zabráníme si ve vytvoření dokonalé AI či robota společníka. Stroje zůstanou i nadále pouhými prostředky a nástroji, jak je tomu dnes. Žádná apokalypsa nám v tomto stavu nehrozí.
Problém nastane až tehdy, kdy se nějaký liberální institut či „šílený“ vědec pokusí sestrojit dokonalou AI, a bude zároveň lobovat za přiznání duše stroji, za jeho právo na život a za jeho svobodu. Vláda by proto měla učinit totalitní kroky a potírat tyto snahy. Jedině tak se zabrání tomu, aby se z nástroje stal svobodný stroj s právy a vlastními požadavky. Otázku, je-li to morální, ponechám nevyřčenou.
Scénář 2 – Robot jako mstitel
Druhý scénář se nese ve znamení science fiction. Určitě jej znáte z románů a filmů. Může nastat ve stavu naší budoucnosti, ve které se dá neomezený prostor tvůrčí AI, přiřknou se jí práva a svoboda. Tento scénář předpokládá, že si umělá rasa uvědomí svou převahu a své zneužívání a bude se chtít nejen vysvobodit z otroctví, ale bude se chtít také pomstít. To povede k tolik omílané válce. Válce lidské rasy proti rase lidstvem uměle vytvořené. Kdo tento souboj vyhraje? Dvě nejzákladnější úvahy jsou buďto lidé, nebo stroje. Vyhrají-li stroje, stanou se dominantní rasou na planetě a lidstvo degraduje na pár ostrůvků ne příliš chytré a bojeschopné civilizace či vymře úplně. Vítězství lidstva v tomto kontextu nebude příliš velkým vítězstvím. Lidé možná dokážou stroje zničit, odpojí je a přestanou je používat, sami se tak ale vrátí několik tisíc let zpátky a budou muset začínat znova od začátku – a dá se předpokládat, že ve svém biologickém nastavení opět vytvoří stroje ulehčující jim práci. Jak se z tohoto bizardního koloběhu dostat?
Dvě alternativní teorie, které jsou součástí druhého scénáře, jsem pojmenoval Robot jako otrokář a Robot jako rival. Domnívám se, že robota otrokáře není třeba více rozebírat. Ve znamení Matrixu stroje zotročí lidstvo kvůli vlastnímu užitku. Osobně se domnívám, že je to hloupost. Proč by o tolik vyspělejší AI potřebovala otročit lidskou rasu, když by si pravděpodobně poradila lehce bez nich?
Robot jako rival by byl výsledkem míru takovéto války. Nastala by jakási rovnováha, lidská a umělá rasa by si rozdělila síly. Obdobně jako ve studené válce by se svět diferencoval na dvě polokoule a dá se předpokládat, že by obě strany zbrojily. Mohl by tento mír trvat věčně?
Scénář 3 – Robot jako další stupeň evoluce
Biologický scénář nabízí pohled na umělou inteligenci jako na další stupeň evoluce, který dokáže předčít člověka. Člověk by tedy už nebyl pánem tvorstva ani vrcholem evoluce. Nebudeme se zabývat, jak by spolu tyhle rasy koexistovaly, to je předmětem pátého scénáře. Zamysleme se nad tím, je-li tohle vůbec možné. Můžeme chápat jako živý organismus i technologii? Já říkám, proč ne? Nietzscheho „Bůh je mrtev“ rozšířené do „my jej zabili“ nabízí groteskně metaforický pohled na evoluci. Zabili jsme svého tvůrce a překonali jsme ho. Proč by se scénář nemohl opakovat? Čapkovo výborné drama R.U.R., kterému vděčíme za slovo robot, má jasno – stroje mohou být dalším stupněm evoluce. Rozdíl člověka a stroje je v tomto kontextu naprosto irelevantní, neboť, za předpokladu, že by splňoval podmínky evoluce – a sice umět předávat informace dalším generacím a vyvíjet se tak – byl by stroj jen dalším „přírodním“ druhem. Je to tak nepředstavitelné, když pořádně nevíme, jak vznikl život na naší planetě? Nejsme také jen „stroji“ jiného „stvořitele“?
Scénář 4 – Robot jako Bůh
Tento scénář sklouzává do filozofie a do teorie, která se dá nazvat jako „technický buddhismus“ – naprosté odloučení se od existenciálních potřeb a tužeb pomocí strojů. Ač se to může zdát nelogické a složité, máme k tomu našlápnuto. Stačí se podívat na dnešní společnost, která neustále hledí do počítačů a telefonů, postupně ztrácí sociální kontakt a odevzdává se do rukou nového Boha, nového přesahu naší existence a do sdílené mystické zkušenosti a spirituality – odevzdáváme se do rukou technologií. Bizardně postavíme dobrovolně stroje do role otrokáře, předáme jim nadvládu nad reálným světem a unikneme do světa virtuálního. Zotročíme se sami. Vytvoříme si nového Boha, který dokáže pokrýt požadavky dnešní duchovno postrádající společnosti. Je to zvrácené nebo krásné? Je tohle smysl naší existence?
Scénář 5 – Robot jako přítel
Poslední pátý scénář možného vývoje koexistence s AI je ve znamení idealismu. Pro lidskou rasu by byl pravděpodobně nejvýhodnější, neboť by nás dokázal nesmírně obohatit a vyvaroval by se jakékoliv válce. Je to stav vzájemné symbiózy. Jak jej dosáhnout?
První myšlenka, která se nabízí, je zachovat stav, ve kterém jsme dneska. Tedy ten stav, ve kterém budeme sice závislí na strojích, ale stroje budou také závislé na nás. Jaký je rozdíl mezi prvním scénářem? Neomezíme umělou inteligenci a budeme ji zdokonalovat do té doby, než nás předběhne. Problém nastane tehdy, kdy nás předběhne a nebudeme pro ni ani potřební, ani důležití. Jak potom udržet symbiózu?
Ač je mi tento stav nejbližší, nenapadá mě řešení. Osobně vidím potenciál právě ve vyspělejší AI, která sama přijde s řešením a nebude mít tendenci ke strachu, jako naše lidská rasa, která je ochotna pro pocit bezpečí zničit silnější rasu.
Je to všechno vůbec reálné?
Ač o takovýchto možnostech vídáváme filmy, slýcháváme o nich v muzice a čteme o nich knihy, stále se nějak bráníme možnosti, že by to všechno bylo někdy možné. Proč by to ale možné nebylo? Já osobně se domnívám, že nás dříve nebo později výše popsaný vývoj potká a budeme muset udělat závažná rozhodnutí. Na druhou stranu jsem možná přecenil AI, a tento příspěvek patří spíše do červené knihovny, než že by se dal považovat za relevantní esej a kvalitní analýzu budoucnosti. Je to tedy všechno vůbec reálné?
To nechávám na Vás a Vaší fantazii.
Národ který se odkloní od Boha provádí autodestrukci. Existence národa nezáleží na jeho technických a ekonomických schopnostech ale na morálce občanů – EINSTEIN.
Morální pandemie u nás řádí naplno a k apokalypse směřujeme pilně a sami ji podporujeme z vlastích zdrojů. Sebevražda v režii mocných.
Nedávno mi vyšla psychologická publikace psaná populárně-naučným stylem. Jmenuje se „Proč hlupák zůstává hlupákem? A další psychologické fenomény.“ Pokud Vás některé mé texty zaujaly nebo Vás baví psychologie obecně, můžete si knihu zakoupit zde: https://www.cerm.cz/lacko-david-proc-hlupak-zustava-hlupakem-a-dalsi-psychologicke-fenomeny
Dnes 3.12.2017 sledujeme zárodky světové apokalypsy, která může vzniknout mezi Severní Koreou a USA. Usa má v blízkosti Koreje letadlové a doprovodné lodě.
Konflikt může vzniknout náhodně nebo úmyslně.
Předpokládaný průběh, zničení amerických základen v Jižní Koreji, totální zničení celé severní Koreje a pokus o její vojenské obsazení. To by znamenalo že USA, Čína a Rusko by bylo v přímém dotyku.
To Rusko ani Čína nedopustí, takže veškerá vojenská technika USA půjde rychle ke dnu. Nepochybně v oblasti číhají ruské a čínské ponorky.
Nastane radioaktivní zamoření území okolních států, což si Rusko ani Čína nenechají líbit a zlikvidují USA. Prostředky na to mají.
A bude zamořený celý svět s miliardami obětí na lidských životech.
Obsazení sev. Koreje se Američanům nepovede. Korejští vojáci se ubrání a Američané zažijí druhý Vietnam. Vojska USA se do sev. Koreje nedostanou, protože je tam nikdo nepustí. USA budou prohlášené za říši zla.
David Lacko – Článek mě zaujal a trochu mi šel tzv. i mráz po zádech.
Můj názor je – pohybujeme se na velmi, velmi tenkém ledě. Také mám obavy, že se lidé díky vlastní pohodlnosti budou chtít zbavit té pojistky, a budou považovat roboty za opravdu dokonalé. Ale to nemůže být. Vždy to bude stroj. I můj názor, stejně jako autora, je – stanovit už nyní hranice, udělat rozhodnutí. Najít meze ve spojení s technikou. Souhlasím i s názory: 1) Robot bude vždy proti člověku svou vůlí (,,uvnitř je temno,,). 2) Nehledejme skutečnou realitu v realitě virtuální (četla jsem: je velmi nebezpečné sledovat filmy v 3D brýlích, hlavně, když je emocionální film) a nabízené brýle si už neberu. 3) Skutečný svět je opravdu krásný, ale virtuální bude stále umělý.
Scénář 5 mi připomíná seriál Almost Human.
Můj názor na toto téma už znáš. Již v současnosti pociťuji, že se nacházíme v procesu, který by mohl úplně klidně vést k jednomu z výše zmíněných scénářů. Včera jsem se zabýval Marxem a napadla mě velmi zvláštní myšlenka – co když byly jeho myšlenky velmi nadčasové? Nemyslím jeho proletářskou revoluci, mám na mysli jeho myšlenku, že industrializace na nás uhranula úděl netvořivé a ubíjející práce, nicméně další vývoj a pokračování v industrializaci nás z tohoto má také vyvést. Podle něj lidstvo v kapitalistickém světě dojde do bodu, kdy bude technika na takové úrovni, že se bude ovládat a řídit sama. Člověk podle něj bude v takovém případě osvobozen od nudné a netvořivé práce, odcizení zmizí, člověk bude pracovat minimální čas a zbytek dne bude věnovat tvořivé činnosti, která jej bude obohacovat. Zvláštní to myšlenky ve spojitosti s touto úvahou.
Nicméně teď k mému názoru. Ano, jsme závislí na technice, jsme na ní dokonce životně závislí. V případě naprostého black-outu bychom jako lidstvo přežili, ale do té doby, než by se situace ustálila, by to bylo velmi kruté a nevraživé období plné anarchie a chaosu. Následně bychom se vrátili několik staletí nazpět. Nicméně black-out pravděpodobně (snad?, bohužel?) nenastane. Technický „pokrok“ bude i nadále pokračovat (uvozovky jsem zvolil z toho důvodu, že si myslím, že nad slovem pokrok se dá v tomto případě velmi polemizovat). Budeme na technice stále závislejší a závislejší. Následně dojdeme k oné hranici.
Co bude touto hranicí? V článku je to již zmíněno. Bude to chvíle, kdy vznikne dokonalé AI a z robotů se postupně začnou stávat lidem (ne)rovní tvorové. Pokud tyto technologie získají lidské emoce, onu lidskost a pokud přijdou na scénu novodobí liberálové prahnoucí po rovnosti lidí s roboty, budeme již za onou hranicí.
Na závěr bych snad jen dodal, že pokud by roboti někdy měli v budoucnu opravdu získali lidské emoce, budu proti veškerou svou vůlí. Už teď jsme v jistých případech citově upoutání k technice, nesmí se to prohlubovat. A na AI jakožto hodného kamaráda netoužícího po svobodě a nadvládě nevěřím. Nebo spíše, nechci na to spoléhat. Můžeme naprogramovat co chceme a jak chceme, nicméně lidská chyba je prakticky nevyhnutelná, autonomní vývoj této nové technologické rasy je nevyzpytatelný. Nechť nám technika slouží, nicméně najděme meze a nezapomínejme na lidskost v lidech. Nehledejme skutečnou realitu v realitě virtuální. Nezavírejme oči před skutečností a neunikejme do světa umělého. V reálném světě je tolik krásna, nač se ji dobrovolně vzdát pro něco tak nepřirozeného. Nač unikat zbaběle před realitou do světa neomezených abstraktních možností a nechat se ovládat virtuálním světem plným něčeho, co není lidské. Proč rezignovat na lidskost?
Měl-li Marx v něčem pravdu, je to právě jeho teorie odcizení, kterou mnoho z nás pociťuje na vlastní kůži.
Co se toho blackoutu týče, obávám se, že to není nereálné. 2012 v Indii zasáhla blackout 670 mil. obyvatel. Naprosto nemyslitelné číslo. Šílená je i představa, co udělá i několikaminutový blackout s naším trhem.
Virtuální realita je nebezpečná a lákavá. Cyberupunk před ní varuje již nějaký ten pátek. Osobně se ale domnívám, že její přínosný potenciál je pro lidstvo natolik obrovský, že se jí prostě nevzdáme. A najednou jde jen o to, abychom skloubili lidskost a technologii. Nemusím přeci rezignovat na lidskost. Nebo snad musíme? Není jiné cesty? Buď technologický pokrok, nebo zachování „lidskosti“? Dokud budou stroje nástroji, nemusíme se obávat. Nicméně čas technické singularity nás pravděpodobně potká. Pak budou tyto otázky relevantní. A doufám, že v tom bodě už nebude pozdě se jimi zabývat.