Neuralink: Nejkontroverznější technologie v dějinách, 4. část – Filozofie

V minulých dílech série o kontroverzních důsledcích technologie Neuralinku jsme se zamýšleli nad možnými psychologickými, sociologickými a etickými dopady neurálních rozhraní. Dnes se podíváme na filozofickou stránku věci. Tématicky pak seriál uzavřeme dílem o právních aspektech a po něm se ještě pokusíme zamyslet, co s tím vším dělat.

Jsou lidé, kteří tvrdí, že svět stojí na lžích. Reklamy, prodejci, politici, právníci a zástupci mnoha jiných profesí používají lež jako nástroj pro dosažení toho, o co usilují. K tomu asi každý z nás v sobě schovává nějaká tajemství. Co jestli to vše díky neurálním rozhraním přestane být možné? Co jestli padne i poslední hranice soukromí a už ani myšlenky v naší hlavě nebudou jen naše?

Filozofické otázky

Slavoj Žižek

Jedním z populárních současných filozofů, kteří se opakovaně vyjadřovali k tématu Neuralinku, je Slavoj Žižek, což je, jak píše Wikipedie, „slovinský filozof a kulturní teoretik čerpající z filozofických tradic Marxe a Hegela a také z psychoanalytické teorie Jacquese Lacana. Vystudoval filozofii a psychoanalýzu. Je známý pro své přednášky po celém světě, kde se vyjadřuje k aktuálním sociálním a politickým problémům.“

Na YouTube můžeme najít přinejmenším dvě velmi zajímavá videa, ve kterých Žižek mluví o Neuralinku:

• Rozhovor pro televizní stanici RT (dříve Russia Today) z roku 2017
• Přednáška na Univerzitě ve Winnipegu z dubna 2019

Rozhovor pro televizi RT:

V obou vystoupeních Žižek prezentuje své obavy vůči Neuralinku z pohledu filozofa a psychoanalytika. Některé z jeho nejzajímavějších poznámek si zde uvedeme. V rozhovoru pro RT Žižek říká (ve volném překladu):

„Přímé propojení našich mozků s počítači a digitálním světem může být velmi nebezpečnou operací. Z jedné strany jsou zde ekonomické, empirické a psychologické problémy způsobené tím, že člověk získává jakési božské superschopnosti – pouhými myšlenkami může měnit realitu. Ale ze strany druhé se objevuje problém toho, že myšlenky lidí můžou být pomocí tohoto zařízení kontrolovány. Je zde tedy velká otázka, kdo bude tento systém kontrolovat?

Znamená to také, že svým způsobem už nebudeme lidmi, protože být člověkem vyžaduje existenci určité hranice oddělující mě a mojí mysl od reality na druhé straně. Kdo ví, co se stane jestliže tato hranice padne? Nyní sami sebe vnímáme jako bytosti existující v našich myšlenkách, v naší hlavě. Realita je venku za touto schránkou. Nejsme s ní bezprostředně spjatí. Neuralink to změní. Realita, zastoupená digitálním světem, bude díky interfejsu přímo v nás samých. A znovu se vracíme k politické „megaotázce“, kdo bude tento systém kontrolovat?

Zde musím dodat, že nevěřím snílkům, jako je Ray Kurzweil, kteří tvrdí, že všichni budeme součástí jakéhosi kolektivního vědomí. Je třeba se ptát, zda s takovou technologií budeme ještě svobodnými lidmi, nebo budeme nějakým způsobem ovládáni někým zvenčí bez toho, abychom si vůbec byli vědomi, že nás někdo ovládá. Odstrašujícím příkladem zde může být experiment, který provedli vědci v USA. Byli schopni se nějakým způsobem napojit na neurony testovaných jedinců tak, že mohli ovládat některá jejich rozhodnutí. Když se potom ptali testovaných subjektů, jak se při experimentu cítili, ti tvrdili, že se cítili svobodní, tak jako by to byla jejich vlastní rozhodnutí. Neměli ani ponětí, že byli nějakým způsobem ovlivněni nebo kontrolováni.“

Zde musím uvést svoji důraznou poznámku: V tomto s Žižkem jednoznačně nesouhlasím. Věnuji se tématu neurálních rozhraní již několik let a nikdy jsem na podobnou studii nenarazil. Odvážím se tvrdit, že momentálně neexistuje technologie, která by něco podobného na lidech dokázala. Jinak je tomu ovšem se zvířaty, konkrétně s krysami. Zde skutečně proběhly pokusy, kdy vědci pomocí různých neurotechnologických postupů byli schopni ovládat jejich pohyb. Můžete si o tom přečíst například zde nebo zde. To má ovšem velmi daleko k ovládání rozhodování lidí, o kterém mluví Žižek.

Žižek dále pokračuje:

„Shrneme-li to, musíme si uvědomit dvě věci: Za prvé to, že stojíme před branami radikální změny toho, co to znamená být člověkem. Podstata lidství se významně změní. Jedinec se bude muset vypořádat s tím, že je současně všemohoucí i nemohoucí. Všemohoucí proto, že bude moci bezprostředně myšlenkami ovládat realitu. Nemohoucí proto, že je neustále vystaven možným manipulacím z digitálního světa. Za druhé vidím nebezpečí v tom, že tyto potenciální nové formy kontroly nás můžou ovlivňovat takovým způsobem, že si dále myslíme, že jsme svobodní.“

Přednáška na Univerzitě ve Winnipegu:

Hned v úvodu záznamu přednášky na Univerzitě ve Winnipegu se dozvídáme, že Žižek k tématu neurálních rozhraní píše celou knihu. Ta vyšla v angličtině v roce 2020 pod názvem „Hegel in A Wired Brain“.

Poté Žižek vyslovuje, jednu po druhé, několik svých obav týkajících se rozhraní:

Tvrdí, že neurální rozhraní se může stát prostředkem k ještě většímu prohloubení toho, co nazývá špionážním kapitalismem (angl. surveillance capitalism) a může být nástrojem pro nové formy dominance a kontroly. Jde mu pravděpodobně o to, co zmiňoval v rozhovoru pro televizi RT, čili kdo mít kontrolu nad systémy neurálních rozhraní?

Druhou věc, o které mluví, nazývá pozitivním aspektem nedokonalosti. Cituje zde přímo Elona Muska, který se nejednou vyjádřil v tom smyslu, že díky neurálním rozhraním bude lidstvu umožněno překonat „bariéru“ řeči při komunikaci. Podle Muska řeč svým způsobem omezuje rychlost a efektivitu komunikace a rozhraní umožní jakýsi bezprostřední multimediální myšlenkový přenos mezi dvěma uživateli. Žižek tvrdí, že je to holý nesmysl, protože neexistuje myšlení bez řeči. Bez jazyka nemáme jak své myšlenky zformulovat. Právě jazyk jim dává smysl. Je tedy jakýmsi omezením, nedokonalostí, bez které se ale neobejdeme. Co více, podle Žižka je to právě tato nedokonalost, která nám umožňuje odhalit smysluplnost a dokonalost samotného myšlení. Ona nedokonalost je zde tedy pozitivním aspektem, ze kterého nelze zrezignovat.

Dalším problémem pro Žižka je to, že přímá neurální komunikace by podle něj díky Neuralinku ztratila individuálnost. Vysvětluje, že momentální vývoj v komunikaci jde směrem k většímu odcizení v tom smyslu, že přibývá nových vrstev mezi jejími aktéry, kteří nikdy nekomunikují přímo. Jde o jazyk, písmo, Internet a tak dále. Co se stane pokud, díky Neuralinku, tyto vrstvy zaniknou? Žižek k tomu uvádí několik trefných příkladů, mezi nimi zábavnou historku z filmu Čtyři svatby a jeden pohřeb, kdy herec Hugh Grant svým typickým způsobem lehce pomateného anglického nešiky vyznává lásku kolegyni Andie McDowell. Je to právě ten klopýtavý způsob jeho vyjádření, který postavu Andie ve filmu uhrane a díky němuž ona pochopí, že on ji skutečně miluje. Jen a pouze díky jeho nemotornému vyjadřování je Hugh schopen vyjádřit svou autentickou lásku k ní. Jak by podobná scéna vypadala v situaci, kdy by přenos této informace měl být zajištěn Neuralinkem, tedy šlo by o jakési dokonalé vyjádření bez oněch chyb a hloupostí, které říká Hugh Grant? Skončila by situace happyendem?

Jinak řečeno, podle Slavoje Žižka právě ony bariéry, nepřesnosti a individuálnosti v našem jednání a vyjadřování nás dělají lidmi. Tvrdí, že každá naše osobní komunikace je svým způsobem chybná, nedokonalá a právě díky tomu je autentická a lidská. Co se stane, pokud budeme schopni tyto nedostatky odstranit a komunikovat přímo a bez individuálních nedokonalostí?

Žižek jde však ve svém výčtu dále. Jeho následující poznámka se týká sexuality a naráží v ní znovu na konkrétní výrok Elona Muska, který někde uvedl, že díky Neuralinku budete moci sdílet své sexuální prožitky s jinými lidmi, kteří díky rozhraní budou moci prožít vaše sexuální zážitky přesně tak jako vy. Podle Žižka pak může sama sexualita ztratit svůj smysl, protože důležitými, možná nejdůležitějšími, součástmi celého sexuálního života jsou věci jako překonávání překážek při námluvách, dobývání partnerky nebo pocit, že se snažím o něco nemožného nebo zakázaného. Právě tyto překážky jsou zdrojem erotického vzrušení. Co se pak stane, jestliže díky Neuralinku z procesu odpadnou a s nimi i erotika jimi daná? „Co zůstane z naší sexuality?“ ptá se Žižek.

Poté zmiňuje jinou, dost zásadní věc, když tvrdí, že díky neurálnímu rozhraní ztratí jeho uživatelé svobodu myšlení, tedy naši nejzákladnější formu svobody. Každý člověk, ať už žije v jakémkoliv politickém systému a má jakékoliv sociální vztahy s okolím, je svobodný, pokud jde o jeho myšlenky. Každého jedince odděluje od reality a celého okolí určitá mezera. Já jsem tady u sebe, chcete-li, ve své hlavě. Můžu si myslet, co chci. Vše ostatní je venku, odděleno onou mezerou. Pokud ale jste bezprostředně spjatí s realitou díky Neuralinku, čili ovládáte ji přímo svými myšlenkami nebo komunikujete telepaticky s jinými jedinci, mezera zaniká. To může mít podle Žižka fatální následky. Zastánci transhumanismu a singularity (Žižek singularitou rozumí kolektivní vědomí, soubor zkušeností a vědomostí všech jedinců připojených díky neurálním rozhraním do společné domény či cloudu) podle Žižka tvrdí, že díky pozbytí se této svobody myšlení získáme jisté vykoupení z naší konečnosti a smrtelnosti, protože budeme mít možnost být součástí nesmrtelného kolektivu. Co více, jestliže se tímto způsobem vzdáme své subjektivní individuality a staneme se součástí oné singularity, čili nesmrtelného, nekonečného kolektivního bytí, staneme se v tomto smyslu součástí objektivní reality a tudíž se, podle oněch zastánců transhumanismu a singularity, o kterých Žizek mluví, staneme jakýmisi božskými bytostmi.

Žižek pak obšírně zakončuje svou přednášku a snaží se představit svůj pohled na to, jak bude vypadat pozice jednotlivce v kolektivu pomyslné singularity. Podle něj singularita bude určitou apokalypsou v tom smyslu, že zakončí jednu epochu a plně odhalí pravdu o té předchozí. „Jaká to ale bude apokalypsa?“ ptá se Žižek. Konečná apokalypsa, která bude znamenat „pouhou“ katastrofu, čili zánik lidí v jejich dnešní podobě (tak, jak tvrdí pesimisté singularity), nebo taková apokalypsa, která umožní povstání „vyšší verze pravdy“ pro lidstvo (jak tvrdí optimisté v čele s Rayem Kurzweilem)? Žižek říká, že se zde považuje spíše za optimistu a to z jediného důvodu. Soudí totiž, že jedinci v singularitě budou schopni zachovat určitý minimální odstup a zůstane jim zbytek individuality, díky tomu, co Sigmund Freud nazývá „nevědomím“ a Žižek popisuje jako určitý „virtuální soubor toho všeho, čím nejsem“. Tedy ta část naší osobnosti, kterou podle Žižka počítač není schopen žádným způsobem uchopit.

Další filozofické otázky

Přednáška Slavoje Žižka z Winnipegu je určitě vynikající a doporučuji ji zhlédnout. Nemohla však v padesáti minutách obsáhnout všechny filozofické otázky, které se v souvislosti s neurálními rozhraními nabízejí. Zkusme se tedy ještě zamyslet nad některými z nich.

V části, která byla věnována psychologii už jsme zmínili problém autenticity jednání, který se týká už rozhraní vyvíjených v současnosti. Ukazuje se totiž, že například robotické končetiny ovládané díky rozhraní fungují mnohem lépe, použijeme-li pro jejich ovládání strojového učení (machine learning). Zařízení pak funguje podobně jako napovídání textu v mobilních telefonech – předvídá pohyby svého uživatele. To pak ale znamená, že daný uživatel není tak úplně autorem toho, co dělá, čili se zde objevuje určitý problém se svobodnou vůlí.

Problém s autenticitou jednání se pak ještě prohloubí, pokud se dostaneme do fáze, kdy součástí rozhraní bude pokročilá umělá inteligence. Tedy jakási Alexa nebo Siri jako „kamarádka“ ve vaší hlavě, která má přístup ke všemu, co děláte a myslíte nebo dokonce může ovládat vaše tělo. Pěkně je to prezentováno třeba ve filmu Upgrade. Polský spisovatel Rafał Kosik, ve svém románu Mars prezentoval následující situaci: Jdete do práce, kterou buď nemáte rádi, anebo přímo váš zaměstnanec vyžaduje, abyste ji nevykonávali vy, ale vaše Alexa, protože ona ji vykoná mnohem lépe nebo rychleji. Přijdete tedy do práce, předáte Alexe kontrolu nad svým tělem, ona dělá, co je potřeba a vy si zatím, ve virtuálním světě ve vaší hlavě, děláte, co chcete – třeba ležíte někde na pláži nebo si užíváte s virtuálními společnicemi. To samozřejmě plodí celou řadu otázek o tom, kdo je pak odpovědný za vaše jednání, nebo jak někomu dokážete, kdo byl v nějakém rozhodujícím momentu u „kormidla“ vašeho těla.

Zajímavou záležitostí určitě bude také to, jak vlastně bude vypadat ona symbióza s umělou inteligencí, o které mluví Musk. Půjde o schizofrenní vztah dvou bytostí v jednom těle nebo spíše splynutí v jednu biologicko-digitální entitu? Nebo ona umělá inteligence bude přítomna jen někde na pozadí, čili si ji uživatel ani nebude uvědomovat?

Závěrem ještě zmiňme to, o čem byla řeč již v části o psychologii – konec reality pro uživatele pokročilého neurálního rozhraní. Považuji to za největší problém Neuralinku a jiných rozhraní, která se dostanou až na takovou úroveň, že budou moci dokonale ovládat všechny smysly i paměť svého uživatele. Díky rozhraní lidé ztratí možnost rozeznat, co je a co není reálné. Nebudou si moci žádným způsobem ověřit, zda to, co vidí, slyší nebo co si pamatují, je reálné nebo ne.

Asi posledním stadiem toho, kam až může dojít vývoj neurálních rozhraní, je digitalizace vědomí, o níž jsme se zmínili také už v první části této série článků. Jak by bylo možné se do tohoto stádia dostat, vysvětluje Joe Scott na YouTube. Jak pojmout tyto teorie z filozofického hlediska? Nemám ponětí… Představme si ale několik záležitostí, které by mohly být důsledkem něčeho tak radikálního, jako je digitalizace lidské osobnosti:

• zánik biologické podstaty lidí, čili konec rozmnožování pohlavní cestou, zánik pohlaví, sexuální orientace a sexu vůbec
• uzamčení do digitálního světa (výpočetního cloudu) anebo záměna biologických těl za robotická
• eliminování smrti

< Předchozí část

Následující část >

Předchozí díly seriálu Nejkontroverznější technologie v dějinách:

• 1. část – Psychologie
• 2. část – Sociologie
• 3. část – Etika

---

Přispějte prosím na provoz webu ElonX, aby mohl nadále zůstat bez reklam. Podpořte nás pomocí služby Patreon či jinak a zařaďte se tak po bok ostatních dobrodinců, kteří už finančně přispěli. Děkujeme!