Neuralink: Nejkontroverznější technologie v dějinách, 1. část – Psychologie

Zkuste se chvíli zamyslet nad tím, která momentálně vyvíjená technologie je nejkontroverznější. Pokud tedy jde o ty, o kterých veřejnost něco ví. Vojenští roboti? Zbraně nového typu? Umělá inteligence? Geneticky modifikovaní „lidé“? Nebo třeba sexboti? Asi vás na tomto místě nepřekvapí, když budu tvrdit, že nejkontroverznější vyvíjenou technologií jsou pokročilá neurální rozhraní, čili to, nad čím už od roku 2016 pracuje Neuralink.

O kontroverzích, které tato technologie pravděpodobně přinese, jsem psal už v některých předchozích článcích v rámci série Neuralink pod lupou, například v těch o budoucnosti a nebezpečích neurálních rozhraní. Tyto články ale zdaleka neobsáhly všechny problémy, které tato technologie může způsobit, proto přichází nová minisérie, která by měla být jakýmsi přehledem možných problémů spojených s neurálními interfejsy.

Původně zamýšlený delší článek se postupem času rozrostl až do šestidílné série. Témata jsou rozdělena podle oborů, kterých se týkají. Jejich roztřídění nebylo úplně snadné, protože některé z nich se prolínají. Etika je součástí filosofie, psychologie se v mnoha ohledech prolíná se sociologií, právo je zase úzce spojené s etikou. Některá témata tak budou zmíněna víckrát, ale pokaždé z trochu jiného úhlu pohledu. V daných kategoriích jsou jednotlivé problémy seřazeny od těch nejpravděpodobnějších nebo dokonce aktuálních, přes velmi pravděpodobné až po hypotetické, které by se teoreticky jednou mohly objevit, podaří-li se Neuralinku vyvinout pokročilé neurální rozhraní nebo chcete-li „neural lace“ z románů Iaina Bankse.

Minisérie je tedy rozdělena do pěti částí podle oborů:

• psychologie
• sociologie
• etika
• filosofie
• právo

V šesté části se pak ještě zamyslíme, co by se s tím vším dalo dělat, čili jak eliminovat nebo alespoň minimalizovat některé problematické důsledky rozhraní.

Minisérie úmyslně opomíjí fyziologické problémy, tedy záležitosti jako je biokompatibilita implantovaných částí nebo dlouhodobé účinky na fyzické zdraví uživatelů. Jde spíše o představení problémů na „vyšších úrovních“ existence člověka a společnosti.

Nutno zde ještě dodat, že účelem série není nikoho strašit nebo nějakým způsobem útočit na Neuralink. Jde o představení možných dopadů technologie invazivních neurálních rozhraní, přispění k lepší informovanosti veřejnosti a pokus o vyvolání diskuze, která by mohla přispět k větší bezpečnosti této technologie a k minimalizaci nebo snad i zamezení některých představených důsledků.

Každá technologie může být zneužita. Neuralink není výjimkou. Pevně věřím, že cílem Elona Muska, tak jako v jiných jeho společnostech, je přispění k lepší budoucnosti lidstva. Neuralink jistě přinese mnoho dobrého, ať už jde o léčbu neurologických onemocnění, navrácení nebo i vylepšení smyslů a motorických schopností, nebo nakonec možnost udržet krok s umělou inteligencí. Přinese ale také obrovské změny jak pro jednotlivce tak i pro celou civilizaci.

Psychologické dopady

Asi není úplně snadné si představit jaké to je, žít s elektrodami systému DBS (hluboké mozkové stimulace), kochleárním implantátem nebo systémem typu Utah Array v hlavě. Zde však máme k dispozici mnoho zkušeností jiných lidí, kteří s podobnými zařízeními žijí. Jak bude vypadat život s implantátem Neuralinku, můžeme zatím jen spekulovat. Zkusme si, částečně právě díky zkušenostem současných uživatelů, představit několik psychických problémů, které by se v souvislosti se zařízením Neuralinku mohly objevit.

Není vůbec jasné, jaké účinky bude mít už jen sama přítomnost základní verze interfejsu (bez umělé inteligence) v hlavě uživatele. Jaký si k němu uživatelé vytvoří vztah? V této otázce můžeme vycházet ze zkušeností pacientů s ECoG nebo DBS. Výborný článek na toto téma vyšel na webu magazínu Nature. Jsou zde uvedeny případy několika testovacích uživatelů nového systému monitoringu mozkové aktivity. Jde o elektrokortikografické (ECoG) elektrodové pole, které se používá pro detekování epileptických záchvatů. Jestliže zařízení zaznamená typickou mozkovou aktivitu předcházející záchvatům, aktivuje zvukový alarm, který upozorní pacienta, že by si měl vzít léky pro potlačení záchvatu.

Zkušenosti každého z šesti testovaných pacientů byly trochu jiné, ale nejzajímavějším případem byla bezpochyby „pacientka číslo 6“. Lékaři popisovali její vztah k interfejsu jako radikální symbiózu. Ona sama tvrdila, že se jednoduše stal součástí jí samé, její osobnosti. To by snad ještě bylo v pořádku, ale problém nastal v momentě, kdy firma, která zařízení vyvíjela, zkrachovala, a rozhraní mělo být pacientce číslo 6 odstraněno. Odmítala a vzdorovala tak dlouho, jak se jen dalo. Když jí byl implantát nakonec přece jen odstraněn, svěřila se Frederiku Gilbertovi, neuroetikovi z Tasmánské univerzity v australském Hobartu, který vedl výzkum s těmito pacienty, že ztratila samu sebe, část svojí osobnosti. Gilbert to komentoval slovy: „Bylo to více než jen zařízení. Firma, která rozhraní vyprodukovala, byla majitelem existence nové osoby, kterou stvořila.“

Co se týče zmiňovaného DBS (angl. Deep Brain Stimulation) čili hluboké mozkové stimulace, používané k léčbě Parkinsonovy nemoci nebo i jiných neurologických problémů, po implantaci tohoto zařízení se rovněž objevily různé psychické problémy. Výše zmíněný článek v časopisu Nature uvádí následující příklady:

• pacient, který po implantaci vykazoval sexuální hyperaktivitu
• jiný se stal hluboce apatickým
• ještě jiný propadl gamblingu a prohrál rodinný majetek

Jde ovšem jen o několik pacientů. Podle údaje z roku 2019 DBS už tehdy používalo více než 160 000 lidí. Objevují se však také případy, kdy pacienti tvrdí, že DBS změnilo jejich vnímání sebe samých. Jak uvedl jeden z nich v článku v Nature: „Přemýšlíte nad tím, kolik z toho jste vlastně ještě vy. Jsou to vaše myšlenky? Jak byste se zachoval bez přístroje? Cítíte se trochu uměle.“

Vrátíme-li se k pacientce číslo 6, musíme zmínit další z psychických problémů – závislost na interfejsu. Je zde určitě na místě srovnání s chytrými telefony, bez kterých se dnes už neobejdeme. Závislost na neurálním rozhraní však bude ještě mnohem hlubší. Půjde o symbiózu natolik úzkou, že život bez symbionta, pokud tak můžeme nazvat přístroj, bude jako život po ochrnutí nebo bez některého ze smyslů.

Závislost na interfejsu bude mít minimálně tři úrovně:

Za prvé – interfejsy budou používány, tak jako v případě pacientky číslo 6, pro léčebné účely. Budou pravděpodobně léčit některá neurologická onemocnění jako Parkinsonovu nemoc nebo epilepsii. Později je možné, že budou dokonce navracet smysly. Čili se objeví jakási „závislost“ na navráceném zdraví nebo smyslech. Rozhraní bude nezbytnou součástí uživatelova těla. Bez něj bude jeho kvalita života mnohem horší. Elon Musk na poslední prezentaci Neuralinku mluvil o tom, že interfejs bude možné odstranit. Dokonce ukázal laboratorní prase, které interfejs mělo, ale byl mu odstraněn bez zdravotních následků. Ale kdo by se chtěl dobrovolně zbavit zdraví nebo třeba navráceného zraku?

Za druhé – interfejs dobrovolně implantovaný přidá svým uživatelům v různých verzích rozličné funkce. Zde si lze představit například ovládání počítače myšlenkami, multimediální telepatii, vylepšení smyslů nebo koncentrace, streaming hudby a videa přímo do hlavy až po hodně teoretické, ale možná realizovatelné zpomalené vnímání času nebo upload schopností a dovedností. Pokud uživatel jednou okusí podobné věci, představa, že by se jich měl vzdát, bude asi nemyslitelná.

Za třetí – pokročilé rozhraní s umělou inteligencí a virtuální realitou, přinese uživateli šanci zcela opustit reálný svět plný problémů a plnit jeho přání ve virtuální realitě. Nabízejí se zde scénáře podobné těm v trilogii Matrix – lidé uzamčení (na rozdíl od Matrixu dobrovolně) v automatických kokonech, které obstarávají fyzické potřeby uživatele, jenž prožívá svůj „pohádkový život“ někde ve výpočetním cloudu. Více na toto téma můžete najít v mém nedávném rozhovoru se spisovatelem Rafałem Kosikem.

Vraťme se ovšem k trochu přízemnějším, méně pokročilým verzím neurálních interfejsů. Není známo, jaké dlouhodobé účinky může mít umělá stimulace mozku elektrickými impulzy z elektrod neurálního rozhraní. Těžko lze srovnávat Neuralink například s účinky elektrodových polí typu Utah Array, jejichž elektrody jsou implantovány jen do svrchních několika milimetrů mozkové kůry a jsou všechny soustředěny na malé ploše o rozměrech několika desítek milimetrů čtverečních. Neuralink má určitě větší ambice a bude chtít elektrody implantovat do větší hloubky a na mnoha místech. Nemůžou pak ale vlákna a impulsy z nich způsobit nějaké neurologické nebo i psychické problémy?

V lidském mozku se nachází téměř 100 miliard neuronů, kterých je mnoho typů. Mezi jednotlivými neurony daného typu však existují velké rozdíly v jejich aktivitě – některé jsou aktivní velmi často, jiné zřídka a ještě jiné prakticky mlčí. Neurovědci zatím nemají ponětí proč. Co se stane, jestliže implantujeme elektrodu mezi neurony, které se aktivují často a co jestliže ji vložíme mezi neurony, které mlčely? Co více – „rozlišení“ současných elektrod je takové, že každá elektroda svými elektrickými impulzy najednou aktivuje klidně i stovky neuronů kolem sebe. Mezi nimi aktivní i mlčící. Nezpůsobí elektrody Neuralinku v mozku chaos?

Problémem evidentně může být také psychické zdraví uživatele před implantací. Jestliže bude rozhraní implantováno psychicky zdravému jedinci, bude to asi pro něj menší psychická zátěž, než pro člověka nějakým způsobem psychicky nestabilního. Jde zejména o dobrovolné a zdravé komerční uživatele, kteří by chtěli interfejs na vlastní žádost. Je rozumné něco takového implantovat do hlavy komukoliv nebo zákazníci budou muset projít nějakou formou psychotestů? Bude probíhat nějaký výběr vhodných uživatelů?

Půjdeme-li dále v našem seznamu možných psychických problémů souvisejících s rozhraním Neuralinku, dostáváme se už na trochu vyšší úroveň, tedy záležitosti, které se nějakým způsobem začínají otírat o etiku nebo filosofii. Jde na přiklad o problém autenticity jednání. Nejde zde ještě o problémy s obecnou umělou inteligencí, ke kterým se dostaneme v následující části série, ale o uplatňování algoritmů strojového učení na rozhraních vyvíjených v současnosti. Vynikajícím způsobem je tato záležitost popsána ve výše zmíněném článku na webu Nature. Podle jeho autora, Liama Drewa, strojové učení v poslední době výrazně urychlilo vývoj neurálních rozhraní. Drew píše: „Software pro strojové učení se učí analyzovat data generováním algoritmů, které nelze předvídat a které je obtížné nebo nemožné pochopit. Tím se zavádí neznámý a možná nezodpovědný proces mezi myšlenkami člověka a technologií, která jedná jeho jménem. Protézy fungují efektivněji, když jsou určité výpočty ponechány na zařízení, které předpovídá, co bude uživatel dělat dál. To ale také znamená, že většinu toho, co robotické končetiny dělají, ve skutečnosti nerežíruje uživatel.“ Jak se uživatelé psychicky srovnají s tím, že to už nejsou tak úplně oni, kdo ovládají své jednání – že už jejich jednání není autentické?

Elon Musk tvrdí, že pomocí interfejsu Neuralinku by jednou bylo možné léčit dokonce i psychické problémy, jako je deprese. Je otázka, kam až by neurotechnologie mohla zajít, co se týče psychických změn osobnosti. Je možné, že se bude dát pomocí interfejsu měnit momentální nálada, eliminovat bolest nebo vyvolávat stavy euforie, podobně jako pomocí drog. Půjdeme-li dále tímto směrem, vypadá to, že pomocí pokročilých rozhraní by bylo možné i zcela změnit osobnost uživatele. Nebaví vás být nespokojeným morousem? Předělejte se na veselého vtipálka. Budete to ale pak vůbec vy, nebo kdo to vlastně bude? A co když se interface pokazí? Nebo vás přestane bavit být veselým vtipálkem, tak se předěláte na tichého intelektuála? Takový systém by se dal docela dobře využít taky pro nápravné účely – místo zavírání trestaných do vězení, by byli potrestáni implantací rozhraní a změnou osobnosti.

Naučíme-li se pomocí rozhraní měnit osobnost uživatele, nebude daleko ke změnám paměti. Nebo také mazání či dokonce implantaci vzpomínek. Něco podobného, o čem psal Philip K. Dick v povídce „Zapamatujeme si to za vás se slevou“, známější asi díky jejímu filmovému zpracování pod názvem Total Recall. Proč byste utráceli za dovolenou, když můžete po práci zajít do salónu, kde vám se slevou implantují vzpomínky na dovolenou „vašich snů“? Ale co když se pak v tom trochu ztratíte a nebudete už schopni rozeznat, které vaše vzpomínky jsou reálné a které ne? Arnold Schwarzenegger se v tom ve filmu zamotal tak, až z toho byla revoluce v kolonii na Marsu.

Jedním z psychologicky nejzajímavějších problémů bude určitě spolupráce s umělou inteligencí v rámci pokročilého rozhraní. Představte si, že máte v hlavě jinou myslící a možná i cítící bytost, která neustále monitoruje vše, co děláte, co cítíte a o čem přemýšlíte. Jaký vliv může něco takového mít na psychiku uživatele, můžeme asi jen těžko odhadnout. Budou mít uživatelé alespoň možnost nastavit nějaká pravidla, co všechno jeho umělý symbiont může vidět? Bude ho moci „vypnout“ nebo „uspat“? Nebo bude prostě potřeba si zvyknout na to, že soukromí už neexistuje? Například spisovatel Rafał Kosik v našem rozhovoru tvrdil, že hranice soukromí v budoucnosti bude čím dál méně patrná, až nakonec úplně zanikne. To samé říká o hranici mezi stroji a člověkem – je možné, že zanikne a nebude již možné říci, kde končí člověk a začíná stroj. Je tedy možné, že symbióza s umělou inteligencí dojde až tak daleko, že ze dvou bytostí bude jedna?

Pohybujeme se na čím dál více teoretické rovině a dostáváme se, myslím, k jednomu z největších problémů – konci reality. Pokročilé neurální rozhraní, kterým můžete vyslat jakýkoliv vjem nebo informaci do mozku, způsobí to, že jeho uživatel už nikdy nebude mít možnost rozeznat, co je reálné a co ne. Každý z elektrických impulsů v jeho mozku může pocházet ze zařízení. Nic z toho, co vidí, cítí nebo myslí, nemusí být reálné. Obávám se, že život s vědomím něčeho takového bude z psychického hlediska velmi obtížný, ne-li nemožný. Rafał Kosik ve vzpomínaném rozhovoru tvrdí, že realita už prostě nebude mít žádný význam, bude se počítat jen efekt, míra uspokojení potřeb jedince.

Asi by se dalo říct, že poslední stadium vývoje neurálních rozhraní je digitalizace osobnosti. Pokud znáte seriály jako Altered Carbon, Black Mirror nebo Upload, není to pro vás nic nového. Existují teorie, které tvrdí, že je možné zdigitalizovat lidské vědomí a nahrát osobnost člověka do počítače. Pokud nemáte problém s angličtinou, tak velmi dobře toto téma zpracoval Joe Scott ve svém videu nazvaném „4 Steps to Immortality: From Neuralink to Nirvana“ (4 kroky k nesmrtelnosti: Od Neuralinku k nirváně). Jeden z velkých oříšků k rozlousknutí zde bude představovat takzvaný problém teleportace nebo kopírování. Jde o to, neudělat jen kopii osobnosti, ale přetransformovat vědomí z masa a kostí do digitální podoby. Kopie by znamenala smrt originálu. Joe Scott navrhuje proces o čtyřech krocích:

1. Pokročilé neurální rozhraní
2. Záměna neuronů v mozku za umělé sítě
3. Vybudování virtuálního světa
4. Přenesení osobnosti do virtuálního světa

A co z toho? Nic menšího než nesmrtelnost. Tedy alespoň dokud budou fungovat servery nebo digitální světy, kam vás zkopírují. Amazon AWS? Microsoft Azure? Google Cloud? Kdo ví…

Jaké by mohly být psychické důsledky něčeho takového (pokud se zde ještě dá mluvit o psychice a psychologii), nechci vůbec polemizovat. Celkem vtipně je to představeno ve zmíněném seriálu Upload na Amazon Prime a dost hrůzostrašně v některých dílech Black Mirror na Netflixu.

Zda neurální interfejsy dojdou až tak daleko, samozřejmě nemůžeme dnes vědět. Například futurolog Ray Kurzweil tvrdí, že je to nevyhnutelné a k tomu dodává, že by to mohlo být už někdy kolem roku 2039.

Neurální rozhraní mají v budoucnosti, mimo jiné, také léčit některé psychické problémy. Vypadá to ale, že by samy mohly mnohé z nich způsobit. Myslím, že jedním z důsledků vývoje této technologie, bude vznik nové vědecké disciplíny, kterou bychom snad mohli nazvat psychokybernetikou. Půjde o obor na pomezí psychologie, medicíny a kybernetiky, který se bude zabývat vlivy pokročilých neurotechnologií na na jedince. Kromě samotných rozhraní zde půjde také o postupující digitalizaci a kybernetizaci lidského vědomí a osobnosti.

Následující část >

---

Přispějte prosím na provoz webu ElonX, aby mohl nadále zůstat bez reklam. Podpořte nás pomocí služby Patreon či jinak a zařaďte se tak po bok ostatních dobrodinců, kteří už finančně přispěli. Děkujeme!