Neuralink pod lupou #10: Nebezpečí neurálních rozhraní, část 2.

V předchozím článku jsme se zabývali problémy, se kterými se budou potýkat neurální interfejsy v prvních fázích jejich vývoje. V počátcích půjde zejména o biokompatibilitu implantovaných částí a jejich invazivnost pro lidský organizmus. Po vyřešení těchto problémů pak bude potřeba zajistit kybernetickou bezpečnost celého systému, který má umožnit připojení osobnosti do Internetu a vytvoření sítě, která by se dala nazvat jako „Internet of Minds“, neboli Internet myslí.

I když už i tyto problémy se nám dnes zdají jako z vědecko-fantastické literatury, je to teprve počátek. S dalším vývojem rozhraní přijdou mnohem větší a komplexnější problémy, které zasáhnou celou civilizaci. O nich pojednává následující text.

Bezpečnost rozhraní úrovně „neural lace“

Pojďme se zkusit zamyslet nad tím, co se stane s lidmi a civilizací v případě, že se Neuralinku nebo někomu jinému podaří vyvinout to, co Elon Musk nazývá „neural lace“ čili nejpokročilejší verzi neurálního rozhraní, o které jsem psal v poslední části článku o budoucnosti této technologie. Nechci se zde zabývat tím, zda nás takto pokročilé rozhraní ochrání před dominancí umělé inteligence, jak to tvrdí Elon, o to v tomhle textu nejde. Pokusím se jen uvést co nejvíce příkladů toho, jak velký vliv může takové zařízení mít na člověka a co negativního z toho může plynout.

Domnívám se, že díky neurálním interfejsům vznikne nová mezioborová vědecká disciplína, kterou bychom mohli nazvat například psychokybernetikou. Půjde o jakési sloučení kybernetiky, medicíny a psychologie a bude se zabývat vlivy neurálních rozhraní na jedince.

Je docela pravděpodobné, že z takovéhoto rozhraní nebude možné rezignovat. Když už vám ho jednou nainstalují, bude to navždy. Rozhraní se „zahnízdí“ a jeho odstranění bude příliš nebezpečné pro organizmus i psychiku jedince.

Globální společnost bude rozdělena na dva světy – superinteligentní nositele rozhraní a zbytek. Jaké něco takového může mít sociální důsledky, si vůbec netroufám odhadovat.

Virtuální realita v hlavě

Představte si, že máte zařízení, které je natolik sofistikované, technologicky vyspělé a tak dokonale propojené s vaším mozkem, že vám do hlavy může poslat jakýkoliv smyslový vjem nebo jakýkoliv pocit. Vše, co si můžete představit nebo co si ani představit neumíte. Pokud si uvědomíte, že skutečně vše, co vnímáte smysly nebo vše co si myslíte, co si pamatujete a co cítíte, je v mozku reprezentováno akčními potenciály neboli elektrickými impulzy přenášenými neurony, zdá se, že je to skutečně možné. Můžete mít ve své hlavě ultimátní virtuální realitu generovanou neurálním interfejsem.

To může být z určitého úhlu pohledu jistě celkem zajímavé a příjemné, ale musíme si uvědomit následující – pokud můžeme cokoliv v mozku zfalšovat, nic už pro nás nikdy nebude reálné. V momentě, kdy si necháte nainstalovat „neural lace“, znamená to pro vás konec reality. Nemáte už žádnou možnost ověřit, co je reálné a co ne. Cokoliv může být jen hrou elektrických impulzů ve vaší hlavě. Můžete namítnout, že rozhraní se dá vypnout nebo dokonce trvale odstranit. Dobrá, ale co když i ono vypnutí a nebo odstranění bylo také pouhou iluzí? „Neural lace“ znamená pro nositele konec reality. Jaké něco takového může mít psychologické, sociální, filozofické či jiné důsledky, se až bojím pomyslet. Příkladem může být právo a soudnictví – nemáte žádnou možnost někomu něco dokázat, neboť cokoliv může být pouhými vzruchy ve vaší nebo něčí jiné hlavě. „Neural lace“ znamená konec práva, justice a spravedlnosti.

Pokud si pamatujete film Total Recall s Arnoldem Schwarzeneggerem v hlavní roli, tak víte, že pomocí neurálního interfejsu můžete měnit nejen to, co zrovna prožíváte, ale také to, co už jste prožili. Tedy vlastně neprožili. Můžete kompletně přetvořit nebo v podstatě implantovat jakékoliv vzpomínky. Nejsem si jistý, jak se vyrovnat s tím, že ani to, co si pamatujete, nemusí být vůbec reálné. Arnold jako Quaid se s tím ve filmu vyrovnával dost těžce.

Jestliže trochu přibrzdíme a necháme ultimátní virtuální realitu na chvíli stranou, je zde také takzvaná realita rozšířená. Jejím příkladem z dneška může být hra Pokémon Go nebo třeba chytré brýle zvané Focals společnosti North Inc., o kterých jsme už psali. Rozšířená realita v podání pokročilého neurálního interfejsu však vypadá trochu jinak. Bydlíte ve starém paneláku, ale spíše by se vám líbila milionářská vila? Proč ne? Prostě si to v hlavě nastavíte. Nebo spíše požádáte vašeho inteligentního asistenta, aby to udělal za vás. Stejně tak si můžete „předělat“ vaše auto, partnera nebo třeba přidat virtuálního psa, po kterém nebudete muset uklízet to, co byste venku uklízeli po normálním Alíkovi. To vše můžete samozřejmě sdílet přes Internet se všemi ostatními, ti buď přijmou vaše nastavení reality nebo zůstanou u té původní anebo si vytvoří svoji vlastní. Můžete třeba sedět s kamarády u jednoho stolu někde na pivě a každý z vás sedí v úplně jiné hospodě. Nejde o kompletní virtuální realitu, jen částečnou, ale výsledek je stejný – nevíte, čemu věřit, co je reálné a co ne.

Teď si představte, že reklamní firmy budou mít přístup k této technologii a vy nebudete moci je filtrovat, nebo třeba za nějakou odměnu od těch firem filtry vypnete a necháte si ve vaší rozšířené realitě zobrazovat jejich reklamy. Ty pak budou moci být kdekoliv – ve vašem okolí, u vás doma nebo třeba i ve vašich snech. Co více, budou moci ovlivňovat nejen to, co vidíte nebo vnímáte jinými smysly, ale budou moci také ovlivňovat vaši náladu, pocity nebo vzpomínky.

Ve světě s neurálními interfejsy už to nebudeme my, kteří se přizpůsobují realitě, ale realitu si přizpůsobíme podle svých přání. Bude to sice realita umělá, ale bude k nerozeznání od té původní.

Útěk do virtuální reality a život ve snu, ve kterém můžete být kýmkoli nebo čímkoli jiným a můžete ho klidně „snít“ s jinými reálnými lidmi, bude jistě velkým lákadlem a velkým nebezpečím. Proč žít v normální realitě, když můžete strávit celý život ve světě kouzel? Naskýtá se zde možnost uložit svoje tělo do nějakého kokonu podobně jako ve filmu Matrix, napojit se na nějaký automatický vyživovací systém a opustit realitu nadobro. Ve své nové „realitě“ si dokonce můžete nastavit úplné zapomenutí na realitu původní a nebude se vám už ani stýskat po „domově“.

Obchod s realitou

Jestliže se podaří vymyslet nějaký způsob, jak ve světě pokročilých neurálních rozhraní rozpoznat, co je a co není reálné, skutečné věci mohou získat novou hodnotu. Jistou možností, jak rozeznat věci reálné, by zde mohlo být využití lidí, kteří rozhraní nikdy neměli. Jak prohlásila Valerie, jedna z postav románu Mars polského spisovatele Rafała Kosika: „Předstírat se dá cokoliv, ale skutečný život je dnes jedinou opravdovou hodnotou.“ Ve světě, kde můžete zfalšovat jakékoliv prožitky, mají reálné zážitky a emoce zcela jinou cenu.

Jenže máte-li neurální interfejs, nemusíte nic prožívat sami. Můžete si reálné zážitky a emoce kupovat od někoho jiného a prožívat je s ním. Anebo si je třeba můžete přehrávat z internetové půjčovny typu dnešních streamovacích služeb. Znamená to de facto, že vznikne trh s reálnými zážitky a emocemi. Budete si moci prožít něčí svatbu, nebo narození prvního dítěte, sexuální zážitky nebo třeba i depresivní stavy, vše podle libosti. Budou se ale v takovém světě ještě lidé snažit prožít něco svého, originálního? Už dnes většině lidí stačí sednout si doma k televizi a prožívat emoce s hrdiny svých oblíbených seriálů…

Podobný trh s realitou může mít ještě jiný důsledek – závislost na emocích. Jestliže bude možné prožít kdykoliv jakékoliv emoce, třeba i velmi siné zážitky jako permanentní extázi nebo drogové jízdy narkomanů, bude jistě možné si na těchto praktikách vypěstovat silnou závislost. Se závislostí bude samozřejmě také růst chuť k dalším a ještě intenzivnějším prožitkům a situace může skončit tragicky. Co udělá neustálé prožívání intenzivních emocí s lidskou psychikou, můžeme v této chvíli jen spekulovat, ale nezdá se mi, že by to byl nejzdravější životní styl.

Ztráta soukromí, vlastní osobnosti a individuality

Máte-li v hlavě inteligentního asistenta, jste pod jeho neustálým dohledem. Ve dne v noci sleduje vaše životní funkce, to co děláte, co si myslíte a co cítíte. Ví o vás úplně všechno. Neurální rozhraní znamená konec soukromí. K tomu jste ještě permanentně připojeni k Internetu a můžete s jinými lidmi sdílet každý aspekt vašeho života, tak jak to teď děláte na sociálních sítích.

Tak jako dnes jsou na Instagramu filtry, které vyhlazují vrásky, přidávají pihy, mění barvu očí nebo nějak jinak upravují skutečnost, s neurálním rozhraním budete moci upravovat prakticky vše, co si jen dokážete představit, a to nejen na Internetu, ale i v „normálním“ životě. Budete moci uměle upravovat svoji náladu nebo vyvolávat jakékoliv emoce. Můžete klidně prožít celý život absolutně šťastní bez jakéhokoliv reálného důvodu. Můžete také změnit svoji osobnost – narodil(a) jste se jako melancholický introvert? Můžete se změnit v energického bouřliváka. Dočasně nebo i na pořád. Anebo se můžete měnit každý týden. Neurální rozhraní tak vlastně znamená ztrátu osobnosti, alespoň tedy té původní.

Nepřetržité připojení k Internetu a neustálé sdílení svých emocí a prožitků s miliony jiných lidí a inteligentních asistentů může mít za důsledek jednak ztrátu individuality, ale také vznik něčeho, co by se dalo nazvat globálním mozkem. V seriálu Star Trek vystupuje mimozemská rasa Borgů. Jde o společenství jednotek (ne jedinců), které jsou neustále propojené mezi sebou. Největším trestem pro ně je, když jsou odpojeni od zbytku svého „úlu“. Cítí pak totální osamělost a ztrácejí smysl života. Jediným cílem je se znovu připojit. Něco podobného způsobí neurální rozhraní. Bude naprosto nemyslitelné být nepřipojený ke zbytku světa. Neurální interfejs způsobí ztrátu individuality.

Na druhou stranu takovýto globální mozek, neboli společenství mnoha miliónů superinteligentních jednotek, čili lidí a jejich asistentů, bude jistě úžasným útvarem. Jeho souhrnná inteligence bude nepředstavitelná.

Zánik fyzického kontaktu mezi lidmi

Troufám si tvrdit, že neurální interfejsy budou znamenat konec fyzického kontaktu mezi lidmi. To může samozřejmě přinést velké populační problémy, rozmach umělého oplodnění a nebo dokonce nutnost vývoje umělých mimotělních způsobů rozmnožování, jaké popisoval například Aldous Huxley ve svém románu Konec civilizace: aneb Překrásný nový svět nebo jaké byly k vidění ve filmu Sexmise.

Jestliže bude možné prožít jakékoliv sexuální praktiky s kýmkoliv ve virtuální realitě ve své hlavě, proč se pouštět do věcí, jako je randění, dobývání svojí vyvolené nebo manželství? A přitom ještě dobrovolně podstupovat riziko odmítnutí? Příliš námahy za nevelký zisk. A když už prožívat sexuální kontakt s fyzickou osobou, tak proč ne raději bezkontaktně s použitím interfejsu a mnohem intenzivnějšími prožitky?

Neurální rozhraní se mohou přičinit k vymření lidstva. Nebo alespoň té jeho části, která je bude používat.

Kriminalita a právo

Je otázkou, jak bude vypadat právo a spravedlnost ve světě, ve kterém můžete cokoliv nafingovat a nemáte žádnou možnost dokázat, co je skutečné a co ne. Zkusme se zamyslet nad tím, jaké nové formy kriminality by mohla přinést neurální rozhraní.

Je potřeba si zde znovu uvědomit, že pomocí rozhraní můžete kompletně ovládat tělo i mysl jeho nositele. Poslat mu do hlavy jakýkoliv smyslový vjem nebo pocit, změnit jeho paměť nebo ho dokonce ovládat jako loutku. Každý příkaz, který vydává mozek tělu, můžete vydat na dálku po síti. Z toho důvodu bude samozřejmě pro nositele rozhraní životně důležité mít svůj interfejs co nejlépe zabezpečený tak, aby se mu nikdo nemohl neoprávněně „nabourat do hlavy“. Jak ale samozřejmě víme z počítačové praxe, žádné zabezpečení není dokonalé a hackeři jsou čím dál důmyslnější. A co teprve hackeři s vlastním neurálním rozhraním a superinteligentním asistentem?

Dostane-li se hacker do interfejsu nějakého člověka, může převzít ovládání jeho fyzické schránky. Bude moci za něj pohybovat jeho tělem nebo mluvit. Může tak vykonat jakýkoliv zločin pomocí „loutky“, kterou ovládá. Může klidně někoho zabít nebo také i „zasebevraždi“ toho, koho ovládá. Prostě s ním skočí z okna, zastřelí se, nebo cokoliv jiného.

Stejně tak jestli zločinec obejde zabezpečení rozhraní, může ovládnout kromě těla také i mysl své oběti. Může mu odposlouchávat myšlenky nebo číst paměť a může ty myšlenky nebo paměť také změnit. Napsat aplikaci, která bude sama vyhledávat špatně zabezpečené jedince a vytahovat jim z hlavy různá hesla nebo jiné informace jistě nebude problém. Hacker to může taky prostě přikázat svému inteligentnímu asistentovi. Dokážu si také představit například reklamní aplikace, které budou zapisovat do vědomí nechráněných jedinců, že si musí koupit nějaký produkt.

Zajímavou koncepci hackerských postupů prezentuje Rafał Kosik ve vzpomínaném románu Mars. Chce-li dnes hacker provést například nějaký útok na tajnou vládní databázi, musí to udělat tak, aby po sobě nezanechal stopy anebo alespoň tak, aby bylo co nejtěžší ho zpětně vypátrat. To znamená, že nemůže provést útok ze svého počítače, ale musí se připojit do nezabezpečeného počítače někoho jiného. A z něho pak nejlépe na ještě další počítače, až je řetězec natolik zamotaný, že se k němu zpětně nedopátrají. Stejný postup používá hacker ve zmíněném románu, s tím rozdílem, že neskáče z počítače na počítač, ale z hlavy do hlavy. Teď ovšem přichází to nejzajímavější. Jak nejlépe zajistit, aby se z jedné zhackované hlavy policie nedostala do druhé a nevypátrala viníka? Je to jednoduché – ona hlava musí zemřít dříve, než se k ní policie dostane. Tím se přeruší řetězec napadených loutek a hacker zůstane nevypátraný. Ale nejde zde o to přímo dotyčného jedince zabít – hacker je hacker, není to vrah. Jde o to najít jedince, který je těsně před smrtí. A tak se v hackerském prostředí zrodí černý trh s těžce nemocnými pacienty a nebo sebevrahy stojícími na parapetu, kteří mají špatně zabezpečená neurální rozhraní.

V souvislosti s neurálními interfejsy a právem se také nabízí otázka odpovědnosti za eventuální zločiny. Jestliže máte v hlavě počítač s inteligentním asistentem, který může ovládat všechno, co děláte, kdo nese odpovědnost za eventuální spáchaný zločin? Jste to vy, nebo asistent, nebo snad oba? Vždycky můžete shodit svou vinu na asistenta. Anebo třeba hackera, který po sobě dobře zametl stopy. Může vám asistent potvrdit alibi? Anebo můžete vy jeho donutit, aby to udělal proti jeho vůli? Bude možné nějak dokázat, kdo podnikl akci, kterou vykonalo vaše tělo?

Shrnutí

Zde jsou tedy problémy, které může přinést technologie pokročilých neurálních rozhraní:

• ztráta reality, nemožnost rozlišení, co je a co není skutečné
• manipulace s realitou
• ztráta soukromí
• ztráta individuality
• ztráta původní osobnosti
• zánik fyzického kontaktu mezi lidmi
• neurální kybernetická kriminalita:
  • nemožnost cokoliv dokázat pachateli
  • násilné převzetí fyzické schránky nositele
  • zabití na dálku
  • násilné převzetí mysli nositele
  • manipulace s pamětí
  • problémy s odpovědností za zločiny

Co s tím?

Jaké je řešení problémů, které přijdou s vývojem neurálních rozhraní? Nemám ponětí. Je ovšem několik věcí, které by mohly pomoci:

Za prvé:

Velkou chybou je myslet si že to vše je ještě daleko, někde v románech science fiction. Svým způsobem se dá říci, že to vše už se děje. Čas pokročilých neurálních interfejsů a umělé inteligence je mnohem blíže, než si myslí většina populace. Jde o to, že už teď velká spousta největších odborníků v mnoha různých oborech dělá vše pro to, aby ta doba přišla co nejrychleji. Obrovské sumy jsou už mnoho let investovány do vývoje umělé inteligence. Zabývají se jí nejbohatší firmy planety – Apple, Google, Tesla, Facebook, Amazon, Alibaba a mnohé další. Stejně tak v poslední době velké peníze jdou do výzkumu neurálních rozhraní, čehož je nejlepším příkladem sám Neuralink. Jak už jsem psal v předchozím článku, není otázkou, co je možné, ale kdy to bude možné.

Pro názornost bych zde chtěl uvést několik předpovědí futurologa Raye Kurzweila, který podobné odhady zveřejňuje už mnoho let a má v nich neuvěřitelnou úspěšnost přes 80 %. Více si o nich můžete přečíst v angličtině zde.

2025: Příchod pokročilých nanotechnologií.

2029: Počítače budou schopny projít Turingovým testem podle pravidel sázky mezi Kurzweilem a jeho přítelem Mitchem Kaporem. Znamená to, že počítače budou inteligentní jako lidé a budou mít emoce.

2034: Příchod pokročilého neurálního interfejsu typu „neural lace“ založeného na nanotechnologii.

2039: Bude umožněna digitalizace lidského vědomí.

2045: Technologická singularita – pokrok bude natolik rychlý, že jediným způsobem jak udržet krok s inteligentními počítači, bude symbióza s nimi.

Jistou šancí na řešení problémů, které přinese technologie neurálních interfejsů, je tak umělá superinteligence, která zdá se, přijde dříve.

Za druhé:

Velmi vážným prvkem vývoje neurálních rozhraní bude odpovědnost výrobců. Jestliže umělou inteligenci a „neural lace“ vyvinou firmy, které dobře rozumí, jakou hrozbou tyto technologie můžou být, a vynaloží tak maximální snahu, aby byly co nejbezpečnější, tak je zde určitá naděje. Jestliže umělou inteligenci nebo neurální technologie vyvine a bude vlastnit třeba čínská Alibaba, tak to máme spočítané…

Za třetí:

Veledůležitá bude potřebná legislativa, regulace a dozor vládních a nevládních organizací. Pokud dovolíme mezinárodním korporacím, aby si dělaly, co chtějí, může se nám to krutě vymstít. Problémem však může být, že vládní orgány obvykle nestíhají držet krok s technologickým vývojem a fungují pomalu. Rychlost vývoje se přitom neustále zvyšuje.

Poznámka:  Tímto dílem končí náš pravidelný seriál Neuralink pod lupou. K této společnosti se však v budoucnu určitě ještě vrátíme, akorát už to nebude v rámci pravidelných článků.

< Předchozí část

Následující část >

Předchozí články ze série Neuralink pod lupou:

• #1: Seznamte se s Neuralinkem
• #2: Prezentace prototypu implantovatelného čipu N1
• #3: Jednotlivé komponenty prototypu N1
• #4: Klíčové osobnosti Neuralinku
• #5: Historie mozkových rozhraní
• #6: Současnost mozkových rozhraní
• #7: Konkurenční projekty
• #8: Budoucnost neurálních rozhraní
• #9: Nebezpečí neurálních rozhraní, část 1.