Neuralink pod lupou #9: Nebezpečí neurálních rozhraní, část 1.

Někdy v roce 2017, když jsem dočetl rozsáhlý článek o Neuralinku na blogu Tima Urbana, mě dost zaskočila jedna věc – v jeho textu není prakticky nic o nebezpečích, která by se mohla kvůli neurálnímu rozhraní objevit. Článek představuje hlavně pozitiva celého projektu a opomíjí negativní stránky. Zdálo se mi natolik důležité tato nebezpečí ukázat širší veřejností, že jsem hned začal uvažovat, jak to udělat. Napsal jsem tehdy docela dlouhý komentář pod Timovým textem, ale ten mezi spoustou jiných komentářů jeho širokého publika, celkem zapadl. Začal jsem tedy myslet o vlastním blogu, ale později z nápadu sešlo. Když se naskytla příležitost začít psát pro ElonX, neváhal jsem, a tak se dnes konečně dostáváme ke článku, který je důvodem napsání celé série.

Jde mi především o kyberneticko-psychologická nebezpečí neurálních rozhraní, ale pokusím se při té příležitosti zamyslet nad všemi úskalími, která tato technologie s sebou přináší. To znamená také bezpečnost zdravotní nebo různé sociální, etické a právní důsledky.

Musím zde na začátku doporučit čtenářům, kteří nečetli předchozí díl této série, aby tak pokud možno učinili. Jinak riskují, že ne vše v tomto článku jim bude dávat smysl. V minulém díle jsem se pokoušel ukázat, jak by mohla vypadat pravděpodobná budoucnost vývoje neurálních rozhraní až do 40. let 21. století, kdy by tato technologie mohla umožnit lidem splynout s počítači a umělou inteligencí.

Bezpečnost rozhraní N1

Biokompatibilita

Největším problémem, který musí tým Elona Muska vyřešit hned na počátku vývoje rozhraní, je jeho kompatibilita s prostředím lidského těla. Všechny implantované části musí vyvolávat co nejmenší nebo nejlépe žádnou imunitní reakci organismu nositele. Jak říká Vanessa Tolosa, šéfka skupiny neurálního rozhraní v Neuralinku (což je tým, který se ve firmě zabývá materiálovým inženýrstvím a vývojem biokompatibilních materiálů pro implantované komponenty systému), jde o to, aby sondy byly prakticky neviditelné pro organismus.

Mluvíme-li o implantovaných částech rozhraní, jde o:

• indukční cívku pod kůží za uchem
• drátky vedoucí pod kůží s vlasy od cívky k čipu N1
• čip N1 implantovaný do kruhového otvoru v lebce
• vlákna s mikroelektrodami vedoucí od čipu N1 do mozkové kůry

Podkožní implantáty

Co se týče částí nacházejících se pod kůží na vnější straně lebky, tedy indukční cívky a drátků vedoucích do čipu N1, ty pravděpodobně nebudou velkým problémem. Prostředí organismu zde není tak nehostinné a už vůbec ne tak citlivé jako mozková tkáň. V dnešní době už existuje mnoho různých zařízení, která jsou implantována pod kůži. Nejde mi zde samozřejmě o piercing nebo podobné „zkrášlovací“ praktiky, kdy se pod kůži vpichují šperky z kovů, které jsou prakticky inertní pro lidské tkáně, ale spíše o počítačové čipy nebo jinou elektroniku.

Prvním, kdo si takový čip implantoval, byl v roce 1998 profesor Kewin Warwick, přezdívaný Kapitán Kyborg. Jeho implantát dokázal ovládat dveře, osvětlení, vytápění a další počítačem řízené systémy, ke kterým se Warwick přiblížil. Jinými podobnými projekty byly například čip sledující krevní obraz, nebo čip, který slouží k otevírání Tesly. Uvědomíme-li si, že každý den jsou tisíce podkožních identifikačních čipů implantovány psům, kočkám nebo i jiným zvířatům, která s nimi pak žijí celý život, vypadá to, že tuto technologii máme zvládnutou.

Pozitivním aspektem systémů implantovaných pod kůži, je jejich poměrně snadná výměna nebo oprava. Nejsou potřeba žádné vážnější operace, pouze eventuální řez kůží.

V lebce a pod lebkou

Medicína má rovněž již mnoho zkušeností s různými biomechatronickými nitrotělními implantáty, jako jsou umělé srdeční chlopně nebo celá srdce a kardiostimulátory. Mozkové implantáty také nejsou ničím novým – kochleární sluchový implantát, zařízení typu hluboké stimulace mozku nebo BrainGate, o kterých jsme psali v předchozích článcích, rovněž mají mnoho nositelů. Přesto je implantování čehokoliv do mozku stále velmi kontroverzním tématem. A není se čemu divit.

Jak je vidět na obrázku výše, samotný čip N1 má být umístěn do kruhového otvoru vyvrtaného v lebce, který poté zřejmě bude zakrytý tenkou destičkou z nějakého kovu nebo jiného pevného materiálu, tak aby místo s čipem nebylo slabým bodem lebky. Bude samozřejmě velmi důležité zajistit, aby toto místo bylo odolné proti případným úderům do hlavy, například při sportu nebo úrazech hlavy. Tato část lebky musí být po implantaci rozhraní stejně pevná jako před ní. Nezdá se mi reálné, aby nositelé rozhraní chodili permanentně v nějakých přilbách.

Vlákna s mikroelektrodami budou muset do mozku být implantována přes všechny vrstvy mozkových obalů, takzvaných mozkových plen. Zde nechci moc spekulovat, protože jednak nic moc nevím o anatomii mozku a také není jasné, jak přesně chce Neuralink implantace vláken provádět. Zdá se mi ale, že díry v mozkových plenách na několika místech lebky (v případě použití více čipů) nebudou zanedbatelným problémem pro lidský organismus.

No a pak zde samozřejmě máme vlákna implantovaná do mozkové kůry. Jak tvrdí sami pracovníci Neuralinku, mozková kůra je pro implantáty extrémním prostředím. A teď si představte, že vlákna mají v těchto podmínkách fungovat bez problémů celé roky nebo nejlépe celá desetiletí a nesmí samy tkáň poškozovat. Myslím, že to je jeden z nejtěžších, ne-li vůbec nejtěžší problém, který stojí před inženýry Neuralinku.

Je třeba si uvědomit, že vlákna se skládají z různých materiálů, které mají odlišné mechanické, fyzikální i chemické vlastnosti a splňují různé funkce. Jde o mikroelektrody a jejich obaly. Elektrody musí mít co nejlepší vodivost a co nejmenší odpor. K tomu jejich odhalené koncovky nesmí zkorodovat. Obaly musí být elastické, chemicky inertní a musí odolávat prostředí mozkové kůry po desítky let. O vláknech, jejich výrobě a vlastnostech jsme už psali ve třetím dílu naší série.

K tomu, aby vlákna byla co nejméně „viditelná“ pro mozek nositele, přispívá volba vhodných materiálů, miniaturizace a způsob jejich implantace. Obaly vláken současné verze rozhraní jsou vyráběny z polymerů. Mikroelektrody ze speciálních kovových slitin (Neuralink zatím neuvedl jakých). Vlákno tvoří tři vrstvy izolace a dvě vrstvy vodičů.

Miniaturizace pomáhá biokompatibilitě, ale z druhé strany komplikuje výrobu. Čím menší jsou drátky spojující elektrody s čipem, tím větší mají elektrický odpor a tím větší je rušení signálu. Na druhou stranu čím více je elektrod a drátků, tím více roste komplexnost systému a tím komplikovanější je celá produkce. Inženýři Neuralinku tedy musí balancovat mezi tím, co by chtěli vyrobit, a co je vůbec momentálně možné. Současná vlákna mají tloušťku 4–6 mikrometrů a šířku okolo 40 mikrometrů. Lidský vlas má průměr 100 mikrometrů. Délka vlákna je okolo 20 milimetrů. Drátky mají průměr 350 nanometrů, což je méně než vlnová délka viditelného světla. Jsou vyráběny pomocí litografie, čili určité formy tisku.

Implantaci provádí poloautomatický robot, který vpichuje vlákna s elektrodami s mikrometrickou přesností. Sám nejprve navrhuje pozice pro umístění vláken, ale ty pak musí schválit nebo upravit neurochirurg, který celou operaci řídí. Teprve potom jsou vlákna umísťována do mozkové kůry. Automat se vyhýbá všem mikroskopickým žilkám a minimalizuje tak krvácení, čímž je zajištěna minimální úroveň zranění pacienta. Je schopen implantovat stovky vláken s tisíci elektrodami za hodinu. Koriguje rovněž pohyby hlavy při dýchání, čili se dynamicky přizpůsobuje pohybům mozku ve všech směrech a tím redukuje riziko poškození mikrožilek v kůře.

Myslím, že používáním velkého množství obousměrně fungujících elektrod na malých oblastech mozku, pravděpodobně může docházet také k poškození neuronů. Jedna elektroda může číst akční potenciály několika neuronů v jejím nejbližším okolí. Podle Maxe Hodaka, prezidenta Neuralinku, je to trochu divné, protože v jejím dosahu se neuronů nacházejí tisíce. Mnoho z nich je tedy většinu času zticha. Jestliže jedna elektroda má v dosahu tisíce neuronů, její činnost je pak ovlivňuje všechny najednou. Co se stane, jestliže je budeme stimulovat umělými elektrodami? Vydrží to nebo bude negativně ovlivněna jejich funkce? To pravděpodobně ukážou teprve dlouhodobé testy rozhraní.

Problémem může být také mechanické poškození tkáně kolem vláken, vzniklé při implantaci nebo při pozdějším nechtěném pohybu elektrod. Při vpichování může docházet k poškození okolí. Kolem vláken se vytvoří jakési mikrojizvy, které můžou blokovat nebo rušit signály z a do neuronů. Později vlivem rychlých pohybů hlavy nebo například i úderů, může docházet k přesunutí vláken. Jestliže fungování rozhraní bude založeno na učení se, které neurony jsou aktivní ve kterém okamžiku při určité přesně definované činnosti, nepatrný pohyb vlákna může znamenat ztrátu kontaktu s neurony a „zapomenutí“ naučené činnosti.

Komplikací může být také to, že mozek plave volně v mozkomíšním moku, čili se pohybuje a vlákna s elektrodami se budou pohybovat s ním, kdežto čip ne, protože ten bude nehybně připevněn k lebeční kosti. Pří větším úderu do hlavy, se pak může stát, že vlákna změní polohu v mozku anebo z něj přímo budou „vytržena“. To bude znamenat nejen zapomenutí naučených činností a zhoršení funkce rozhraní, ale také potenciální ohrožení zdraví nositele.

Dlouhodobým fungováním vláken s elektrodami v mozku může také docházet k jejich chemické degradaci. Nikdo zatím nezkoušel implantovat vlákna o mikrometrických rozměrech do lidské hlavy na dlouhou dobu. Určité údaje jistě poskytují testy na zvířatech, ale jak přesně se zachová lidský organizmus, ukáží teprve dlouhodobé testy na lidech.

Řešení problémů

Shrňme si tedy, s jakými problémy a nebezpečími se Neuralink potýká v současné době a jak je plánuje vyřešit:

• Implantace a fungování podkožních systémů zřejmě nebude velkým problémem.
• Odolnost provrtané části lebky a jejího okolí proti mechanickým poškozením. Citlivé místo bude potřeba řádně zabezpečit.
• Zajištění minimálního poškození mozkových plen. Nejsem schopen ocenit, jak velký je to problém, ale řešením může být použití neurologického robota.
• Výběr vhodných materiálů pro vlákna a elektrody. Jeden z největších problémů. Bude vyžadovat dlouhodobé testy komponentů interfejsu a experimentování s různými materiály.
• Vyřešení problémů s miniaturizací. Rovněž bude vyžadovat intenzivní dlouhodobé testy.
• Co nejméně invazivní implantace. Problém Neuralink řeší pomocí pokročilé robotiky.
• Degradace neuronů jejich nechtěným častým používáním. Možný velký problém Neuralinku. Teprve dlouhodobé používání rozhraní ukáže, jak si s tím organizmus poradí.
• Mechanické poškození mozkové tkáně při dlouhodobém používání rozhraní. Další problém týkající se materiálového inženýrství.
• Přemísťování elektrod v mozku. Neuralink nenaznačil možné řešení.
• Jizvová tkáň. Řešením by měla být robotická implantace spolu s miniaturizací vláken a elektrod.
• Chemické poškození komponentů anebo mozkové tkáně při dlouhodobém používání rozhraní. Použité materiály musí zajistit úplnou chemickou neutralitu všech součástí.

Etické problémy

Aby toho snad nebylo málo, bude Neuralink muset řešit také etické problémy nové technologie. Těch bude s postupem času přibývat. Čím více pozornosti medií na sebe Neuralink upoutá, tím více bude jeho technologie mít příznivců, ale i nepřátel. Sám jsem zvědav, jak se situace vyvine, ale podezřívám, že odpůrci rozhraní v budoucnosti způsobí Neuralinku nemálo problémů.

Vývoj se samozřejmě neobejde bez testování na zvířatech. To už probíhá na hlodavcích a opicích. Na prezentaci prototypu N1 Neuralink ujišťoval, že dodržuje všechny potřebné zásady testování a vykonává ho jen v nezbytně nutných případech.

V roce 2020 mají přijít pokusy na lidech. Prvními pacienty mají být jedinci s kompletním ochrnutím těla nebo po ztrátě všech končetin. Pravděpodobně půjde o pacienty, kteří budou schopni sami k testům dát souhlas. I tak se ale nabízí otázka, zda je etické využít těchto lidí k testům zařízení, která vyžadují složitých neurologických operací mozku, které mohou mít fatální následky. Rozhodnutí bude na americké agentuře FDA.

K tomu ještě nevíme vůbec nic o možných vedlejších účincích rozhraní a jejich dlouhodobých vlivech na psychiku nositelů. To vše ukážou teprve intenzivní testy na lidech.

Bezpečnost pokročilých rozhraní připojených do Internetu

Pokud Neuralink vyřeší všechny problémy uvedené výše a jeho rozhraní úspěšně projde dlouhodobými testy na lidech, dostane se do další fáze svého vývoje. Jestliže už firma nebude muset dále bojovat s biokompatibilitou přístroje, bude se moci plně soustředit na jeho vylepšování a zvyšování kapacity. Bude se tak velmi rychle zvyšovat počet elektrod a tím přenosová rychlost a možnosti využití. Souběžně se budou zlepšovat schopnosti umělé inteligence, která bude nedílnou součástí interfejsu.

Kybernetická bezpečnost

Největším problémem, který bude muset Neuralink řešit po připojení uživatelů rozhraní do Internetu, je kybernetická bezpečnost. Firma musí o bezpečnosti přemýšlet už od začátku vývoje rozhraní a musí postupovat podle zásady „secure by design“, tedy bezpečnost musí být integrována do interfejsu od počátku a na všech úrovních. Je velký rozdíl v tom, jestli se vám hacker nabourá do počítače, který máte na stole, nebo do neurálního rozhraní, kterým budete moci nejen například číst myšlenky nebo paměť nositele, ale později také ovládat jeho tělo.

Elon Musk má již mnoho zkušeností s bezpečností z Tesly. Zde je také bezpečnostní stránka velmi důležitá, protože tato auta lze ovládat na dálku a mohou tak být také ukradena na dálku anebo se z nich po převzetí kontroly můžou stát nebezpečné zbraně. O podrobnostech zabezpečení v Tesle moc nevím, ale z toho, co jsem slyšel, Tesla používá operační systém Linux, který je často automaticky aktualizován způsobem over-the-air (tedy bezdrátově přes Internet). Je tedy možné velmi rychle reagovat na potenciální problémy a vydávat „záplaty“ systému. Firma má také svůj program typu „bug bounty“, díky němuž mohou etičtí hackeři získat odměnu za nahlášení zjištěných bezpečnostních problémů.

Doufám, že Neuralink bude rovněž postupovat podle nejlepších praktik kybernetické bezpečnosti. Pro všechny hackery světa bude jistě velmi lákavou výzvou „nabourání se“ do něčí hlavy. Systém bude vyžadovat robustní firewall a spolehlivý antivir. Stejně tak bude potřebná ochrana proti spamu a všemožným útokům reklamních sdělení.

Představte si, že by váš mozek, tak jako váš počítač, neustále atakovaly různé viry, zhoubné robotické aplikace by ve dne v noci hledaly díry ve vašem operačním systému, neustále byste dostávali zprávy obsahující škodlivé programy, denně byste dostávali tisíce nevyžádaných zpráv a reklamy by číhaly na každém vašem virtuálním kroku. Myslím, že bez spolehlivého firewallu, antiviru a agentovi umělé inteligence, který by to vše řídil, byste velmi rychle skončili v blázinci.

Psychologické a sociální důsledky

Uvědomíme-li si, že již dnes nejsou ničím výjimečným případy úmrtí způsobených závislostí na počítačových hrách, musíme se velmi vážně zamyslet nad tím, jak bude situace vypadat v době, kdy hráči budou mít neurální interfejsy. A nejde zde jen o hry, ale také například sociální sítě a vše, co umožní připojení mozku do Internetu. Jestliže nyní je možné těmto činnostem propadnout natolik, že někteří jedinci jsou schopni vyčerpat svůj organismus až k smrti, jak si lidé poradí se závislostí na používání neurálního interfejsu?

Určitě nebude jednoduché vrátit se do reality a žít svůj běžný život. Myslím, že bude čím dál více problémů s extrémním odloučením jedinců od společnosti, kdy se budou uzavírat ve virtuálním světě a budou unikat fyzickým a sociálním kontaktům s jinými lidmi.

Kriminalita

Každý den probíhají miliony, ne-li miliardy kybernetických útoků. Existuje spousta stránek, které tyto útoky dokonce zobrazují v reálném čase – například zde nebo zde. Šíří se tisíce různých virů, automatické programy vyhledávají díry v softwaru i hardwaru a těch pak využívají hackeři k získání informací nebo financí. Neurální interfejsy budou pro hackery ideálními dveřmi k získání informací, jako jsou hesla, PINy nebo třeba obchodní tajemství. Špatně zabezpečené rozhraní může být pro jeho nositele velmi nebezpečné.

Etika

Velmi vážnou otázkou bude také to, jak se k rozhraní postaví vlády a organizace jako armáda nebo policie či tajné služby. Dnes je ožehavým tématem přístup vládních organizací do mobilních telefonů. Budou výrobci a operátoři rozhraní muset umožnit přístup do interfejsů v případě, že nositel bude například podezřelý ze spáchání trestného činu? Jestli ano, za jakých podmínek? Budou existovat organizace, které nebudou muset mít žádné povolení, prostě se připojí a nositel o tom nebude nic vědět? Co jestli bude nositel svědkem u soudu – bude muset poskytnout informace ze svého rozhraní? Bude povinné prokázat, že mluvíte pravdu pomocí záznamu z vašeho interfejsu?

Jistě bychom zde vymysleli ještě spoustu otázek a etických problémů, ale to vše ještě není vůbec nic v porovnání s tím, co přinesou rozhraní typu „neural lace“. Právě o nich si popovídáme v příštím dílu našeho seriálu.

< Předchozí část

Následující část >

Předchozí články ze série Neuralink pod lupou:

• #1: Seznamte se s Neuralinkem
• #2: Prezentace prototypu implantovatelného čipu N1
• #3: Jednotlivé komponenty prototypu N1
• #4: Klíčové osobnosti Neuralinku
• #5: Historie mozkových rozhraní
• #6: Současnost mozkových rozhraní
• #7: Konkurenční projekty
• #8: Budoucnost neurálních rozhraní