Neuralink: Nejkontroverznější technologie v dějinách, 3. část – Etika

V prvních dvou dílech této série jsme se zamýšleli nad možnými psychologickými a sociologickými dopady neurálních rozhraní. Následovat budou ještě části týkající se filosofie a práva. Dnes se podíváme na etickou stránku věci, která dále potvrdí, že se skutečně jedná o nejkontroverznější technologii v dějinách lidstva. Platí totiž to, co už před několika lety uvedl Tim Urban, blogger z webu Wait But Why: „Cílem Tesly a SpaceX je změnit, co budou lidé v budoucnu dělat. Neuralink chce změnit lidi samotné.“

Není úplně snadné oddělit zde etické problémy od těch filosofických, protože etika je součástí filosofie. Etické problémy svázané s oborem neurotechnologie se v poslední době dostávají do popředí natolik, že se vyčlenila samostatná část etiky – neuroetika, o které česká verze Wikipedie uvádí následující:

Neuroetika je vědní disciplína, která propojuje etiku s obory, které studují mozek, respektive mysl. Blízce souvisí s bioetikou, někdy je považována za její podobor. Můžeme ji rozdělit na dvě hlavní části – deskriptivní a preskriptivní. Zatímco deskriptivní část se zabývá vztahem mezi mozkovou aktivitou a morálním chováním, preskriptivní část řeší etické problémy neurověd.

Zde nám tedy půjde spíše o neuroetiku preskriptivní, která se zabývá také etickými problémy neurálních rozhraní.

Zařízení Neuralinku své uživatele a pravděpodobně i celou společnost změní radikálním způsobem. Změní způsob naší interakce s počítači, mezilidskou komunikaci, žebříček hodnot nebo i náš vztah k reálnému světu. Jednou také může dojít k tomu, že změní i naši biologickou podstatu. S postupem času rozhraní budou čím dál sofistikovanější, jejich integrace s uživatelem a jeho mozkem bude intenzivnější a s tím i související etické problémy budou čím dál komplexnější.

Etické problémy

Snažíme-li se představit výčet etických problémů spojených s neurálními rozhraními, asi bychom měli začít u jejich testování na zvířatech. Je známo, že Neuralink již interfejsy a jejich implantaci testoval na krysách, prasatech a opicích. Na výročních prezentacích Elon Musk a členové jeho týmu zdůrazňovali, že firma dodržuje takzvaný princip třech R, tedy anglicky Replacement, Reduction a Refinement (nahrazování, omezování, vylepšování). Tento princip říká, že všude, kde je to možné, je potřeba testy na zvířatech nahrazovat jinými přístupy, omezovat rozsah testování a zlepšovat testy tak, aby bylo potřeba co nejméně zvířat a aby se co nejvíce omezil jejich stres nebo bolest. Jak vypadá testování na zvířatech v Neuralinku, můžeme vidět v následujícím videu:

Určitým etickým problémem je i testování na nemocných lidech, které má v případě Neuralinku začít letos. Rozhraní má být implantováno pacientům s výrazným omezením pohybu, tedy například kvadruplegikům, kteří trpí ochrnutím všech končetin. Interfejs jim má umožnit ovládání počítače a telefonu myšlenkami. Jde o určitou „kalkulaci“. Operace je, samozřejmě, nebezpečná. Zařízení nebylo ještě testováno na lidech. Zdravý člověk by takovéto riziko nepodstoupil. Kvalita života jedinců, kteří budou vybíráni pro testy, je však natolik nízká, že možnosti, které jim rozhraní potenciálně dá, budou pro ně obrovským přínosem. Je ovšem etické využít těchto lidí pro testování komerčního produktu?

K tomu ještě testovaní musí plně pochopit všechna rizika spojená s testy a musí k nim vydat dobrovolný souhlas. Výběr vhodných kandidátů z řad lidí s vysokým stupněm zdravotního postižení tak nebude jednoduchý, protože musí být zajištěno, že testovaní jsou v takové psychické a fyzické kondici, že jsou schopni věci plně porozumět a vydat k ní souhlas.

V prvním díle této série byla řeč o „pacientce číslo 6“ z článku na webu časopisu Nature, což byla jedna z uživatelek nově vyvíjeného systému včasného varování před epileptickými záchvaty. Zařízení pomocí elektrokortikografického (ECoG) elektrodového pole, tedy elektrod implantovaných do prostoru mezi lebkou a mozkem, monitorovalo mozkovou aktivitu. Firma, která ho vyvíjela, zkrachovala a všechny testovací přístroje musely být pacientům odebrány. Pacientka číslo 6, jejíž vztah k interfejsu lékaři popisovali jako radikální symbiózu, nesla ztrátu svého přístroje, který ji pomáhal v životě s epilepsií, velmi těžce. Tvrdila, že ztratila samu sebe, část svojí osobnosti. Neuroetik Frederik Gilbert, který vedl výzkum s pacientkou číslo 6 a jejími kolegy, uvedl, že „Šlo o více než jen zařízení. Firma, která rozhraní vyprodukovala, byla majitelem existence nové osoby, kterou stvořila.“ Je etické tvořit tímto způsobem nové jedince a potom ještě být de facto majitelem „toho, co stvoříte“? Jak se k tomu Neuralink a jiní producenti postaví? Bude implantované zařízení majetkem uživatele nebo producenta? To je jen několik otázek, které se zde nabízí a budou muset být zodpovězeny.

Zajímavým fenoménem poslední doby je neuromarketing. Wikipedie uvádí: „Neuromarketing studuje funkce mozku při rozhodování o koupi produktu. Jedná se o marketingový obor spadající pod neuroekonomii, který sleduje, jak mozek reaguje na určité podněty obsažené v reklamě, značku apod. Pokouší se v mozku najít „spouštěč nákupu“. O jedné ze společností zabývajících se tímto způsobem průzkumu trhu, firmě Bitbrain, jsme psali v jednom z dílů série Neuralink pod lupou.

Momentálně neuromarketingový průzkum využívá neinvazivních neurálních rozhraní a probíhá na dobrovolnících, kteří jsou za něj placeni. Co ale když bude k dispozici velká skupina lidí, kteří budou mít implantovány invazivní interfejsy? Pro firmy zabývající se průzkumem trhu to určitě bude zajímavá možnost, jak poznat preference klientů. Jakým způsobem se však dostanou k potřebným datům? Budou uživatelé neuromarketingovým firmám prodávat data ze svých interfejsů?

A co internetové sociální sítě? Dnes většinou situace vypadá tak, že chcete-li používat nějakou službu zadarmo (Facebook, Google…), musíte za to poskytovateli dát přístup k informacím o vaší osobě a o tom, co děláte. Už zde spousta lidí vidí problém. A co jestli máte neurální rozhraní? Může to dojít až tak daleko, že budete-li chtít používat internetové služby zadarmo, budete provozovatelům muset poskytnout nějaká data ze svého rozhraní?

K tomu již dnes jsou prakticky v každém chytrém telefonu nainstalovaní agenti typu Siri nebo Google Assistant, kteří mají nonstop zapnutý mikrofon. Existuje podezření, že některé firmy mohou využívat data z „odposlechů“ pro marketingové účely dokonce i bez souhlasu uživatelů. Jak to bude s neurálním „mikrofonem“ a AI asistentem přímo ve vaší hlavě?

Překlad: „Přestaňte mi cpát reklamy na věci, o kterých jsem zrovna mluvil.“

Od neuromarketingu není daleko ke spamování nebo i zcela legální distribuci reklam. Můžeme si představit například následující situaci odvozenou od toho, co dnes běžně dělají mobilní operátoři. Máte dvě možnosti – buďto si sami koupíte drahé rozhraní od renomovaného výrobce, nebo můžete vzít levnější, dotované operátorem, ale připravte se na to, že na něm bude upravený operační systém se spoustou reklam. Něco za něco. Ušetříte, ale necháte se za to spamovat. Dá se to ještě brát v případě telefonu, ale jde-li o neurální rozhraní a ony reklamy proudí přímo do vaší hlavy, je třeba se nad tím pořádně zamyslet.

Jednou z nejproblematičtějších záležitostí ohledně neurálních rozhraní je určitě jejich využití pro vojenské účely. Jedna věc je, jaký výzkum probíhá v období relativního míru, a jiná, kam až jsou schopné zajít vojenské výzkumné organizace v eventuální válce, kdy jde etika stranou. Budou armády někdy produkovat vojáky-kyborgy vylepšené neurálním rozhraním? Kdo ví? V současnosti víme, že organizace jako například americká DARPA (česky Agentura ministerstva obrany pro pokročilé výzkumné projekty) se o tuto technologii velice zajímají. Zde je přehled některých jejích projektů. Kromě nich DARPA pomocí grantů sponzoruje také soukromé firmy vyvíjející neurální rozhraní – například Paradromics nebo Cortera Neurotechnologies, o kterých jsme psali v tomto článku.

O většině toho, co vyvíjí DARPA nebo i jiné americké organizace, se můžeme dočíst na Internetu, pokud tedy nejde o utajené projekty. Avšak o tom, co vyvíjí výzkumné organizace armády Ruska nebo Číny, se zřejmě nikdy nedozvíme. Pokud tedy v budoucnosti nedojde k nějakému většímu vojenskému konfliktu.

Od armády není daleko k policii. Představte si, že jste uživatelem neurálního rozhraní, které umí registrovat vše, co vidíte a slyšíte, a jste svědkem nějakého zločinu. Nebo jste přímo v podezření spáchání trestného činu vaší osobou. Budete mít povinnost ukázat záznam z vašeho zařízení policii, prokuratuře, soudu nebo třeba pojišťovně? Bude moci policie vynutit u výrobce nebo provozovatele vašeho zařízení, aby mu zpřístupnil vaše záznamy? Kde budou ony záznamy uloženy? Kdo k nim bude mít přístup? Kdo bude jejich majitelem? Mimochodem, toto téma je výborně zpracováno v epizodě Crocodile ve čtvrté sérii seriálu Black Mirror.

Elon Musk nejednou mluvil o potenciálu Neuralinku pro vylepšování nebo dokonce přidávání nových smyslů a schopností. Chtěli byste mít sluch jako pes nebo vidět v jiných částech elektromagnetického spektra? Je možné, že podobné úpravy by Neuralink mohl v kombinaci s různými senzory jednou poskytovat. K tomu je potřeba přidat ještě takové věci jako neustálý přístup k informacím z Internetu, pomocníka v podobě agenta umělé inteligence nebo dokonce okamžité učení vědomostí či dokonce schopností. Pokud si pamatujete, jak se ve filmu Matrix hlavní hrdina Neo naučil kung-fu, tak to je, oč tu běží.

Díky všem různým vylepšením uživatelé Neuralinku získají výhody, které neočipovaní jedinci mít nebudou. To jim pak, samozřejmě může pomoci například ve studiu na univerzitě, na trhu práce nebo třeba při obchodování na burzách cenných papírů a kryptoměn. To určitě bude budit velké kontroverze a mnoho otázek. Je etické získat takovým způsobem podobné výhody? Kdo si bude moci rozhraní dovolit? Budou zaměstnavatelé tlačit na zaměstnance, aby se očipovali?

Zmiňme zde ještě jednu zajímavou koncepci. Jestliže se opravdu podaří vyvinout neurální rozhraní, díky němuž se bude dát do lidského mozku vyslat prakticky jakoukoliv informaci a bude jím také možné zaznamenávat jakékoliv prožitky, naskýtá se zde prostor pro jakýsi trh s reálnými zážitky jiných lidí. Uživatelé znudění neustálým přebýváním v syntetickém virtuálním světě, můžou zaprahnout po prožívání něčeho více reálného. Jiní uživatelé tak budou moci začít prodávat záznamy svých skutečných intenzivních prožitků. Sex, drogové jízdy nebo třeba narození prvního dítěte. Vše, co jste zažili a cítili během podobných situací, můžete nahrát a prodat.

Předchozí díly seriálu Nejkontroverznější technologie v dějinách:

• 1. část – Psychologie
• 2. část – Sociologie

Přispějte prosím na provoz webu ElonX, aby mohl nadále zůstat bez reklam. Podpořte nás pomocí služby Patreon či jinak a zařaďte se tak po bok ostatních dobrodinců, kteří už finančně přispěli. Děkujeme!