Na výročních prezentacích Neuralinku nebo v tweetech Elona Muska se můžete dozvědět leccos o tom, co jednou možná budou moci dělat uživatelé neurálního rozhraní, které Neuralink vyvíjí. Nedozvíte se však nic o tom, jaké negativní vlivy by tato technologie mohla mít na jedince a celou společnost.
V minulém díle této série jsme se zaměřili na situaci budoucích uživatelů rozhraní z hlediska psychologie. Pokud má ovšem něco tak zásadní vliv na psychiku mnoha jedinců, dá se očekávat, že bude mít i velký vliv na celé skupiny lidí nebo i společnost jako celek.
Prvním problémem z kategorie sociologie bude zřejmě začlenění kyborgů do společnosti. Neuralink se evidentně snaží dělat vše pro to, aby jejich rozhraní nebylo vidět, ale i tak se můžou objevit určité problémy s vnímáním „očipovaných“. Své by o tom jistě mohli vyprávět dnešní kyborgové s implantovanými RFID, NFC nebo jinými čipy. Po ulici se procházející uživatel kochleárního implantátu na sebe rovněž strhává pozornost celého okolí. A co teprve pacienti s rozhraními typu Utah Array. Ty sice nemáme možnost nikde potkat, protože podobná zařízení se nedají používat jinde než v laboratořích, ale i na fotkách nebo videích působí jejich přístroje přišroubované k hlavě dost hrůzostrašně:
Jednou z věcí, kterých jsme svědky již dnes, je komercializace mozkových dat. Marcello Ienca, jeden z nejznámějších neuroetiků, v článku na webu Vox označuje tuto skutečnost jako neurokapitalismus. Stejně jako dnes uživatelé Facebooku nebo jiných sociálních sítí sdílejí svoje osobní informace, začínají uživatelé neurálních rozhraní sdílet svá data týkající se mozkové aktivity. Jako příklady z dneška Ienca uvádí rozjíždějící se sektor neurogamingu nebo monitoring spánku pomocí zařízení sledujících mozkovou aktivitu. Problém se ještě prohloubí v momentě, kdy Facebook nebo někdo jiný dokončí vývoj zařízení, které má umožnit psaní v telefonu pouhými myšlenkami.
S postupným vylepšováním rozhraní přijde jiný problém – zvýhodňování vylepšených jedinců. Motivací mnoha lidí pro implantaci rozhraní, může být vidina zisku. Interfejs může být výhodou, která umožní lepší pozici například na trhu práce nebo na burzách cenných papírů. Elon Musk sám řekl, že si dokáže představit situaci, kdy lidé budou brát rozhraní jako určitou investici. Po implantaci získají výhody jako vylepšení paměti, nonstop připojení k Internetu nebo asistenci umělé inteligence. Díky tomu si pak například můžou vzít úvěr, nakoupit za půjčené peníze akcie nebo kryptoměny a s pomocí svých nových implantovaných schopností je potom rychle zhodnotit. Normální smrtelník už tady zůstává pozadu.
Jean-Claude van Damme jako kyborg ve filmu Univerzální voják (Zdroj: Carolco / Centropolis)
Je téměř jisté, že se objeví pracovní pozice, na kterých při náboru budou buď zvýhodněni očipovaní jedinci, nebo dokonce i pozice, na které budou moci aplikovat jen kyborgové. Bude jich čím dál více a budou lépe placené. Může jít například o posty burzovních makléřů, právníků nebo lékařů, kde lepší paměť nebo kognitivní schopnosti budou určitě velkou výhodou.
Otázku, jak se budou nevylepšení chovat k vylepšeným, jsme si už položili, ale musíme se také zeptat, jak to bude obráceně? Jak se budou chovat kyborgové s neurálními rozhraními k běžným lidem? Nebudou se cítit jako nadlidé? Evolučně vyšší nadřazená forma člověka? Může dojít k tomu, že globální společnost bude rozdělena na dvě zcela rozdílné „kasty“ – superinteligentní nositele rozhraní a zbytek. Pokud očipovaní budou hromadně zvýhodňováni, jak se k tomu postaví obyčejní lidé? Nemůže to způsobit globální sociální nebo dokonce vojenský konflikt?
Z jedné strany by se mohlo zdát, že vylepšení jedinci s neurálními rozhraními ovládnou svět, vše by ale také mohlo být úplně jinak. Možným scénářem vývoje společnosti může být také vymizení očipovaných ze společenského života. Úplný eskapismus, čili útěk z reality, přechod do virtuálního světa a dobrovolný život v určité formě Matrixu, kam by se přenesli všichni uživatelé neurálních rozhraní. V reálném světě by jejich těla ležela v nějakém přístroji, který by automaticky obstarával jejich životní funkce, a v Matrixu by byli čímkoli by si dokázali představit. Šlo by o něco, jako jsou dnes online světy MMORPG, ale s mnohem většími možnostmi.
Otázkou je, jaký bude poměr těch, kteří se očipují a utečou do virtuálního světa rozkoší, a neočipovaných lidí, kteří budou dále chtít žít v reálném světě i se všemi jeho nástrahami. Pokud těch prvních bude příliš, těm druhým to může dost zkomplikovat život. Můžou začít chybět lidi – pracovní síla nebo experti v různých oborech. Jejich místo ale pravděpodobně v té době už zastoupí roboti a umělá inteligence. Situace pak může dojít až do stavu, kdy celá populace přejde do virtuálního světa a o fyzické schránky připojených jedinců se budou starat automaty, tak jak jsem o tom psal už v předchozím dílu. Mimochodem, podobný scénář je také jedním z možných řešení Fermiho paradoxu. Přechod vyspělých civilizací do virtuálního světa elegantně vysvětluje, proč kolem sebe ve vesmíru nikoho nevidíme.
Pokud míra eskapismu bude růst, bezprostředních fyzických kontaktů bude čím dál méně. Jestliže rozhraní budou tak běžná jako dnes chytré telefony, může to znamenat i konec fyzických kontaktů mezi lidmi, a to včetně sexu. To by pak znamenalo velké populační problémy a nutnost rozvoje technik mimotělního rozmnožování. Může situace dojít tak daleko, že se lidstvo přestane rozmnožovat přirozenou cestou?
Ovce chovaná v umělé děloze (Zdroj: Nature)
Plošné rozšíření neurálních rozhraní v kombinaci s totalitárními politickými režimy, by se klidně mohlo „zvrtnout“ do jakési neurototality, čili vrcholné formy dystopie, jakou představil George Orwell ve svém románu 1984. V knize jsou lidé sledováni na každém kroku a soukromí je omezeno jen na to, co je ukryto v jejich hlavě. I dnes existují státy, ve kterých se vláda snaží mít maximum informací o každém ze svých občanů. Pokud by takový stát zavedl povinné používání neurálních rozhraní, věděl by o nich jednoduše všechno. Soukromé už by nebyly ani jejich myšlenky. Byla by k tomu ovšem potřebná také nějaká forma centrální umělé inteligence, která by to ohromné množství dat od všech uživatelů nějakým způsobem musela zpracovávat.
Winston, hlavní hrdina filmu 1984, se (ve vlastním bytě) schovává před Velkým bratrem (Zdroj: Virgin Films)
Jinou možností, kam by se mohl ubírat vývoj společnosti, ve které jsou všichni její členové díky neurálním rozhraním neustále připojeni k Internetu a propojeni mezi sebou, je určitá forma kolektivní civilizace nebo dokonce kolektivního vědomí.
Pokud jde o kolektivní civilizaci, příkladem by mohla být rasa Borgů ze seriálu Star Trek. Jejich společnost se skládá z velkých skupin (kosmických lodí), které fungují podobně jako včelí úly nebo mraveniště – jedinec v nich nic neznamená, kolektiv je vším. Neexistuje soukromí a život pro jedince (nebo spíše samostatnou jednotku) po odpojení od úlu nemá žádný smysl. Jste-li celý život neustále spojen se všemi ostatními tak jako Borgové, kteří nepřetržitě slyší myšlenky všech členů úlu, odpojení se rovná smrti.
Populární mem s lechtivým Borgem. Všichni členové úlu jsou propojeni, proto stačí polechtat jen jednoho z nich…
Je možné, že díky technologii by podobná společnost mohla vytvořit kolektivní vědomí, tedy určité sloučení do jedné virtuální bytosti, megavědomí. Souhrnná inteligence takovéhoto mnohamiliardového úlu kombinovaná ještě s inteligencí umělou, by byla nepředstavitelná.
Nejvyšší formou útěku do virtuálu je pak digitalizace osobnosti, kterou jsme podrobněji probrali v předchozí části série. Jestli se dá mluvit o sociologii skupin digitalizovaných bytostí, nemám ponětí. Spíše asi ne. Zajímavá by ale určitě byla spolupráce digitalizovaných s těmi z masa a kostí. Jak by mohl vypadat takový svět, se snaží přiblížit například tvůrci seriálu Upload. V něm jsou lidé posmrtně transformováni na programy ve výpočetním cloudu, kde navždy „žijí“ odkázáni na své příbuzné, kteří musí platit za jejich přetrvání firmám, které spravují daný cloud.
Teoreticky se však nabízí také možnost přenesení digitalizovaných osobností do robotů, díky čemu by pak mohli víceméně normálně žít mezi lidmi z masa a kostí. To pak ale s sebou nese další spoustu, z dnešního pohledu jen těžko řešitelných problémů. Jaké má taková bytost pohlaví? Může se nějak rozmnožovat? Co když se začnou před smrtí digitalizovat všichni? Co s těmi miliardami jedinců? Jaké by pak byly nároky na energii a suroviny potřebné k udržení tak velké civilizace?
Závěrem tohoto dílu ještě dodejme, že pravděpodobně tak jako v případě speciální disciplíny psychologie neurálních rozhraní (psychokybernetiky?), také od sociologie by se mohla oddělit samostatná poddisciplína, nazvěme ji třeba sociokybernetikou, která se bude zabývat problémem kybernetizace společnosti. Ať už se naše civilizace vydá kterýmkoliv směrem, možná úplně jiným, než jsme zde zmínili, bude to právě neurální rozhraní, které tyto změny umožní.
| < Předchozí část | Následující část > |
Noland Arbaugh, první uživatel rozhraní Neuralinku, chystá na tento víkend trochu bláznivou výzvu – chce…
Rozhovor s neurochirurgem Mattem MacDougallem nabízí fascinující pohled do zákulisí inovativní technologie mozkových implantátů. MacDougall…
V přehledu novinek o síti Starlink se nejprve podíváme, jak satelitní konstelace na nízké oběžné…
Nová kniha Reentry od Erica Bergera se zaměřuje na vývoj Falconu 9 a kosmické lodi…
Dnešní článek vám představí novou anténu určenou pro příjem signálu družic Starlink. Na rozdíl od…
NASA před časem udělila SpaceX kontrakt na vývoj USDV (U.S. Deorbit Vehicle), což je upravená…
Zobrazit komentáře
Nějak mi uniká důvod proč bych si měl nechat v budoucnu zhotovit digitální kopii stejně to nebudu já. Pokud při přenosu dojde k přerušení kontinuity, jakési ztráty vědomí, i když na chvilku, bude se jednat o kopii a pro mé "já" je to k ničemu.
Skvělá úvaha. Dá se to brát i tak, že seš přenesen jinam a Tvá "stará kopie" zemře.
Z pohledu digitální kopie je to správná perspektiva.
Ve své podstatě to je i bezesný spánek.
Nějak si nemyslím, že by uživatelé s kochleárním implantátem strhávali pozornost celého okolí. I se sluchadlem si nikdo nevšimne, že by se odlišovali od ostatních, to až při komunikaci.
No, čekal sem trochu hlubší úvahu. Lidská mozková kůra je jenom jedním z mnoha důležitých orgánů. Její propojení s počítačem je zajímavá myšlenka, ale zatím ne až tak moc zajímavá praxe. Momentálně je počítač pořád ten slabší hráč. A to o mnoho řádů. Něco na úrovni takové lepší myši, klávesnice a monitoru.
A co se týče zbytku mozku a tělesných emocí tam pořád dost tápe i základní výzkum. No prostě jsme na úplném začátku. A úvahy o kolektivním vědomí a digitalizaci osobnosti jsou pořád ještě sféra čiré sci-fi, nebo možná i fantasy literatury.
Četl jste seriál Neuralink pod lupou? Tam jsou neurální rozhraní rozebírána z mnoha úhlů.
Ano, četl jsem většinu těch článků. Ale neomezuji se jen na ně, četl jsem kde co. Dokonce jsem v životě i něco programoval.
Nedovedu se zbavit přesvědčení, že vývoj nakonec zamíří úplně někam jinam, než současní teoretici předvídají. A navíc je ve výsledku stejně převálcuje biotechnologie.
Něco biologickeho se schopnosti PC simulací a strojového učení a možnosti se samo "upgradovat" si snad ani nechci ředstavit:)
Typické klišé, vždy když je na obzoru něco nového, tak se vyrojí kvantum hrůzostrašných cénářů. V první řadě je nutné si uvědomit, že neuralink je na úplném začátku vývoje.
1)začlenění kyborgů do společnosti
Stejné jako lidé s rovnátky nebo umělou protézou. Samozřejmě přitáhnou pozornost, ale stejně jako se většina nesměje vozíčkářům, tak stejné to bude i s "kyborgy". Riziko jsou mladší ročníky, zejména na školách, kde se terčem nevkusného posměchu stane i dítě s tlačítkovým telefonem, protože není dost in. Čili pokud chceme řešit problém vysmívání a ústrku, tak příčinu apriori nehledejme v brždění pokroku, ale v naučení slušnosti.
2)zvýhodňování vylepšených jedinců
Kecy ohledně zvýhodňování - kdy už si konečně někdo uvědomí, že pokud je soused úspěšnější než já, tak to neznamená, že já jsem byl diskriminován a soused protekčně zvýhodněn. Každý je svého štěstí strůjcem a co se týče dostupnosti vzdělání (což dříve před sto lety samozřejmě dostupné všem nebylo - takže ano, člověk který se mohl dostat ke kvalitní vyuce, tak byl zvýhodněn), tak dnes díky pokroku jsou informace daleko dostupnější - třeba právě kvůli internetu. Pokrok v době masové digitalizace a dostupného internetu rozdíly smazává, nikoliv naopak. Neuralink pravděpodobně rozdíly ještě více zploští.
3)pozice, na které budou moci aplikovat jen kyborgové a superinteligentní nositele rozhraní a zbytek
Další do očí bijící nesmysl. I dnes jsou mezi námi geniální lidé, kteří převyšují svým intelektem svoje okolí. To samé platí i o fyzicky nadaných jedincích. Světě div se, tito lidé nevedou válku proti nám průměrných. Naopak, díky nim se naše kolektivní vědomosti neustále prohlubují a díky nim se životy nás všech stávají kvalitnějšími. I dnes jsou nadanější lidé celkem logicky preferováni při výběrových řízení. A co jako? To máme všem nadaným dětem zakázat se učit, aby i ti hloupí měli větší šance? Pro mě neznamenají hrozbu chytří lidé na vysokých postech, pro mě je hrozbou jej obsazovat blbcema. To si myslím každý dobře uvědomí, zejména když třeba navštíví lékaře. Taky chcete vždy toho nejlepšího.
4)neurototality
Lidstvo zažilo ty nejhorší totality ještě před nástupem internetu. Takže pokrok není prioritní příčinou. Zhouba si vždycky najde svoji cestu, to platí i o dnešní politicky hyperkorektní době.
Kdybych to měl všechno nějak shrnout, tak bát se pokroku nemá smysl. Smyl má se bát nevědomosti. Velmi mě mrzí všeobecné zděšení genetickým inženýrstvím, protože to je cesta k opravdové revoluci. Díky přízemnosti a hlouposti, místo vymýšlení jak posunout věci kupředu, vymýšlíme jak omezit výzkum, aby náhodou za sto let nedošlo ke zneužití (zvláštní je, že si tyhle otázky nikdo neklade při vývoji zbraní - nebo že bych to špatně pochopil a zbraně nešli použít proti lidem ?).
Tak vy máte hodně omezenou fantazii, když napojení mozku na okamžitý přístup k informacím + umělá inteligence která z člověka udělá jiný druh. Srovnáváte s tímto.
"Další do očí bijící nesmysl. I dnes jsou mezi námi geniální lidé, kteří převyšují svým intelektem svoje okolí"
Spíš ziju v reálným Světě. To o čem píšete je naprosté scifi a hudba velmi velmi daleké budoucnosti. Problém všech tehle blabolu zivene Hollywoodem akorát matou veřejnost, která ve svém iracionální strachu podniká reálné kroky. O genetickem inženýrství jsem se zmínil zcela záměrně. Už na počátku klonování se vzedmula vlna rádoby vedecko-intelektualni vlny, která fantazirovala s umělým nadclovekem. Genetické inženýrství přitom takové ambice nikdy nemělo. Cílem bylo eliminovat genetické choroby, predispozici k rakovině nebo pěstování orgánů k transplantaci a vývoj imunologcke generace léků. To bohužel zaniklo v kontextu hollywoodských blbostí o nadcloveku a nesmyslů aktivistů o lidských právech jednotlivých kmenových buněk. Stupidita vyvrcholila zákazem výzkumu. Proto jsem tolik alergický na články z šoku z budoucnosti a pokroku.
S tou totalitou jak píšete výše jste špatně informován. Ty nejhorší totality jsme prožili ve 20. století ruku v ruce právě s vynalezením a rozšířením těchto TECHNOLOGIÍ:
Totalitní diktatury 20. století byly vlastně úmyslně šířené, neuvěřitelně agresivní a vlezlé MEMy...
Jenže totalitní a brutální režimy existovali uz mnohem dříve. Třeba Egypt za dob faraonu nebo evropske absolutisticke monarchie. Nevolnictvi v carskem Rusku bylo horší než otroctví v Americe a nejkrvavejsi válkou byla válka 30ti letá (zemřelo více jak 1/3 obyvatel). Nesmíme ani zapomenout na válku čínských cisarstvi, tuším ze ta v 16.století měla odhadem 70milionů obětí. Takže pokrok ani technologie neudělali lidstvo horším. Naopak, žijeme v době dostupných informací. Bez moderních komunikací si lidé o sdílení myšlenek a znalostí takovou rychlostí mohli akorát nechat zdát. Je to právě znalost a vzdělání, které postupně dostavilo od moci kreacionisty a jiné náboženské tmare. Samozřejmě máte pravdu v tom, ze technologie umožnily lepší spiclovani lidí, šíření hoaxu a dezinformaci. Stejně tak vnikl i nový druh počítačové kriminality. Ale všechny negativa stále nedokáží vyrovnat pozitivní přínosy.
Já taky nemluvil o válkách, ale o totalitách. Války byly vždycky, někdy i války vyhlazovací (zejména v oblastech nebo obdobích kdy byly zdroje obživy vzácné a nebylo jich dost pro všechny). Konkrétně ta 30ti letá válka byla v důsledku vražedná zejména tím že se šířily nemoci a vleklá válka znamenala logicky hladomory a snížení hygienických standardů. Tehdejší stav technologie si žádal aby více než 95 ze 100 obyvatel neustále pracovalo na poli (aby nedošlo k hladomoru). Přímé vojenské akce měly jen zlomkový podíl na celkovém počtu mrtvých.
Teprve ve 20. století technologie masového šíření informací a technologie "totální" evidence obyvatel (byrokratická centralizace každého prdu) umožnila vznik totalitních diktatur které si usmyslely plošně ovládat nikoli chování, ale přímo myšlení obyvatel. Tohle je naprosto nesrovnatelné s minulými diktaturami a s netotalitními diktaturami vůbec.
Taková demoverze moderní totalitní diktatury bylo období teroru za francouzské revoluce. Ale chyběly technologie pro úplnou a plošnou totalitu na území celého francouzského státu. To samé ještě očividněji chybělo novověkým čarodějnickým tribunálům (které mimochodem byly protiprávní i podle tehdejších standardů), téměř jediný český případ v historii - ten losinský má 100 obětí. S úctou k nevinně zavražděným 100 obětí za 400 let na území celého státu nezní moc drasticky.
Ke skutečné totalitě potřebná plošná kontrola se povedla až bolševikům, nacistům a fašistům o hodně let později. Přitom 20. století je poprvé, kdy reálné ohrožení života ze strany přírodních živlů (hlad, nemoce) se stal v Evropě objektivně vzácností. Totality 20. století nemají pro své zločiny žádnou objektivní záminku, natož omluvu. Šlo o jevy čistě kulturně-sociální.
PS: Samozřejmě že technologie jsou hodnotově neutrální. (ne)morálně se chová člověk a nikoli nůž v jeho ruce. Ale technologie obecně jsou prostě zesilovače moci. Proto také o morálce debatujeme pod článkem o společenských rizicích neuralinku.
PPS: pokud bych si chtěl rýpnout, tak prostor pro katastrofy 20. století se otevřel právě tou povrchní ateizací společnosti - náboženství bylo vyhozeno na smetiště, ale lidé (to je biologicky vrozené !) mají stále potřebu něco uctívat, takže jedni začali uctívat národ, a druzí začali uctívat myšlenku komunismu. A ve jménu těchto "hodnot" bylo dovoleno vše. Včetně genocidy, vyvraždění celých národů, včetně bestiální krutosti k dětem a ženám.
Možná se najdou jedinci, kteří nábožně uctívají třeba i Elona Muska, kdo ví ?
V podstatě s vámi souhlasím, ale co se týče genetiky, je možné že se lidstvo opravdu rozdělí na genově neupravené a upravené. Vemte si příklad že budete mýt možnost svému dítěti vložit do vínku lepší odolnost proti virům, lepší predispozice k učení a vyšší fyzické výkonnosti, delšímu životu, nebo jen zbavení se predispozice k nějakým chorobám. Ale celá sranda bude stát pár milionů. Je to investice která se předá do dalších generací, ale s partnerem bez úpravy je to 50 na 50. Koho si vybere vaše dítě k plození vnoučat?
Oprava genetických chyb je jedna věc a vylepšit člověka věc druhá. Pokud opravujeme genom, tak již dnes se ví jak a co, ale cokoliv upgradovat je problém. Ono se totiž neví, jaký výsledek to bude mít. Pokud budete chtít třeba prodloužit život, tak budete řešit systémem pokus omyl. Budete muset udělat X různých pokusů. No a pak čekat nejméně 90 let než začnou první "vzorky" umírat přirozenou cestou. Pokud nebudete mít úspěch, tak musíte začít znovu od začátku (nebo pokud "vzorky" zemřou při autonehodě nebo na nemoci předčasně). Ohledně genetického vylepšování jsem tedy skeptický.
Genetické rozdíly jsou i dnes. Někdo má holt smůlu a někdo štěstí. Přesto se lidstvo množí jedna radost nehledě na kvalitu potomstva. Takže vymření méně zdatnych rozhodně nehrozí.
Navíc genetické manipulace probíhají i spontánně. Evoluce je jedna velká genetická inzenyrka, která se snaží vylepšovat nové generace. Věda a civilizace ji dílo kazí, protože dává stejnou šanci na přežití a rozmnozeni i méně zdatnym jedincům. Čili věda a pokrok rovnaji šance na lepší život nikoliv naopak. To jsou akorát výkřiky nejrůznějších hnutí o tom, jak je kdo dneska znevýhodněn, aby zakamuflovali vlastní lenost a pohodlnost. Ono je to totiž strašně snadné vyrvavat, dělat bordel a protestovat, než se učit a tvrdě pracovat. Dnes má každý svůj osud ve vlastních rukou (mimo postižených lidí od narození, kterým by právě genetické inženýrství pomohlo) a stejné to bude i v příštích století. Proto nebojme se vědy, protože ta přináší benefit všem. Stačí porovnat soudobou životní úroveň s tou před dveste lety. Rozdíl markantní i pro běžný lid.
Doporučuju film Upgrade, 2018