Thomas Oxley, šéf Synchronu, konkurenta Neuralinku, se na X dost detailně rozepsal o tom, co soudí o dlouhodobé vizi Elona Muska a Neuralinku.
Podle Elona jsou neurální rozhraní jedním z možných řešení pro zmírnění eventuálních negativních scénářů soužití lidí s obecnou umělou inteligencí (AI) a superinteligencí (ASI). Možných scénářů je jistě mnoho, ale většinu z nich spojuje to, že lidstvo je marginalizováno anebo přinejmenším zůstává výrazně pozadu. Zabránit by tomu měla právě pokročilá neurální rozhraní, která lidem umožní mnohem rychleji komunikovat, integrovat se s nástroji umělé inteligence a vylepšovat sebe sama po všech možných stránkách.
Thomas Oxley však označuje tuto vizi za neúplnou a na X se zamýšlí nad možnými dopady nezodpovědného vývoje rozhraní. Řeší zde některé zásadní otázky bezpečnosti, autonomie, kontroly a etiky. Dozvídáme se mimochodem i to, že Oxley se stal spolupředsedou nově vytvořené Rady pro neurotechnologie Světového ekonomického fóra, což je zřejmě i důvodem, proč svůj příspěvek napsal.
Thomas Oxley:
Vize Neuralinku o srovnání lidstva s umělou inteligencí (AI) je neúplná. V době neurálních rozhraní využívajících AI se musíme hlouběji zamyslet nad kognitivní autonomií jedince. Neurální rozhraní AI nezkrotí, ale mohla by změnit lidstvo.
Příští týden na konferenci Nvidia GTC představíme nový program Synchronu, který posouvá neurální rozhraní integrovaná s AI na další úroveň. Peter Yoo bude prezentovat naši vizi inteligenčního paradigmatu, kde se umělá inteligence učí přímo z lidského poznání.
Elon Musk s Neuralinkem propaguje názor, že neurální rozhraní jsou potřebná k vyřešení problému soužití lidí s AI – že díky navýšení rychlosti komunikace mezi lidmi a AI budeme moci s umělou inteligencí udržet krok.
To ale nedává smysl.
Rozhraní nemohou vyřešit soužití s AI. Problémem není rychlost komunikace, ale kontrola chování. Umělá inteligence se rozvíjí exponenciálně, zatímco lidské poznávací schopnosti – bez ohledu na to, jak vylepšené – zůstanou biologicky omezeny. I s pokročilými rozhraními bychom stále mysleli hlemýždím tempem ve srovnání s obecnou umělou inteligencí. A co teprve s obecnou superinteligencí? Bezpečnost umělé inteligence závisí na jejím regulování a dohledu, nikoli na jejím zapojení do našich mozků. Soužití s AI musí být řešeno v situaci, kdy lidé nikdy plně nepochopí každý výstup nebo rozhodnutí modelu AI. Je to velký problém naší doby, ale nevyřeší ho neurální rozhraní.
Ve skutečnosti to může být opačné, než tvrdí Elon. Rozhraní by mohla rizika soužití s AI ještě zhoršit. Algoritmy už teď manipulují s lidským poznáním (například TikTok a jiná sociální média nebo reklamní nástroje). Jejich integrace přímo do našeho mozku nás vystavuje riziku, že umělá inteligence bude formovat naše myšlenky, touhy a rozhodnutí, a to na úrovni, kterou možná ani nebudeme vnímat.
Skutečný příslib neurálních rozhraní není o ovládání umělé inteligence, jde o lidský rozkvět. Jednou ze základních lidských vlastností, zakódovanou v naší DNA, je snaha o zlepšování našeho života. Pro pacienty s neurologickým poraněním to znamená obnovení ztracených funkcí. V budoucnu se zdá nevyhnutelné, že tyto snahy budou zahrnovat i vylepšování. Neurální rozhraní nám umožní překročit naše fyzická omezení, lépe se vyjadřovat, komunikovat a tvořit. Podobně jako auta, letadla nebo počítače – každý z těchto vynálezů změnil to, co znamenalo být člověkem.
Tohle všechno mě vedlo k formulaci jednoduchého, ale zásadního etického rámce pro integraci neurálních rozhraní a umělé inteligence. Jde o tři pilíře, které řeší nejvýznamnější rizika, včetně autonomie, soukromí a diskriminace.
Zajímá mě zpětná vazba od naší komunity (zejména mé spolupředsedkyně nově vytvořené Rady pro neurotechnologie Světového ekonomického fóra, Nity Farahany, nicméně tyto názory jsou mé vlastní). Pilíře, o kterých mluvím, jsou lidský rozkvět (angl. human flourishing), kognitivní suverenita (angl. cognitive sovereignty) a kognitivní pluralismus (angl. cognitive pluralism).
Neurotechnologie by měla být hnací silou blahobytu, rozšiřování lidského potenciálu a zlepšování kvality života. Musí umožnit jednotlivcům zlepšit jejich kognitivní a fyzické schopnosti a zároveň respektovat základní právo na sebeurčení. Inovace by měly upřednostňovat lidské aktivity, naplnění jedinců, dlouhodobé společenské přínosy a zajištění, aby pokrok povznášel lidskou důstojnost. Regulace oboru by měla umožnit zodpovědný pokrok, aniž by přidávala zbytečné bariéry, které by omezovaly osobní autonomii nebo přístup k technologiím zlepšujícím život.
Pokud to uděláme špatně:
Pokud to uděláme správně:
Jednotlivci musí mít absolutní kontrolu nad svými vlastními myšlenkovými procesy, bez vnější manipulace nebo nátlaku. Soukromí a bezpečnost jsou prvořadé – uživatelé musí vlastnit a kontrolovat svá mozková data a zajistit, aby byla chráněna před zneužitím korporacemi, vládami nebo algoritmy řízenými umělou inteligencí. Rozhraní musí zabránit podvědomému nebo přímému ovlivňování a chránit před skrytými nebo zjevnými vlivy umělé inteligence v rozhodování. To může vyžadovat decentralizovanou, uživateli řízenou infrastrukturu pro udržení kognitivní autonomie. Rozhraní by měla obecně zlepšovat život uživatele, ne ho zhoršit.
Pokud to uděláme špatně:
Pokud to uděláme správně:
Zajištění respektování a oceňování různých kognitivních modelů, perspektiv a způsobů myšlení. Kognitivní rozmanitost, podobně jako neurodiverzita, musí být chráněna a podporována, aby se zabránilo tomu, že jeden model inteligence, vnímání nebo poznání bude dominovat na úkor ostatních. To zahrnuje řešení kulturní diskriminace mezi uživateli a neuživateli neurotechnologií v době, kdy budou neurální rozhraní stále více rozšířená. Přístup k neurotechnologiím musí být demokratizován, aby se zajistilo, že se nová vylepšení nestanou nástrojem pro vyloučení ze společnosti, ale potenciálním prostředkem posílení pro všechny.
Pokud to uděláme špatně:
Pokud to uděláme správně:
Neurální rozhraní mají potenciál předefinovat lidské schopnosti, komunikaci a kreativitu – ale pouze pokud budou vyvinuty v prostředí s jasnými etickými mantinely. Upřednostněním lidského rozkvětu, kognitivní suverenity a kognitivního pluralismu můžeme zajistit, že tyto technologie jednotlivce posílí, než aby snižovaly autonomii, soukromí nebo společenskou soudržnost. Rozhodnutí, která nyní učiníme, určí, zda se rozhraní stanou nástrojem pro větší lidský potenciál nebo mechanismem kontroly a rozdělení společnosti.
Noland už používá své neurální rozhraní 14 měsíců. V delším textu na X se rozepsal…
Blíží se start mise Fram2, která bude první pilotovanou výpravou mířící na polární dráhu. Posádka…
V dalším shrnutí novinek a zajímavostí o Neuralinku bude řeč například o těchto tématech: Apoorv…
Dnešní přehled novinek se bude věnovat využití satelitní služby Starlink ve vlacích. Nejprve se podíváme…
Služby satelitní konstelace Starlink nacházejí uplatnění v oblasti vzdělávání a zdravotnictví. V článku se podíváme…
První uživatel mozkového implantátu od Neuralinku už nejednou překonal rekord v přenosové rychlosti neurálních rozhraní.…
Zobrazit komentáře
Děkuji za článek. Více konkurence je vždy výhoda pro zákazníky.