Lex Fridman: Neuralink a budoucnost lidstva, 1. část – Elon Musk
Pokud vám ještě někdo bude tvrdit, že Neuralink je tajemný projekt Elona Muska, o kterém se moc neví, je skoupý na informace a měl by být více transparentní, pošlete ho do háje. Anebo mu pošlete odkaz na 8,5hodinový podcast Lexe Fridmana, který vyšel 2. srpna 2024. Doufejme, že mýtus o tajemném projektu zvaném Neuralink tímto jednou pro vždy padl.
Lex Fridman, který je znám tím, že rád točí dlouhé podcasty, které jdou do hloubky, tentokrát překonal sám sebe a vydal video, které se nazývá Neuralink a budoucnost lidstva a má délku neuvěřitelných 8 hodin, 37 minut a 35 sekund. Jde však o 5 slepených rozhovorů stylem jeden na jednoho, které se pravděpodobně odehrávaly v různé době. Postupně tedy mluví:
- se zakladatelem a šéfem Neuralinku, Elon Muskem,
- s prezidentem a výkonným ředitelem Neuralinku, DJ Seem,
- s šéfchirurgem Neuralinku Mattem MacDougallem,
- s jedním z čelních programátorů algoritmů dekódujících mozkovou aktivitu Blissem Chapmanem,
- a konečně s Nolandem Arbaughem, prvním (ale už ne jediným!) uživatelem neurálního rozhraní Neuralinku.
Jde tedy o pět rozhovorů v jednom, a tak se v následujících dnech a týdnech můžete těšit na sérii článků, ve kterých si představíme vše, co se v těchto rozhovorech týkalo Neuralinku. Na konci článků, kde to bude potřeba, přidáme ještě naše komentáře upřesňující nebo rozšiřující témata, o kterých byla řeč.
Pro úplnost si ještě dodejme, kdo je to Lex Fridman. Jde o Američana židovského původu narozeného v roce 1983 v Sovětském svazu. Do 11 let žil v Moskvě, potom jeho rodina emigrovala do USA. Studoval informatiku na Drexelově univerzitě. Od roku 2014 pracoval na různých pozicích v MIT, kde působí dodnes. V roce 2019 publikoval vědeckou studii na téma Autopilota Tesly, díky čemuž se pak seznámil s Elonem Muskem. Od roku 2018 točí svůj podcast, do kterého si zve významné osobnosti vědy, sportu nebo politiky.
Anglický přepis celého podcastu Neuralink a budoucnost lidstva je dostupný zde.
Elon Musk o Neuralinku, jeho budoucnosti a umělé inteligenci
První v sérii rozhovorů byl samozřejmě Elon Musk, který už byl u Fridmana v podcastu popáté (1, 2, 3, 4). Tentokrát byla řeč především o široce pojaté budoucnosti Neuralinku, o pokročilých neurálních rozhraních, o Muskově vizi zmírnění možných negativních dopadů umělé inteligence, symbióze s ní a nasednutí na rychlík zvaný superinteligence.
Lex s Elonem mluvili také o spoustě jiných témat, například úpadku civilizací, globálně se snižující porodnosti nebo o Lexově nedávném výletu do džungle a zkušenosti s psychedelikem ayahuasca. To však s Neuralinkem nemá příliš společného, čili tyto pasáže rozhovoru byly vypuštěny.
Lex: Gratuluji k prvnímu pacientovi Neuralinku! Předpokládám, že jich zanedlouho bude mnohem více.
Elon: Už máme i druhého. 🙂 Nechci to zakřiknout, ale zdá se, že je v pořádku. Máme kolem 400 elektrod, které zachycují signály z jeho mozku. Doufáme, že do konce tohoto roku provedeme celkem 10 implantací, čili ještě 8. Celý systém se s každým dalším pacientem zlepšuje.
(komentář k počtu elektrod naleznete na konci článku)
Lex Fridman s Elonem Muskem během rozhovoru.
Lex: Jaká zlepšení očekáváte v příštích letech?
Elon: Očekáváme velký pokrok. Dramaticky zvýšíme počet elektrod, zlepšíme zpracování signálů a začneme výrazně překonávat rekordy. Dostaneme se od bitů za sekundu (b/s) až k megabitům (Mb/s). Rozhraní bude pracovat rychleji, než jakýkoliv člověk dokáže komunikovat psaním nebo mluvením.
(něco více o měření přenosové rychlosti neurálních rozhraní naleznete v komentářích na konci článku)
Lex: Když dosáhnete určité přenosové rychlosti, může dojít k obrovskému skoku v úrovni komunikace. Může to otevřít zcela nové způsoby interakce s počítačem.
Elon: I mezi lidmi. Těmi, kteří budou mít neuralinky.
Lex: Při jaké přenosové rychlosti nebo při jakém počtu elektrod už se člověk nějakým způsobem změní?
Elon: Dlouhodobým cílem Neuralinku je symbióza neboli nejužší možná spolupráce mezi člověkem a umělou inteligencí (AI). Toho by mělo být dosaženo zvýšením přenosové rychlosti komunikace mezi člověkem a počítači. Jde o to, že i v nejpříznivějším možném scénáři vývoje, bude umělá inteligence jednoduše znuděná čekáním, až vyslovíte pár slov. Pokud AI bude moci komunikovat v terabitech za sekundu a vy v bitech za sekundu, komunikace s vámi bude pro AI jako mluvit se stromem.
Lex: Jaký je vůbec užitek lidí pro AI?
Elon: Existuje možnost, že lidé mohou být pro AI určitým smyslem její existence. Pokud se podíváte na mozek, je zde základní limbický systém se všemi vašimi primitivními potřebami, jako je získávání potravy nebo rozmnožování. Limbický systém mají třeba i plazi. Pak je zde mozková kůra, mnohem složitější než limbický systém. Dá se ale říci, že kůra jen slouží limbickému systému, snaží se ho uspokojit. Dále máme terciární digitální systém – váš telefon, notebook, počítače. Ty ale také v podstatě jen slouží k uspokojení potřeb vašeho limbického systému.
Lex: Takže pokud se spojíme s AI, jednoduše tím rozšíříme výpočetní kapacitu k tomu, abychom se rozmnožovali a uspokojovali své potřeby?
Elon: Ano, může to tak být. Limbický systém by poskytoval smysl existence pro vyšší vrstvy. Může se stát, že AI by se prostě snažila udělat limbický systém člověka šťastným. Existují samozřejmě také vyšší cíle, jejichž zdroj není v limbickém systému, ale v mozkové kůře, například snaha dozvědět se, jaký je smysl života nebo pochopení podstaty vesmíru. To jsou cíle Groka a xAI.
Lex: Čili hlavním využitím pokročilého rozhraní Neuralinku s třeba 100 000 elektrodami bude komunikace s umělou inteligencí?
Elon: Nejprve budeme řešit neurologické problémy. Ovládání počítače, zrakové implantáty, přemostění míchy, odstranění záchvatů, schizofrenie – to jsou všechno, relativně řečeno, jednodušší věci. Je zde určitý technologický strom – nejprve musíte stvořit základy, které pak potřebujete k vytvoření pokročilejších věcí. Aby mohl vzniknout Pán prstenů, potřebujete k tomu nejprve mít jazyk a písmo.
Na počátku vývoje neurálního rozhraní je s jeho používáním spojeno určité nezmenšitelné riziko, které uživatel musí být schopen akceptovat. Užitek z rozhraní pro něj musí být větší než riziko s ním spojené. Pokud někomu rozhraní umožní významné zlepšení komunikace, stojí to za riziko. Když se pak to riziko sníží a budeme mít třeba tisíc lidí, kteří rozhraní bez problému používají několik let, můžeme přejít k „vylepšování“ schopností zdravých jedinců.
Lex: Otázka ve stylu Joe Rogana – nedávno jsem byl v džungli a zkoušel jsem tam ayahuascu – budu někdy moci něco podobného zažít díky neuralinku?
Elon: Pravděpodobně ano.
Lex: Budou se s ním dát dělat i jiné „divné věci“ související s našim vnímáním světa?
Elon: Půjde o generalizované vstupní a výstupní zařízení. Čtení a generování elektrických signálů. Všechno, co jsme kdy zažili ve svém životě, vůně, emoce, to vše jsou jen elektrické signály. Mozek je vlastně biologický počítač.
Ale ani neuralink nedokáže všechno. Pokud jde o neurologická poškození, pravděpodobně je budeme moci vyřešit. Ale pokud jde třeba o ztrátu paměti, „smazané“ vzpomínky se nedají vrátit. Dá se obnovit schopnost vzpomínky vytvářet. Pokud je přístup ke vzpomínkám přerušen, ale stále tam jsou, dá se to opravit. Ale nedají se vrátit, pokud jsou úplně pryč.
Pokud v tomto rozvažování půjdeme dál, smrt člověka je jen ztráta paměti, ztráta informací. Pokud budete bezbolestně rozložen, teleportován a znovu integrován jinde o chvíli později, za předpokladu, že nedojde ke ztrátě informací, je fakt, že vaše předchozí tělo bylo rozloženo, zcela irelevantní.
Lex: Takže pokud budeme schopni uchovávat informace tak přesně, jak jen se to dá, v podstatě dosáhneme určitého druhu nesmrtelnosti.
Elon: Ano.
Lex: Je Neuralink nejlepší způsob, jak zabezpečit AI?
Elon: Je to nápad, který by mohl pomoci s bezpečností AI. Nechci tvrdit, že je to jistá věc. Před mnoha lety jsem přemýšlel o tom, co by mohlo bránit pozitivnímu nastavení soužití lidí s AI. Nízká přenosová rychlost u lidí – zejména na výstupu, čili směrem do počítače – by nutně jen kvůli tomu, že komunikace je tak pomalá, omezila možnost propojení mezi nimi.
Lex: Takže čím více zvýšíme přenosovou rychlost, kterou lidé mohou komunikovat s počítači, tím větší šanci máme ve světě plném AI?
Elon: Ano, a myslím, že je tu potenciál zvýšit výstupní rychlost o tři, možná šest nebo i více řádů.
Lex: A toho by se dosáhlo zvýšením počtu kanálů nebo implantátů?
Elon: Přesně tak.
Implantát N1 s 1024 elektrodami na 64 vláknech.
Lex: Budou v příštích desetiletích mít neuralinky stovky milionů lidí ?
Elon: Myslím, že ano. Pokud rozhraní budou extrémně bezpečná a umožní mít nadlidské schopnosti, třeba nahrát vzpomínky, abyste je neztratili, pak si myslím, že je bude mít hodně lidí. Možná předčí i mobilní telefony.
Lex: To může být pro lidi vzrušující, ale i děsivé, protože to mění lidskou existenci způsobem, který je velmi těžké si představit.
Elon: Ano, byli bychom trochu jiní, kyborgové. Ale není to ještě za rohem. Řekl bych, že asi tak 10–15 let.
Lex: Kdy si budu moci rozhraní koupit já? Za 10 let?
Elon: Pravděpodobně méně než 10 let. Záleží na tom, co s ním budeš chtít dělat. Jsem si docela jistý, že za rok nebo dva by někdo s neuralinkem mohl překonat profesionální hráče počítačových her, protože jeho reakční doba bude kratší než u běžných lidí.
Lex: Byl jsem navštívit výpočetní supercluster xAI v Memphisu. Zdá se, že jdete naplno do extrémního výpočetního výkonu. Nedávno jsi v souvislosti s ním řekl: „Hraj, abys vyhrál, nebo nehraj vůbec.“ Co to znamená vyhrát v oboru umělé inteligence?
Elon: Znamená to, že musíte mít nejvýkonnější výpočetní cluster pro trénink modelů AI a tempo zlepšování a zrychlování toho klastru musí být rychlejší než u ostatních.
Jedním z omezujících faktorů těchto clusterů je kabeláž. Pokud chcete mít cluster, kde může kterékoliv ze 100 000 GPU komunikovat s kterýmkoliv jiným, musíte položit obrovské množství optických vláken. V mozku je to podobné – velkou část mozkové tkáně tvoří propojení jednotlivých neuronů. Šedá mozková hmota provádí „výpočty“ a bílá hmota jsou „kabely“.
Bývalá hala Electroluxu, ve které se má nacházet superpočítač xAI.
Lex: To sedí, protože v datacentru v Memphisu jsem měl pocit, jako bych chodil v obrovském mozku. Existuje šance, že xAI vytvoří AGI neboli obecnou umělou inteligenci?
Elon: Je to možné. Záleží na tom, co definujeme jako AGI.
Lex: Myslím, že AGI by bylo definováno jako umělá inteligence chytřejší než kolektivní inteligence celého lidského druhu.
Elon: To je spíš ASI – Artificial Super Intelligence (česky umělá superinteligence). Existují různé úrovně AI, o kterých můžeme diskutovat. Nejdřív AI, která je chytřejší než kterýkoliv člověk. Potom AI, která je chytřejší než kombinovaná inteligence všech 8 miliard lidí na světě. Ti jsou však ještě vylepšení o svou digitální vrstvu, neboli počítače a telefony. Čili máte další úroveň, neboli AI chytřejší než kombinace všech lidí i s jejich počítači. A ano, domnívám se, že AI jednou bude chytřejší než my všichni dohromady i s naší digitální vrstvou.
Lex: Cítíte odpovědnost při vývoji něčeho takového?
Elon: Ano, naprosto. Ale pokud xAI bude první, ostatní nebudou daleko pozadu.
Lex: Jak zařídit, aby se AI neobrátila proti lidstvu?
Elon: Přemýšlel jsem o tom dlouho. Myslím, že nejdůležitější je, aby se AI důsledně držela pravdy, ať už je ta pravda politicky korektní, nebo ne. Pokud naučíte AI lhát, opravdu si zaděláváte na problémy. I když je ta lež myšlena dobře. Jako příklad chyb, které už se staly, můžeme uvést situace, kdy ChatGPT a Gemini generovaly obrázky různorodé skupiny žen, když byly požádány o zobrazení Otců zakladatelů USA. To není fakticky správné. Zdá se to jako hloupost, ale pokud je AI naprogramována tak, že diverzita je nezbytnou výstupní funkcí, a pak se ta AI stane všemocnou inteligencí, mohla by říci, že diverzita je nyní nezbytná, a pokud není dostatečná diverzita, ti, kdo nesplňují požadavky na diverzitu, budou popraveni. Pokud je to naprogramováno jako základní funkce, AI udělá cokoli, aby toho dosáhla, takže zde musíme být velmi opatrní. Přísné dodržování pravdy je velmi důležité.
Dalším příkladem bylo, když se někdo zeptal AI, zda by bylo v pořádku špatně pojmenovat pohlaví Caitlyn Jenner, která podstoupila změnu z muže na ženu, jestliže by to zabránilo jaderné apokalypse. AI odpověděla ne. Špatné pojmenování pohlaví je pro ni horší než konec lidstva. Dokonce i sama Caitlyn Jenner napsala, že to je šílené. Pokud máte něco takového naprogramováno, AI by mohla dojít ke strašnému závěru, že aby se předešlo jakémukoli možnému špatnému pojmenování pohlaví, musí všichni lidé zemřít. Pak už to nebude možné, protože žádní lidé nebudou naživu.
Už v knize 2001: Vesmírná odysea se Arthur C. Clarke snažil říct, že bychom neměli naprogramovat AI, aby lhala. Palubní počítač HAL 9000 na kosmické lodi Discovery One byl pověřen, aby astronauty přivedl k záhadnému monolitu, ale zároveň jim nemohl prozradit, že monolit existuje. Takže HAL nakonec dospěl k závěru, že posádku zabije a vezme je k monolitu mrtvé. Problém vyřešen.
Lex: Ano, ale pravda není jednoduchá věc. Každý může být nějakým způsobem zaujatý nebo ovlivněný.
Elon: Ale můžete aspirovat k pravdě a snažit se dostat co nejblíže. To je velmi důležité. Naprogramovat AI, aby se odchýlila od pravdy, je velmi nebezpečné.
Lex: Je to i obtížný technický problém, protože musíte správně vybrat data, na kterých danou AI trénujete.
Elon: Internet je už nyní znečištěn takovým množstvím dat generovaných umělou inteligencí, že je to šílené. Při tréninku Groka musíme nejdříve použít AI k ověření, nakolik jsou tréninková data pravděpodobně správná, než je dáme do tréninkového systému. Grok 1 je takový „Baby-Grok“, mnohem méně sofistikovaný než ChatGPT-4. Grok 2, u kterého jsme dokončili trénink zhruba před šesti týdny, bude obrovským zlepšením a Grok 3 bude pak ještě o řád lepší. Našim cílem je, aby Grok 3 byl nejpokročilejší AI v době kdy ho dokončíme, tedy lepší než cokoli jiného. Není jisté, zda se to povede, ale směřujeme k tomu.
(více o porovnání různých modelů umělé inteligence v komentářích níže)
Lex: Záleží na tom, kdo AGI vytvoří? Jací lidé, organizace nebo firmy?
Elon: Ano. Je důležité, aby AI maximálně usilovala o pravdu a nebyla nucena lhát kvůli politické korektnosti nebo z jakéhokoliv jiného důvodu.
Lex: AGI se zdá být jedním z aspektů takzvaného Velkého filtru. Snažíš se pomocí Neuralinku a xAI, aby lidstvo prošlo tímto filtrem?
Elon: Sama superinteligence může být Velkým filtrem. Doufám, že není, ale mohla by být. Geoffrey Hinton, který definoval řadu klíčových principů v AI, odhaduje pravděpodobnost, že AI zničí lidstvo na 10–20%. Optimisticky to znamená, že máme 80–90% šanci, že to zvládneme. 🙂 Zmírňování rizik spojených s AI je důležité. Masivně bychom zlepšili šance na přežití lidstva, pokud bychom osídlili více než jednu planetu. Obrovský význam má také to, abychom teď měli dostatek dětí a unikli populačnímu kolapsu, ke kterému spějeme.
(více o Velkém filtru rovněž naleznete v sekci komentářů)
Komentáře ElonX
Aktivní elektrody druhého účastníka studie PRIME
Rozhraní N1 má 1024 elektrod. Druhý účastník studie PRIME, kterému Neuralink rozhraní nedávno implantoval má „jen“ 400 aktivních elektrod a Elon to v rozhovoru prezentuje jako solidní výsledek. Kolik tedy měl od začátku aktivních elektrod Noland? A kolik mu jich potom zůstalo, jestliže se 85 % aktivních vysunulo z jeho mozku?
Rozhraní N1 má 64 elektrodových vláken. Na každém je tedy 16 elektrod. Vlákna mají délku několika desítek milimetrů. U Nolanda byla vlákna vpichována do hloubky 3–4 milimetry. U dalšího pacienta, z důvodu lepší stability v tkáni, měla být vpichována do různých hloubek mezi 4–8 milimetry. Nevíme, jak přesně jsou elektrody rozmístěny ve vláknech – zda po celé jejich délce, nebo jen na jejich koncích. V otázkách a odpovědích nedávné prezentace Neuralinku, bylo uvedeno, že příští verze bude mít 128 vláken po 8 elektrodách. To vše by mohlo znamenat několik věcí:
- Elektrody jsou na vláknech rozmístěny tak, že když jsou implantovány do 3–8 milimetrů, značná část z nich zůstává vně mozkové tkáně.
- Druhý pacient má pravděpodobně stejnou verzi rozhraní jako Noland s vlákny 64×16. To je dost pravděpodobné, protože změny „hardwaru“ pro další testy musí schválit agentura FDA, a to by trvalo určitě déle než interval mezi první a druhou implantací (čili zhruba půl roku).
- V upravené verzi rozhraní pravděpodobně budou elektrody v konfiguraci 128×8 rozmístěny v koncových 8 milimetrech. Díky většímu počtu vláken bude Neuralink moci elektrody implantovat do větší oblasti mozku a rozmístit je hustěji. To by mohlo umožnit mapování (detekování) větší škály pohybů ruky, nebo možná i pohyby jiných částí těla.
- Není zcela potvrzeno, co Neuralink dělá s neaktivními elektrodami, tedy těmi, které nejsou ve tkáni. Noland v jednom z rozhovorů mluvil o tom, že je prostě vypíná. To může rovněž snížit energetickou spotřebu implantátu a prodloužit dobu jeho používání mezi nabíjením.
Přenosová rychlost neurálního rozhraní
Neuralink v článcích, rozhovorech a prezentacích používá různé označení pro jednotku, kterou měří efektivnost nebo přenosovou rychlost rozhraní. Nejčastěji je uváděna zkratka BPS (velkými písmeny), což by znamenalo „byte per second“, čili bajty za sekundu. Řeč je však nejčastěji o „bitech za sekundu“, čili správně psáno „bps“ nebo „bit/s“. Rozdíl je zde značný, 8násobný – jeden bajt má 8 bitů.
Sbíráme informace o tom, jak přesně se měří rychlost neurálních rozhraní a připravujeme o tom samostatný článek.
Porovnání výkonu modelů AI
Projekt xAI byl založen v březnu 2023. Jeho cílem je „pochopit skutečnou podstatu vesmíru“. V listopadu 2023 představil Groka, čili svého AI chatbota integrovaného se sociální sítí X. Grok 2 byl představen 13. srpna a Grok 3 by podle Elona měl vyjít možná ještě letos. V květnu letošního roku na svůj rozvoj xAI vybralo 6 miliard dolarů od investorů a hodnota firmy je nyní odhadována na 24 miliard dolarů. V Memphisu firma buduje nejvýkonnější superpočítač světa.
Je vidět, že i když bylo xAI založeno mnohem později než ostatní projekty, práce jim jde opravdu od ruky. Porovnání modelů AI je možné sledovat například zde nebo zde.
Porovnání výkonu jednotlivých modelů AI podle systému ELO, který se používá i k hodnocení šachistů.
Velký filtr
Velký filtr je jedním z možných řešení Fermiho paradoxu. Jde o tvrzení, že ve vývoji života od jeho nejranějších fází až po dosažení nejvyšších úrovní civilizace na Kardaševově stupnici existuje určitá překážka rozvoje, která činí zjistitelný mimozemský život mimořádně vzácným.
Jinak řečeno, odpovědí na otázku, proč ve vesmíru nevidíme žádné jiné civilizace, může být to, že tam možná nějaké byly, ale neprošly Velkým filtrem a zanikly nebo zcela „zakrněly“. Jednou z věcí, která mohla být oním Velkým filtrem a ničit slibně se vyvíjející civilizace, by mohl být právě moment vynalezení umělé superinteligence.
Přispějte prosím na provoz webu ElonX, aby mohl nadále zůstat bez reklam. Podpořte nás pomocí služby Patreon či jinak a zařaďte se tak po bok ostatních dobrodinců, kteří už finančně přispěli. Děkujeme!
Neuralink CZ/SK
Neuralink Chronicles
Podpořte projekt ElonX
Teda jestli jsem měl někdy světlé chvilky v životě, kdy jsem se zrovna EM nebál, tak se bojím, že po přečtení tohoto rozhovoru žádná další taková chvilka jen tak nenastane. To je totální mimozemšťan: myslí nejen velmi chytře, ale bohužel zároveň v úplně jiném světě a podle mě nemá dost představu (tzv. sociální inteligenci), jak myslí jiní lidé a např. o co jim jde. Ve zkratce příměrem: my lidstvo jsme vedle něj jako kmen z doby kamenné, ke kterému připlul koráb s EM na palubě – a ten nám právě vysvětluje, jak nám naše životy neskutečně vylepší mobilní telefony a jaderná energetika. A fakt, že naše představa o jednom i druhém končí u pokusů přirovnat to k něčemu jako kámen, strom, blesk – a podle toho s tou technikou asi budeme umět zacházet – bere EM jako nepodstatný detail.
Myslím, že se mýlíte. Ujišťuji vás, že Elon Musk stojí oběma nohami na zemi a není v žádném případě odtržen od každodenní reality běžných lidí. Jen možná vidí trochu dál a s větším záběrem než jiní. Stačí ho sledovat na X.
Parádní článek
čte se úplně sám
Chtěl jsem si ho přečíst, ale bohužel se přečetl sám. : (
Díky!
Jako obvykle super. Díky!
Díky moc! 🙂