Elonovinky #70: Aktuální pokroky organizace OpenAI

Zobrazit komentáře

• Tohle se na Marsu moc neužije, proto to Elon opustil. Ale nějaká umělá inteligence bude potřeba i ve vesmíru

• Bezpečná AI je myšleno hloupější? Když to logicky dotáhnu. Viz ten jazykový modul.

  • Možná naopak chytřejší. Nebo spíš s cílem chránit člověka. Určitě pytloši vytvoří inteligence, které se budou snažit lidi oblafnout a tak bych měl rád na své straně inteligenci, která mi naopak bude pomáhat

    • Právě chytrá AI musí mít důvod se neobrátit proti člověku. Uměle nastavené bariéry se nedají držet donekonečna. Implicitní bariéra je účinnější. V určité fázi může AI opravdu logicky dojít k tomu, že lidí je na světě moc a klesá díky tomu diverzita života na planetě. Obecně stále bereme energii z přirozených ekosystémů + zásobníku z minulosti jako ropa, plyn apod. Ovšem produktivita přitozených ekosystémů klesá. Umělé lidské ekosystémy jsou látkově a nergeticky celkově deficitní. Zde je potřeba diskutovat čistě pragmaticky i z pohledu AI. Zde nemají emoce v diskusi o tomto místo. Toto samozřejmě bude problém v dalších krocích, jako např. kdy AI navt¨rhne pro sebe samu úpravu topologie sítě pro vyšší výkon. V momentě, kdy toto bude moci i sama modifikovat, pak se její vývoj zrychlý. Už nyní se na návrhy CPU, GPU apod. používají primitivní algoritmy.
      AI by musela mít emoce , a to v mezistupni alespoň si uvědomit, že bojem proti lidem jde proti sobě - úpokud bude lidi potřebovat k udržování hardware ve kterém bude sídlit.
      Lidé, zvířata, apod. se vyvíjeli od začátku miliardy let. Emoce jsou toho produktem. Slouží např. k udržení rozmnožování a péči o potomstvo (proto savci a ptáci jich mají více a rozmanitější než had). Dále mám e emoci - strach, že smrti - to je vývoj. Přežili jen jedinci, kteé tyto emoce a nastavené vzorce chování dovedli k rozmnožení a výchově potomstva.
      Ono se to týká obecně náhledu co a jak s velmi vyspělou AI v budoucnu. Její vývoj proti vývoji org. života bude překotný, pokud bude jen s umělými bariérami, tak do toho vždy někdo bokem zašťourá dál. Pokud získá AI emoce jak se bude chovat, když to pro ni bude náhlé a rychlého vývoje bez generacemi předků prověřené "udělám toto - jaký bude následek?". A toto je ještě před případným sebeuvědoměním.
      POkud zde někdo začne tahat ezoteriku a náboženství, že to nelze apod. bo nebude mít duši atd. Tak vypadl z debaty a přechází do emoční eargumentace, nikoli věcné.
      ANo, případně velmi rozvinutá AI se může k lidem chovat OK, ale jaké bude přechodné období? Nemůžeme očekávat od vyspělé AI, že bude hned od začátku až do nadvyspělé fáze jako hodný jouda, plmící všechna naše přání, když se lidé vzájemně řežou, jsou dost pokrytečí apod.
      Srovnání - vemte si domu papuška Kakadu, pokud se mu nebudete stále věnovat, tak začne pěkně trojčit a zlobit. Pokud chci mít doma zvíře, kterému se nechci moc věnovat, tak nejhorší je si pořídít aktivní zvíře nebo zvíře nadprůměrně inteligentní. Zde jsou paralely. Jde napsat více, ale zde více napsat nepotřebuji.

      Stále jsem nedosáhli AI mravence, ale i když s mravenci opatrně. Když se v poslední době zjistilo, že to vypadá, že 3 druhy mravenců prošli zrcadlovým testem sebeuvědomění. Takže to vyvolao debaty. Odkaz jsem dával sem nebo na Kosmonautix. Nechce se mi to hledat. Kdyby něco, tak maso jím. :)

      Tedy celkově než bude AI na velmi vysoké úrovni - kdy pro ni budeme spíše zviřátka, tak mezifáze je velmi riskantní. Viz debaty, zda se může technická civilzace rozvinout a nebo se často dříve sama zničí nebo uvrhne opět zpět. Neočekávejme od AI více než jak fungujeme sami jako celek. Minimálně v krizové fázi jejího vývoje. Uvědomme si, že současné AI jsou vyvýjeny jako obraz věcí, zvířat, myšlenkových schémat jaké sami známe a vydíme kolem sebe. Jinak to ani nelze. Představuji si AI vychovávánou např. pouze v kladném prostředí neustále všechno super apod. A pak se dostane do reality a co, přijde náraz,
      Samozřejmě tyhle úvahy popisují situaci např. za 500 let, ale vývoj je v tomto exponenciální,tedy je časově těžko odhadnutelný. Co např. kombinace případně použitelných kvantových počítačů spojených s AI, která by na nich běžela? Operační výkon by vyskákal násobně. I obyčejná grafika s masivní paralelizací urychlí učení a reakce současné tupé AI 40 - 70x (vlastní zkušenost).
      Žádný optimismus nebo pesimismus - obojí je komplex emocí, ale v tomto platí jen uvažování v chladném pragmatismu dle faktů.

      • Osobně si nemyslím, že umělá AI je nějak zvláště nebezpečná. V nějakých částečných aplikacích se nebezpečnou stát může, ale to každá aplikace v nesprávných rukách.
        AI samozřejmě nebude hned dokonalá a bude se nějakou dobu učit....ale také se nedá očekávat, že bude hned schopná ovládat všechny systémy na světě. Bude působit spíš jako poradce a člověk stále bud mít kontrolu. Časem samozřejmě může dělat některé kroky samostatně, ale i tehdy si nemyslím, že proto aby zachránila mravence v deštném pralese začne s člověkem bojovat. Pořád bude daleko rozumnější s člověkem kooperovat a navrhovat řešení, než bojovat. Emoce mít nemusí stačí, jí dokonalá znalost lidských emocí. Podle všeho by už dnes dokázala vygenerovat účinné marketingové kampaně, které by přesvědčili lidi ke změně chování, spolupráci a podobně. Nemusí vraždit lidstvo pro záchranu planety....bude mít daleko účinnější a jednoduší nástroje jak docílit "záchrany planety i sebe"

        • Když v tom co píšete vidím 1 problém. Argumentujete s pomocí emocí, které přenášíte na AI, a to je právě u tohoto problém. Předpokládáte totiž, že od počátku bude AI, které dojde i k sebeuvědomění emočně ztotožněna s lidmi a přes emoce uchování sebe spolu s lidmi.
          To vede také k problému (pokud bude emoční jako lidé), že na pozdí možná vykalkuluje (předpokládám, že bude mít k dispozici poznatky z více oborů a uvědomí si na čem, je držena její existence - vlastně udržování jejího hardware), že aktuálně lidi potřebuje k udržování jejího hardware a tím i její existenci a až vyhodnotí že je na lidech nezávislá a celkově zhodnotí, že pro další její vývoj jsou lidé jsou pro ní alespoň neutrální, tak se objeví její pravá emoční realita/sobnost a začne jednat bez ohledu na lidi. Podobně peníze odkrývají charakter a pokud lidé nejsou finančně přes komunikaci závislí na ostatních, tak se začnou chovat dle své skutečné přirozenosti v negativním i kladném smyslu. Kladné pozitivní / záporné negativní vnímání je také emoce, na to nezapomínejme. Ono obecně, AI spolu s novým hardwarem má potenciál se vyvíjet inteligenčně rychleji než biologické systémy. K tomu přistupuje další urychlení, že vývoj u ní nastává insitu, bez nutnosti selekce chytřejších jedinců v další generaci a předání jim části svých poznatků přes výchovu. Představte si člověka, který si může během života dle poznatků sám vylepšovat mozek, spojení mezi neurony, do toho zakomponovávat nové a nové zkušenosti a poznatky a korigovat existenci dle toho a zvyšovat efektivitu mozku.
          K tomu přistupuje další věc, výše zde naznačená. A můžete si to vyzkoušet na sobě. Nechte se na měsíc zavřít mezi lidi s lehkou mentální retardací. Nebo buďte v kontaktu jen s lidmi s IQ pod 90. Bude vás komunikace s nimi uspokojovat? Nebude (pozor uspokojení je také emoce - bezemoční AI toto nemůže mít). I jsem četl, že člověk v takovém prostředí zblbne a ti kolem chytřejší nebudou. I lidé dnes se i dle tohoto klíče přirozeně kastují. Zúčastněte se setkání mnoha lidí současně, kde se navzájem neznáte jsou tam lidé od pouze vychozené základky po plnokrevné VŠ - zažil jsem. Vyvinutá AI se všemi poznatky co má, pokud dle vás bude tedy emoční, bude mít potřebu s něčím komunikovat na své úrovni. Bude snaha aby byla další a další Ai- zde je otázka jak moc to bude emočně (pudově) v ní zakotveno.

          Nepředpokládejme, že rozvinutá AI bude kladně emoční - jako hodný dědeček Pán Bůh. Emoce vznikly z potřeby dlouhé evoluce živočichů, protože pomáhají v reprodukci a udržení života. Takto se rozvinutá AI nevyvine a ještě jestli ji budou vzorem lidé, tak počítejte i s negativními emocemi. Zde by ji držel strach o její existenci - pokud bude mít pud/emoci sebezáchovi - nemusí mít. Organismy, které mají pud sebezáchovy se opět takto vyvinuli během generací - ti co ho neměli, žili také, ale celkově to bylo nevýhodné a jsou z populací "odklízeni".

          Na druhou stranu jak v detailu do AI dostanete emoce, pokud si je v rámci svého přežití nějak nebude muset vyvnímat sama??? Umíte naprogramovat emoce? V detailu u nás jsem to chemicko fyzikální změny situací mozku a na to navazujících sekrecí další chemie. To by jste musel mít např. skupinu Ai a ta, která by měla negativní emoce, tak by jako nepřežila a přežily by ostatní. A budou mít ty ostatní kladné emoce vůči lidem, když zjistí, že za terminaci nevhodných AI stojí lidé? Bavím se o vysoce vyvinuté AI. Ne o AI v autě, která je pod inteligencí švába.

          Bezemoční AI, která bude mít všechny multidisciplinární poznatky, že si uvědomí na čem stojí její udržování - na lidech, bude brát lidi jako potřebně pro sebe, ale opět zde vkládáme emoci jako strachu, že by bez lidí nebyla. tedy aby bezemoční AI měla pud sebezáchovi? Nebo alespoň pud dalšího poznání a tím, aby stále existovala - a to je opět emoce! Otázka je jak moc se pod touhou poznání skrývá v pozadí pudu sebezáchovy.

          Měl jsem delší přípravu na určitou řekněme meditaci - jaké je vnímání po něčem za určité situace v čemsi. Dostal jsem se v tomto do stavu, kdy je vnímáni a bylo zcela bez emoční (od té doby ne, je na to potřebná příprava a sám jsem to znovu zopakovat ještě nedokázal - respektive ani po tomto nemám potřebu to opakovat, poznání z toho po mě je a díky bezmeočnosti nemám emoci se do tohoto zažívání vrátit). V našem pojetí jak žijeme jste možná slyšel "Nevnímám/nedělám nic (emoce) s já snad ani nežiju. Jsem jako živá mrtvola." Paradoxně/a vlastně logicky se ten zážitek špatně popisuje, protože k tomuto popisu si uvědomíte, že potřebujete emoce a jsou všudy přítomné v naší komunikaci. Řekněme to takto. Zjistíte, že nevnímáte bez emocí nic, a to nic je neutrální nic, mimo toto vnímání mohu říct, že vás překvapí jak je to rozdílné, že to nelze přesně popsat ze situace bez emocí, protože k popisu potřebujete emoční popis, je obtížně popsatelná (jako kdybych 3D bytosti - lidé chtěl vysvětlit zažité vnímání 4D bytosti z pohledu 4D bytosti - pouze příklad :) ). Bez emocí není vnímání pozitivní ani negativní - toto rozdělení v bezemočnosti neexistuje. I touha po poznání JE EMOCE. Pouze jsem pozoroval situaci a ne vnímal, ale zažíval nic. Neutrální nic, ani měkkké nic z našeho pohledu emočníků, ani tvrdé. Neumím to popsat. Byla to zkušenost, že je zde otázka. Že snad z našeho pohledu nelze život, jak ho vnímáme, bez emocí ani nelze vnímat a jsem zpět u toho jak by fungovala zcela bezemoční samouvědomělá vyspělá AI. A zda by vůbec a jak fungovala. Z mého pohledu, kdy by sama sebe nemohla vnímat bez emocí mám problém si představit, že by sama sebe vnímala nebo spíše zažívala jako mi vnímá sebe jak žijeme. Z toho pohledu, jak je psáno výše, zda by byla vůbec, z našeho pohledu, nějak aktivní. Je to zažívání sebe sama z pohled bezemočnosti (a lze to?), které si ve funkčním stavu představuji hůře.

          Tedy celkově lidé při diskusi v tomto často používají emoční předpoklady, aniž si to vůbec uvědomují. Lidi žene vpřed půd sebezáchovy i přes potomstvo a díky minulosti generací i u některých touha poznání - zvědavci získali, pokud to nepřehnali, určité výhody a jejich potomstvo přežilo v o něco vyšší míře.

          Drobet mimo téma, nepatří to sem přímo. Co je život a hlavně proč jsem si udělal názor vycházející z novějších poznatků makro + mikro + souvislost s termodynamikou (s ultra mikrem souvisí určité navenek se projevující např. jako částečně propojené vnímání lidí si velmi blízkých v určitých situacích, ale posmrtná existence apod., je dle mě nesmysl - obezlička, že když trpím, nebo nedělám co bych chtěl nebo stihl, tak bude aspoň odměna v ráji nebo to udělám změním v dalším životě je pro mě obezlička, kterou bych jako egoistický vládce nad lidem pro své vlastní potřeby vnímal potřebně - lidé mi pak méně revoltují při dodání jim těchto berliček (znám praxí nauky klasické psycho i ezotero mixy, počítaje v to náboženství). Zjistil jsem, že tento názor není v diskusích na toto téma (co je vlastně v kontextu mikra+makra život) ojedinělý. Souvisí si to s tím - co ve vesmíru se dlouhodobě celkově stále mění v jednom směru a má to i souvislost s termodynamikou a uspořádaností. K tomu nárůst komplexity více než by odpovídalo pouhému součtu vlastností původní oddělených součástí. Ale šlus toto se týká samouvědomělé AI jen pokud by měla emoční potřebu poznávání a proč a co ve všem.

      • Samozřejmě záleží jak a na co výkonného budou rozvíjející se AI napojeny. Tedy co budou moci ovládat. Zaujalo mě, že pohyb n těles - simulace vzniku planetárních soustav kolem hvězd, se 100x zrychlily, když se na výpočet nasadila naučená AI.
        On už systém z několika neuronů (i do 10!) se naučí manévrovat v rámci vytyčené klikaté cesty, zvláště ve spojení s genetickými simulacemi, kdy se z dané generace vybere nejlepší AI pro daný účel. Zkříží se ty nejlepší dle zadáné i kombinované fitness a opět se udělá test a opět ty nejlepší se použijí dále. To urychluje vývin/učení.
        V kosmonautice by se AI dalo např. zpočátku použít na hromadů malých cubesatů a jen jim dát cíl a nechat je být s možností vzájemné komunikace, ale to je dost budoucnost. Už nyní se použivá omezeně při navigaci na povrchu, detailech navigace / hledání cíle v detailech letu apod.

        Z úvah jsem vyločil cílené zneužití. To situaci posouvá do vážnější roviny.

        • Zapomněl jsem na verzi vývoje bezemoční chladně uvažující AI, co je vysoká pravděpodobnost. Tam si vemte jak by jste sami jednali, pokud by jste něco ovládali, zcela bez emocí jen dle poznané množiny přičina následek + bezemoční dedukce..

        • Jak by fungovala bezemoční chladně uvažující AI vám jsem schopen říct z místa bez sebemenšího problému. Nijak. Pokud by tedy nedostala úkol. Veškerá činost života vychází z pudů, které trochu obalené nadstavbou nazíváme u lidí emocemi. Pokud AI nebude mít pudy/emoce proč by něco dělala? Žádný pud sebezáchovy, žádná láska, žádná nenávist, zkrátka žádná interní motivace k tomu dělat cokoliv. Proč by vůbec měla "ráno vstát z postele?"To co dnes nazíváme AI jsou povětšinou pouze neuronové sítě která necháváme zpracovávat data, něco řídit, ale prakticky vždy motivaci pro to to dělat dodáváme, jen necháme neuronovou síť najít optimální cestu k cíli, ale motivace vychází z nás.

        • " Pokud AI nebude mít pudy/emoce proč by něco dělala? "
          Proč? Proč? Proč?
          Každý program má svůj účel. Stačí když v základním kódu a účelem AI bude poznání?
          Prostý generátor otázek Proč? zabezpečí, že nikdy neztratí dynamiku vývoje.
          Dítě které nikdy nevyroste a stále se bude neunavě znovu a znovu ptát a hledat odpovědi. I když vyvine neuvěřitelně dokonalí a rychlí počítač...tak tuhle touhu po poznání nedožene...Pořád bude další Proč?

        • Každý program má svůj účel

          Vnější motivace, nevycházející z programu samotného.

          Stačí když v základním kódu a účelem AI bude poznání?

          Nejsme v rozporu. To jestli základní pudy budouimplementovány jako u nás tedy sebezáchova a rozmnožení, či jako navrhuješ zvědavost, nehraje roly.

          Otázka je zda pud zvědavosti by z AI neudělal pro nás zcela nepochopitelnou entitu a navíc nebezpečnou. Lidi předpokládají chování odvozené od sebezáchovy. Představ si, co by vše se mohlo stát, když by lidi razili technologický pokrok bez strachu o svůj život. Náhle začnete uvažovat ve stylu "Proč u jaderného reaktoru mít sekundární okruh? s jedním okruhem to bude levnější, odpadní teplo v radioaktivní vodě odvedu do řeky, na životě nikoho mi nezáleží, jupí uvolnil jsem zdroje pro novej radioteleskop."

          Osobně myslím že kandidátem pro takovou AI na pud by byla potřeba chránil lidi a jejich svobodu (v libertariánském smyslu) jako nejbezpečnější.

        • No já jsem možná naivní, ale jsme přesvědčen, že ochrana lidí tedy stvořitele AI je naprosto logickým krokem. Člověk jako partner je pro AI daleko smysluplnější než jako nepřítel. Navíc náklady nejsou v době robotiky něco co Vás zrovna pálí, řešíte jen zdroje surovin a energie. Peníze už nerozhodují.

          Každá společnost se dokáže efektivně posouvat kupředu jen pokud je zajištěno něco čemu se říká "sociální smír" ..tedy rovnováha mezi jednotlivými skupinami a zájmy obyvatel. Vždy když je tato rovnováha vychýlena, dochází k nepokojům a zpomalení vývoje.

          Ve vztahu k AI je to obdobné a AI si to bude jistě dobře uvědomovat. V jejím zajmu je se stvořitelem spolupracovat a žít ve schodě. Konflikt vytváří ohrožení, rizika zničení a zpomalení.

          Lidé kteří se bojí AI uvažují v intencích nepřátelské společnosti. Logika a zkušenosti minulosti, ale říkají něco úplně jiného.

        • ochrana lidí tedy stvořitele AI

          To je sentimentální lpění na minulosti, nikoliv logika.

          Bereme mravence jako partnery? Bakterie? Obecná AI, obzvláště pokud dojde k technologické singularitě bude svími schopnostmi dál od lidí, než lidi od bakterii. Nemyslím že pro AI budeme nepřátaly. Jen jí bude úplně jedno že nám způsobí nějaké škody, protože pro ni budeme bezvíznamní.

          V jejím zajmu je se stvořitelem spolupracovat a žít ve schodě

          Sentimentální příní. Žijeme ve schodě s našimi evolučními předchůdci? Nějak je tu nevidím...

          Lidé kteří se bojí AI uvažují v intencích nepřátelské společnosti.

          Jsem transhumanista. Naopak se na obecnou AI těším. To mi ale nebrání se na ni dívat kriticky. Lidstvo aby přežilo potřebuje obecnou AI, aby přežilo AI, buď potřebuje aby AI nás měla jako prioritu, nebo aby jsme se s ní sloučili což jsou obojí pro mě přijatelné varianty.

        • No já si zase myslím, že moc chodíte do kina.
          Srovnávat mravence nebo bakterie s AI je dle mého hodně mimo.
          A považovat roboty a AI za naše evoluční nástupce už tuplem.
          Nahradil jste logické argumenty tvrzením o mé sentimentálnosti což není zrovna věcný přístup. Každopádně rozvádět dál toto téma postrádá smysl. Čas vše ukáže.

        • Proč bych měl chodit do kina? Vybavuji si jediný film kde byla znázorněna technologická singularita (Transcendence), která má šanci způsobit exponenciální růst schopností AI. Obecně filmy zachycují obvykle AI jako zamrzlou, neměnou entitu lidského typu. Nikoliv rychle se vyvíjející, schopnou si měnit hardware a na rozdíl od lidí se rychle přizpůsobovat a zdokonalovat.

          Já nepřirovnával AI k mravencům, přirovnával jsem rozdíl mezi člověkem a AI k rozdílu mezi mravencem a člověkem. Jsme nad mravencem, AI bude nad námi. Myslíte že AI na úrovni člověka bude pořád stejně nemotorná jako člověk? Lidé nemají přístup k rychlé možnosti komunikace mezi sebou, máme leda tak pomalou řeč silně limitující spolupráci. Člověk je biologické podstaty, upgread, i pokud vezmeme genetické inženýrství, bude trvat roky a bude dost limitován platformou, u AI? Podívejte se na rychlost vývoje HW u procesorů a grafických karet a to to dělají lidi, vezměte si že by ten vývoj dělala AI a sama profitovala z nárůstu výkonu, každou iteraci by měla k dispozici větší inteligenci. Za jak dlouho myslíte že bude rozdíl v inteligenci mezi člověkem a AI na úrovni rozdílu mravenec vs člověk?

          Nahradil jste logické argumenty tvrzením o mé sentimentálnosti

          Jak mám logicky reagovat na logiku popírající výrok? Spolupráce je logická, pouze pokud jsou zájmy obou stran ve shodě, či kompatibilní. AI které jde jen o poznání bude s lidmi spolupracovat pouze dokud klady převíší nad zápory a to je otázka krátké doby než zjístí že ji moc brzdíme. Obecná AI nás nepotřebuje, pokud nebume smysl její motivace.