Umelá inteligencia: Prísľub technologickej revolúcie

Umelá inteligencia, časť 1: Prísľub technologickej revolúcie – internet, bitcoin a umelá inteligencia – OBSAH

1. Žijeme v sci-fi budúcnosti?
2. Prepájame mozgy
3. Polarizácia
4. Emergentné javy
5. A nie je to nebezpečné?

Žijeme v sci-fi budúcnosti?

Žijeme v sci-fi budúcnosti z 90-tych rokov? Mnohé z technológií, o ktorých písali autori science fiction koncom minulého tisícročia sú už tu. William Gibson písal o „matrixe“ (predchodca internetu) a umelej inteligencii. Neal Stephenson aj William Gibson popisovali metaverse, kde roboty čistili ulice od spamu a mohli ste sa nakaziť (lingvistickým) vírusom. Skoro vo všetkých sci-fi existujú nejaké elektronické peniaze („kredity“), ktoré sú viac či menej stopovateľné a sledovateľné. Realita je však zaujímavejšia ako sci-fi knihy, zvlášť keď si o nej nečítate v historických publikáciách alebo sa o nej neučíte na hodine dejepisu, ale zažívate ju live. V tejto sérii článkov sa budeme venovať umelej inteligencii, ale na začiatok ju zaradíme do širšieho kontextu, pretože funguje v pomerne zaujímavom prostredí, ktoré jej rozširuje možnosti.

Koncom 90. rokov minulého storočia sme sa začali prepájať. Mailing listy, emaily, IRC. Boli to prvé sociálne siete, ktoré sa neskôr zjednotili okolo slobodných a otvorených projektov (Free and Open Source). Otvorený bol postupne nielen softvér, ale aj obsah a „prístup“ ku komunikácii. Zrazu ste mohli napísať email prakticky komukoľvek na svete.

Toto prepojenie urýchlilo fenomén globalizácie a umožnilo nám interaktívnu komunikáciu s viacerými ľuďmi. Chatovacia komunikácia v kanáloch bola dostatočne interaktívna (na rozdiel od emailu), ale zároveň umožňovala asynchrónnu interakciu (na rozdiel od telefónu a konferenčných hovorov, ktoré boli navyše ešte aj príliš drahé).

Prepájame mozgy

Vytvorili sme aj paralelné – občas šifrované a občas anonymizované – komunikačné siete, niečo, čo nazývam cyphersphere. Používali sme šifrovaný chat (SILC, IRC-SSL), šifrovanie emailov pomocou PGP, mixmaster a anonymné remailery. To všetko vytvorilo formu organických mastermindových skupín, ľudia si vymieňali názory, nápady a výsledky svojej práce. To opisuje Peter Russel vo svojom videu Global Brain z roku 1983. Stali sme sa vzájomne prepojenými.

Na tomto „prepájaní“ je dobré uvedomiť si vznik väčších celkov. Molekuly vďaka emergentým javom vytvorili bunky. Miliardy buniek vytvorili mnohobunkové organizmy, ktoré sa správajú ako jeden celok, aj napriek tomu, že žiadna jednotlivá bunka nie je nijak zásadne „inteligentná“. Miliarady až bilióny neurónov vytvorili zložité nervové sústavy.

Táto agregácia prebieha aj na úrovni internetu – počítače prepojené cez internet vytvorili web a neskôr sociálne siete, vďaka ktorým dochádza k emergentným javom aj na úrovni ľudstva.

Ak sa pozeráme na tento vývoj spätne, mohli by sme nadobunúť nesprávnu predstavu, že všetky tieto vývojové stupne boli výsledkom nejakého dizajnu alebo „programu“, ktorý ľudia nasledovali, aby postúpili na nejakú vyššiu úroveň organizácie. Samozrejme, mnohí myslitelia (filozofi, autori sci-fi a iní) mali rôzne nápady, či rozvojové programy pre ľudstvo. Ale mnohé išli úplne iným smerom. Luditi ničili stroje, cenzori pálili knihy. Komunikácia, prepojenie a spolupráca nie je niečo, čo sa páči každému. A aj mnohým tým, ktorým sa páči, viac chutí predstava, že budú tento progres vymýšľať alebo riadiť. Adam Ferguson (škótsky filozof a priateľ Adama Smitha) ešte pred Hayekom povedal, že sociálne štruktúry všetkého druhu boli „výsledkom ľudskej činnosti, ale nie realizáciou ľudského zámeru“ („the result of human action, but not the execution of any human design“).

Tak ako mravce v kolónii spolupracujú na tvorbe štruktúry na vyššej úrovni (mraveniska, kolónie mravcov), je to výsledok decentralizovaných jednoduchých rozhodnutí, bez toho, aby niekto vytvoril „big picture“ dopredu.

To je pekne vidieť na open-source vývoji umelej inteligencie. Vývoj je rýchly a nie je ho schopný žiadny (akokoľvek výnimočný) jednotlivec sám. Je to spojenie inteligentných ľudí a kapitálu, kde kryptomeny budú odohrávať veľmi dôležitú koordinačnú funkciu. Niekto natrénuje model, niekto vymyslí ako ho lepšie vyladiť, niekto ho preportuje na iné GPU, vytvorí k nemu API alebo nad ním postaví aplikáciu. Tento rozvoj nezávisí len od šikovných jednotlivcov, ale od ich spolupráce – a to aj napriek tomu, že nerobia v jednej firme, nepoznajú sa a vo väčšine prípadov ani nevedia, že spolupracujú.

Polarizácia

Píšem tu o prepojení, ale mnohí z vás pravdepodobne poukážu na to, že sme extrémne polarizovaní. Vzájomné prepojenie však nie je o tom, že sme všetci rovnakí, ale o tom, že sa vzájomne ovplyvňujeme a pozorujeme emergentné javy vo výslednom celku.

Vďaka polarizácii vidíme, že sa vzájomne ovplyvňujeme, ale tribalizácia nás rozdeľuje – to vo väčšom systéme ľudských interakcií vytvára paralelné skúmanie a testovanie myšlienok.

Možno ste počuli údaje, že „využívame len 10 % kapacity nášho mozgu“, čo je zavádzajúce. Prečo?

Nepotrebujeme celú svoju kapacitu. Špecializácia a „sústredenie“ jednotlivých častí nášho mozgu sú superzručnosťou. Mimochodom, presne táto myšlienka stojí za tým, prečo súčasná umelá inteligencia funguje – priniesla špecializáciu vo forme pozornosti, v paperi „Attention is all you need“ (Pozornosť je všetko, čo potrebujete) bola predstavená architektúra transformátora, ktorá umožnila rozkvet AI. Ak zadáte vstup ChatGPT alebo inému jazykovému modelu, neurónová sieť nevenuje každej časti vstupu rovnakú pozornosť.

Načo využívať celú kapacitu mozgu, ak môžeme použiť tie časti, ktoré práve potrebujeme? Ako biologický mozog, tak aj umelá neurónová sieť takto šetrí výpočtovú kapacitu a energiu.

Skupina vývojárov Bitcoinu sa zameriava na vývoj Bitcoinu, iná skupina nadšencov permakultúry sa zameriava na pestovanie skvelých potravín. Kmene a polarizácia nám umožňujú nasmerovať našu pozornosť a „globálny mozog“ tak funguje lepšie. Vznikajú tak komparatívne výhody a špecializácia.

Internet vytvoril prepojenia medzi mozgami ľudí. Bitcoin nám umožňuje túto energiu nasmerovať. Umožnil vznik „šifrovacej sféry“ – paralelnej informačnej a komunikačnej siete, ktorá umožňuje spravovať vzácne zdroje bez správcu.

Emergentné javy

A to je práve to, čo majú umelá inteligencia, internet, Bitcoin, ale napríklad aj mnohobunkové organizmy alebo ekosystémy spoločné – pomocou dostatočne voľných, ale zároveň nie chaotických interakcií vzniká na vyššej úrovni komplexita, ktorá je viac ako súčtom jednotlivých častí. Bitcoinov je 21 miliónov, ale vzájomne výhodných (teda hodnotu vytvárajúcich) interakcií je nekonečne veľa. Pomocou obmedzeného množstva bitcoinov nedokážeme vytvoriť hodnotu vo veľkosti trhovej kapitalizácie Bitcoinu, ale prakticky zhora neobmedzenú hodnotu. Kŕdeľ vtákov ukazuje správanie, ktoré je komplexnejšie ako správanie, ktorého je schopný každý jednotlivec. Kolónia mravcov je „inteligentnejšia“ ako akýkoľvek inteligentný člen kolónie. Ale „kolónia“ ľudí – ľudská spoločnosť – je inteligentnejšia ako akákoľvek kolónia mravcov.

Na inteligencii a schopnostiach jednotlivcov záleží. A záleží aj na schopnosti komunikovať. Delfíny sú pomerne inteligentné, ale majú menej synapsií (prepojení medzi neurónmi). Aj preto delfínia spoločnosť nevytvorila pokročilú civilizáciu ako ju poznáme v prípade ľudí.

To však znamená, že ak človeka posunieme na vyššiu úroveň, napríklad dodaním nových neurónov – „AI“ – kôry, môžeme očakávať veľké pokroky na úrovni spoločnosti. V ideálnom prípade, ak spolu so zlepšovaním schopností jednotlivcov sa bude zlepšovať naša spoločnosť komunikácie (internet) aj ekonomickej interakcie (bitcoin).

Vďaka technológiám ešte pred AI sme dokázali výrazne rozšíriť svoje schopnosti. Technológie rozširujú možnosti našich tiel. Nahý človek, ktorého vysadíte v neznámom prostredí možno dokáže časom pochopiť ročné obdobia a nájsť si jedlo, ale ak mu dáme nejaké technológie (napríklad základné nástroje) a spoluprácu, jeho schopnosti sa zväčšia výrazne.

Teraz máme komunikáciu s tou správnou skupinou ľudí, obchodovanie umožňuje smerovanie energie a technológie nám umožňujú rozšíriť možnosti našich tiel a myslí.

Traktor alebo poľnohospodársky stroj nám pomôže vypestovať viac potravín, ako keby sme používali holé ruky. Dobrý počítač pripojený na internet s vyhľadávačom a wikipédiou môže rozšíriť možnosti našej mysle.

Ak sa pozrieme na ľudských jedincov, naše mozgy veľmi nerástli (sú obmedzené veľkosťou pôrodných ciest našich matiek). Ale schopnosti nášho vedomia rastú.

Koľko „bodov IQ“ (hoci je to veľmi problematická miera, zatiaľ pri nej zostanem) nám pribudne len tým, že máme telefón s prístupom na Google, Wikipédiu, kalkulačku, sme v správnej Signal skupine – alebo len taká hlúposť ako virtuálne pravítko? A čo aplikácia na tvorbu máp? Človek s takýmito technológiami v ruke je rádovo inde ako pračlovek, aj keď jeho mozog je rovnako veľký.

Teraz mu do toho pridajme všetky dostupné typy umelej inteligencie. A to nehovorím len o veľkých jazykových modeloch, ako je GPT-4 (alebo LLaMA, Bloom, StableLM, FLAN, Bert, ...). Hovorím o preklade (DeepL), generovaní obrázkov (Stable Diffusion, Midjourney), rozpoznávaní reči (Whisper), vylepšovaní zvuku (auphonic), či simulácie fyzikálnych javov (siml.ai).

To všetko rozširuje možnosti našej mysle. Je to, ako keby nám narástol väčší mozog. To výrazne rozširuje naše vedomie. Nie sme nahí ľudia, osamotení v divočine, sme moderní ľudia so smartfónmi vo vrecku, pripojení na internet a úžasnými nástrojmi.

A nie je to nebezpečné?

Ako povedal Paul Rosenberg vo svojom newsletteri Free Man’s Perspective, model pravidiel a vládcov sa skúša už stáročia. Zlepšovanie spoločnosti pridávaním nových pravidiel jednoducho nefunguje. Žijeme vo veku vesmírnych technológií s technológiami vládnutia z doby bronzovej.

Ľudia nie sú stroje, sme komplexné bytosti a keďže naše interakcie generujú spoločenskú komplexitu, mali by sme byť riadení niečím iným ako sadou príkazov a pravidiel. Interakcie by sa mali riadiť pravidlami, ale ako som hovoril vyššie – komplexita na vyššej úrovni má dve podmienky – nesmie byť úplne chaotická, ale zároveň musí byť dostatočne voľná. Rozširovaním pravidiel dochádza k okresávaniu možností, ničeniu kreatívnej deštrukcie a centralizácii. Takýto prístup zabíja komplexitu a ako spoločnosť degenerujeme.

Čo teda funguje? Našťastie všetky tri spomínané technológie výrazne rozširujú naše možnosti. Dobrých ľudí je rádovo viac ako skutočne zlých. Existuje niekoľko zmätených ľudí, veľmi málo psychopatov, ale väčšina ľudí je dobrá – aj keď vás neznášajú, tak vás nezabijú a dokonca ani nezbijú.

To znamená, že ak tieto technológie vo veľkej miere rozšíria naše vedomie (a schopnosti nášho tela všeobecne) a zároveň dobrí ľudia boli vo veľkej miere kreatívnejší a produktívnejší (jednoducho preto, že sa zameriavajú na produktívne veci), tá dobrá časť bude rásť viac a rýchlejšie.

Je to preto, že všetky tri aspekty – internet, bitcoin a umelá inteligencia – majú pozitívnu spätnú väzbu. Zlí ľudia môžu robiť zlo efektívnejšie, ale jednoducho tu nie je toľko sieťových efektov a akcelerácie individuálnych schopností. Ak niekto nie je produktívny, urobiť 2× toľko mu reálne nepomôže.

Ani nie stokrát. Malé číslo krát 100 je stále malé číslo. Ak je niekto produktívny a kreatívny, každá z týchto technológií teraz zavádza do jeho produktivity pozitívnu spätnú väzbu.

Upozorňujem, že nehovorím o budúcnosti, toto sa už deje teraz.

Štáty (sila ničiaca hodnoty) v podstate vysávajú bohatstvo zo spoločnosti, ale stále sú príliš pomalé vzhľadom na to, ako rýchlo rastieme.

Šifra (internet aj bitcoin) nám dokonca umožňuje oddeliť tvorivosť od pozorných očí štátov a uniknúť tejto hodnotovej deštrukcii v mnohých oblastiach. Nie je to dokonalé, ale deje sa to.

Neviem, čo sa stane s budúcnosťou. Možno nás umelá inteligencia všetkých zabije. Ale toto sa deje práve teraz – rastieme ako jednotlivci, komunikujeme ako organické komunity, spoločne tvoríme. A energia prúdi – medzi jednotlivcami, medzi skupinami. Pozornosť sa sústreďuje v skupinách a vytvára multiplikatívne efekty.

Attention is all you need.

Juraj Bednár

Som cypherpunker, mám rád slobodu, súkromie, peer to peer technológie a terminálové okná. Skúmam chaotický svet, volatilitu a neistotu, bojujem proti entropii - zakladám firmy, neziskové projekty, robím kurzy a píšem knihy. Som spoluzakladateľ Paralelnej Polis, hackerspace Progressbar, či bug bounty platformy Hacktrophy. Vyštudoval som odbor umelá inteligencia a umelá inteligencia sa vrátila - tak ako som ju nikdy nepoznal. O všetkých týchto skúsenostiach píšem blog.